Компания Alibaba Cloud анонсировала свою новую систему Aegaeon, которая обещает кардинально снизить потребность в видеокартах Nvidia для обеспечения работы AI-моделей. Эта инновация может сократить количество необходимых GPU почти в пять раз, что решает важную проблему облачных сервисов — неэффективное распределение вычислительных мощностей. В традиционных системах только несколько моделей, таких как Qwen или DeepSeek, используют ресурсы в полном объёме, тогда как множество других остаются бездействующими, что приводит к нерациональным затратам. Система Aegaeon динамически перераспределяет вычислительные ресурсы, позволяя ускорителям работать с несколькими моделями одновременно. Один GPU теперь может обслуживать до семи моделей, в то время как ранее их число не превышало двух или трёх. Кроме того, задержки при переключении между задачами были сокращены на 97%. Aegaeon уже внедрена на маркетплейсе Bailian от Alibaba Cloud, где доступны сотни AI-моделей от сторонних разработчиков. Эксперты полагают, что данная система станет ключевым шагом к более устойчивым и экономичным решениям в сфере AI, особенно в условиях нехватки мощных GPU. моделей, таких как Qwen стратегию в сфере генеративного ИИ