Свежие новости

Alibaba анонсировала запуск Qwen3-Next-80B-A3B — мощной модели с 80 миллиардами параметров, которая отличается высокой эффективностью. В отличие от своих предшественников, эта архитектура активирует всего 3 миллиарда параметров для обработки каждого токена, что позволяет сократить затраты на обучение и инференс в десять раз по сравнению с Qwen3-32B. Особенно хорошо модель справляется с текстами длиной от 32 тысяч токенов и более. сравнении с Qwen3-32B

В основе Qwen3-Next-80B-A3B лежит гибридная архитектура Gated DeltaNet + Gated Attention, обеспечивающая баланс между точностью и скоростью. Также применяется схема Mixture-of-Experts с 512 экспертами, из которых одновременно активируются только десять.

Модель поддерживает Multi-Token Prediction, позволяя предсказывать несколько слов сразу, что ускоряет генерацию текста без потери качества. В тестах Qwen3-Next-80B-A3B обходит Qwen3-32B и приближается к флагману Qwen3-235B. Специализированные версии модели показывают впечатляющие результаты, особенно Qwen3-Next-80B-A3B-Thinking, превзошедшая Google Gemini-2.5-Flash-Thinking в задачах рассуждений. Qwen3-Next-80B-A3B доступна на Qwen Chat, HuggingFace и других платформах.

News Reporter