Недавно Alibaba анонсировала свою новую коллекцию моделей Qwen3-VL, доступную по ссылке: здесь. В блоге компании рассказано о возможностях, которые предоставляют эти модели. Они могут отвечать на вопросы на 32 языках и обрабатывать изображения. Например, пользователь может загрузить картинку или нарисованную страницу и получить HTML-код на основе предоставленного материала. Модели также способны распознавать текст и объяснять математические формулы. Кроме того, стоит отметить, что контекст у моделей достигает 256k. В коллекции представлены варианты с и без «рассуждений». контекст у моделей достигает 256k

Пользователь, который ранее использовал GPT-OSS-120B, теперь перешел на Qwen3-VL-30B-A3B-Thinking-FP8, что позволило ему работать с изображениями. Хотя по количеству очков GPT-OSS-120B впереди, именно Qwen3-VL-30B поддерживает обработку изображений. Скорость генерации токенов у обеих моделей схожа.

Также была выпущена версия vllm 0.11.0 с поддержкой новой модели. Однако запуск возможен только при наличии достаточного объема GPU. VLLM не имеет пользовательского интерфейса, предоставляя только API для взаимодействия. Для работы с моделью можно использовать OpenWebUI, что обеспечивает возможность отправки текстов и изображений.