Сальваторе Санфилиппо, известный как antirez, опубликовал на GitHub свой новый проект voxtral.c, представляющий собой реализацию модели Voxtral Realtime 4B от компании Mistral на чистом языке C. Эта модель с 4 миллиардами параметров способна преобразовывать речь в текст, получая аудио с микрофона или из медиаданных, а процесс сборки может быть выполнен одной командой make. При этом проект не требует никаких внешних зависимостей, таких как Python или PyTorch.
Voxtral Realtime 4B — это потоковая модель speech-to-text от Mistral, основанная на Ministral 3B и использующая аудиоэнкодер Whisper large-v3. Она поддерживает обработку аудио длиной до 30 минут с контекстом в 32 000 токенов, а размеры весов модели составляют около 8,9 ГБ. Лицензия на проект — Apache 2.0, а запуск модель обычно требует vLLM. Реализация antirez позволяет обойтись без этого стека.
Проект также поддерживает ускорение через Metal Performance Shaders для Apple Silicon и OpenBLAS на Linux, а также может захватывать звук с микрофона в реальном времени на macOS и принимать аудио через stdin. Для удобства разработчиков в репозитории есть также простая Python-реализация модели. Этот проект является третьим в серии «ИИ на чистом C», предшествующими ему стали flux2.c и gte-pure-C. Все они созданы с использованием Claude Code, следуя традиции минималистичных решений, как в проекте llama2.c Андрея Карпати. проект TeraFab проект Linux Platform Kit