Канадский стартап Taalas, основанный Любишей Байичем, с гордостью представил свой дебютный продукт — специализированный чип HC1 с «захардкоженной» Llama 3.1 8B. В отличие от традиционных решений, чип не загружается в память: его веса фиксируются на этапе производства, что обеспечивает невероятную скорость — 17 000 токенов в секунду на одного пользователя. Эта цифра в десять раз превышает показатели GPU и предполагает существенную экономию на производстве и потреблении энергии. Байич с командой, в состав которой входят его жена Лейла и Драго Игнятович, реализует концепцию специализации, создавая отдельный чип для каждой модели. Это сокращает время производственного цикла и упрощает архитектуру. Нынешняя модель ограничена по качеству, но Taalas уже работает над более продвинутыми чипами, нацеливаясь на конкурентоспособность с ведущими игроками в отрасли. новый чип от Nvidia анонсы NVIDIA нового чипа