Привет, Хабр! Я Михаил, CTO VizoGEN, и расскажу о нашем курьезном пути к поиску доступных AI-ресурсов. Изначально мы начинали с видеокарты 3080 TI, но вскоре потребности возросли, и нам понадобились более мощные решения. Когда наши модели перевалили за 55 ГБ видеопамяти, возникла необходимость в серверных картах Nvidia Tesla. Тестирование H100 у провайдера показало запредельные цены — $18-19K в месяц только на R&D. Обратимся к Китаю, и вот тут начались приключения. благоприятная ситуация для Nvidia сравнению ресурсов для ИИ

Мы столкнулись с проблемами доставки образа ПО на сервер из-за Великого Фаервола, отсутствием доступа к GitHub и Pip, а также языковым барьером. Но помощь пришла от сотрудников Tencent Cloud. В итоге, после четырех дней борьбы с настройкой окружения, нам удалось запустить необходимое оборудование по значительно более низкой цене.

Для тех, кто ищет дешевые AI-ресурсы, есть два варианта: Китай или совместное финансирование с единомышленниками. Мы выбрали Китай — это сложно, но возможно. Надеюсь, наш опыт поможет вам избежать многих проблем!