Несмотря на то что Nvidia Tesla V100 существует уже восемь лет, она остается эффективной в задачах локального запуска нейросетей. Автор канала Hardware Haven провел тесты, собрав уникальный ПК с использованием Tesla V100 SXM2, которая в свое время стоила тысячи долларов в дата-центрах. Сейчас ее можно купить на вторичном рынке за около $100. Однако для установки потребуется адаптер SXM-to-PCIe, отдельное питание и самодельная система охлаждения, что увеличивает общую стоимость сборки до $235.

В тестах ускоритель показал впечатляющие результаты: в тесте GPT-oss 20B он достиг 130 токенов в секунду, опередив Radeon RX 7800 XT с 90 токенами/с. Также V100 оказалась быстрее RTX 3060 12 ГБ, выдавая 108 токенов/с против 76. При этом старая карта демонстрировала высокую энергоэффективность, оставаясь быстрее RTX 3060 даже при ограничении мощности в 100 Вт.

Это говорит о том, что старые серверные GPU могут быть отличным выбором для локального запуска нейросетей, особенно для энтузиастов, готовых поработать с адаптерами и охлаждением. Особенно интересна 32-гигабайтная версия Tesla V100, которая сейчас стоит около $400–500 и может стать находкой для запуска более сложных LLM-моделей.