Компания Microsoft, согласно последним данным, разработала набор инструментов, который обеспечивает возможность исполнения программного кода, изначально созданного для платформы Nvidia CUDA, на графических ускорителях AMD. Эта инициатива направлена на уменьшение зависимости от доминирующей экосистемы Nvidia в области ИИ-вычислений. инструментами для работы с кодом CUDA зависимости от доминирующей экосистеы Nvidia

Microsoft планирует транслировать код CUDA в формат, совместимый с программной платформой AMD ROCm, что позволит более эффективно использовать графические ускорители AMD для задач, связанных с искусственным интеллектом, особенно для инференса, то есть для работы с готовыми моделями. Это может значительно снизить затраты, поскольку решения от AMD часто доступны по более низкой цене.

Информация о новом ПО была предоставлена высокопоставленным представителем компании, который отметил создание нескольких инструментов для облегчения конвертации моделей CUDA в ROCm, что открывает возможности для их запуска на ускорителях AMD, таких как Instinct MI300X.

Технически, решение Microsoft, скорее всего, использует подход, схожий с проектом ZLUDA, который перехватывает и транслирует вызовы API CUDA в ROCm, не требуя от разработчиков полного переписывания кода. Однако стоит отметить, что платформа ROCm все еще считается менее зрелой по сравнению с CUDA, и некоторые API могут не иметь прямых аналогов, что потенциально может снизить производительность. В настоящее время инструментарий находится в ограниченном внутреннем использовании.