Команда DeepReinforce анонсировала свою систему CUDA L2, которая автоматически создает код для матричного умножения на GPU. Эффективность новой системы впечатляет: ядра, созданные CUDA L2, превосходят производительность cuBLAS и cuBLASLt на 10–30%. Эти библиотеки, разработанные специалистами NVIDIA, считаются стандартом оптимизации, что подчеркивает значимость достижения. новый AI-редактор кода для CUDA

CUDA L2 кардинально меняет подход к оптимизации, используя сочетание большой языковой модели и обучения с подкреплением, что позволяет генерировать CUDA ядро для конкретных размеров матриц. Эта система обрабатывает около тысячи реальных конфигураций матриц, что делает ее результаты более универсальными. В тестах CUDA L2 в среднем на 17–22% быстрее, чем torch.matmul и cuBLAS, а в условиях серверного сценария ускорение достигает 24–29%.

Авторы планируют расширить метод на новые архитектуры и конфигурации, ставя перед собой цель сделать CUDA L2 новым стандартом оптимизации в индустрии.