ИИ ускоритель Intel Gaudi2 бросает вызов Nvidia A100 и H100

Чип Intel Gaudi2 стал единственной альтернативой графическим процессорам NVIDIA для обучения нейронных сетей типа LLM. Тесты подтверждают это, сообщает wccftech.com.

Intel прямо сейчас заявляет о лучшем соотношении цена/производительность, чем у A100, при рабочих нагрузках FP16 и намерена превзойти NVIDIA H100 к сентябрю (при рабочих нагрузках FP8). Это довольно амбициозная цель, но у компании есть контрольные показатели, подтверждающие ее.

Вот краткий общий обзор результатов: 

• Gaudi2 показал впечатляющее время обучения на GPT-31: 311 минут на 384 ускорителях; 
• Почти линейное 95% масштабирование от 256 до 384 ускорителей на модели GPT-3;
• Отличные результаты обучения по компьютерному зрению — ускорители ResNet-50 8 и Unet3D 8 — и моделям обработки естественного языка — ускорители BERT 8 ​​и 64;
• Повышение производительности на 10% и 4% соответственно для моделей BERT и ResNet по сравнению с ноябрьским представлением, что свидетельствует о растущей зрелости программного обеспечения Gaudi2.