Чип Intel Gaudi2 стал единственной альтернативой графическим процессорам NVIDIA для обучения нейронных сетей типа LLM. Тесты подтверждают это, сообщает wccftech.com.
Intel прямо сейчас заявляет о лучшем соотношении цена/производительность, чем у A100, при рабочих нагрузках FP16 и намерена превзойти NVIDIA H100 к сентябрю (при рабочих нагрузках FP8). Это довольно амбициозная цель, но у компании есть контрольные показатели, подтверждающие ее.
Вот краткий общий обзор результатов:
- Gaudi2 показал впечатляющее время обучения на GPT-31: 311 минут на 384 ускорителях;
- Почти линейное 95% масштабирование от 256 до 384 ускорителей на модели GPT-3;
- Отличные результаты обучения по компьютерному зрению — ускорители ResNet-50 8 и Unet3D 8 — и моделям обработки естественного языка — ускорители BERT 8 и 64;
- Повышение производительности на 10% и 4% соответственно для моделей BERT и ResNet по сравнению с ноябрьским представлением, что свидетельствует о растущей зрелости программного обеспечения Gaudi2.