Intel Gaudi 2 превзошла NVIDIA H100 в производительности ИИ
46
Искусственный интеллект-ускоритель Intel Gaudi 2 становится серьезным конкурентом для продуктов Team Green (NVIDIA) и Team Red, превосходя их по производительности в области глубокого обучения.
Благодаря сотрудничеству с Hugging Face, компания Habana создала оптимизированный пользовательский класс конвейера, позволяющий пользователям запускать модели Llama 2 на Gaudi 2 всего в нескольких строках кода. Этот конвейер обеспечивает гибкость, простоту использования и абстракцию, а также предварительную и последующую обработку текста.
Производительность Intel Gaudi 2 в сценариях обучения и вывода превосходит NVIDIA A100. Ожидается, что третье поколение ускорителя Intel Gaudi будет конкурировать с GPU Team Green H100 AI.
