Intel представила ИИ-ускорители Gaudi 3, которые лучше NVIDIA H100 по производительности и энергоэффективности⁠⁠

💥 Компания Intel представила множество новых продуктов, среди которых ИИ-ускорители Gaudi 3. По заявлениям создателей, они позволяют обучать нейросети в 1,7 раза быстрее, на 50 % увеличить производительность инференса и работают на 40 % эффективнее конкурирующих H100 от NVIDIA, которые являются самыми популярными на рынке.

💎 Intel также поделилась собственными тестами производительности, сравнив Gaudi 3 с системами на основе H100. Gaudi 3 справляется с обучением нейросетей в 1,5–1,7 раза быстрее. Сравнение велось на моделях LLAMA2-7B и LLAMA2-13B на системах с 8 и 16 ускорителями, а также на модели GPT 3-175B на системе с 8192 ускорителями. Intel не стала сравнивать системы на Gaudi 3 с системами на H200 от NVIDIA, у которого на 76 % больше памяти, а её пропускная способность выше на 43 %. При этом Intel заявляет о 2,6-кратном преимуществе в энергопотреблении по сравнению с H100.

#intel #Gaudu3 #Видеокарта