AMD представила серию ускорителей Instinct MI300
Красавица восхищается твоей RX 480 купленной у майнера.
Ускорители обещают стать ведущими в области искусственного интеллекта и высокопроизводительных вычислений. Эти устройства выделяются своей высокой пропускной способностью памяти, что критически важно для генеративного ИИ и обучения больших языковых моделей. Ускорители AMD Instinct MI300X оснащены впечатляющим объемом памяти - 192 ГБ HBM3, а также обеспечивают пиковую пропускную способность памяти 5.3 ТБ/с. Текущий конкурент от Nvidia H100 имеет 80 ГБ HBM3 памяти. На базе данных ускорителей AMD будет делать сервера для ускорения вычислений MI300X в одном сервере будет 8 ускорителей, которые будут иметь общую видеопамять в размере 1.5 террабайта, решение от Nvidia DGX H100 имеет 640 гигабайт общей памяти, на лицо преимущество в 2.4 раза. Современные большие языковые модели (LLM) продолжают увеличиваться в размере и сложности, требуя огромного объема памяти и вычислительных ресурсов.