2

ИИ ASIC

В конце февраля 2026 канадцы из Taalas представили свой первый рабочий ASIC (специализированная плата строго под ИИ, в данном случае в кремнии вшита конкретная матричная модель с весами), который вполне возможно доберется до полок магазинов, если до него раньше не доберется жадный корпоративный монстр в кожаной куртке, просто бизнес ничего личного, и пузырь на рынке ОЗУ кстати тоже.

ИИ ASIC

Краткая спецификация:

  • Llama* 3.1 8B в инфиренсе на скорости 16000 токенов в секунду

  • потребление 200W на карточку

  • 20x раз дешевле обычных видеокарт

  • при техпроцессе TSMC 6nm, площадь чипа 815мм2, с 53B транзисторов

  • контекст не ограничен

  • DeepSeek на чипе обещают в массы к концу года

Сравнение с аналогами (Grok реально доступен и работает, но в розницу не поставляется, а стоимость одной nvidia b200 что-то в районе 40тыс $, а универсальные игровые и непрофильные профрешения: RTX 6000, amd ryzen ai max 395, dgx spark, rtx 5090 просто лихорадит в сторонке с цифрами 40-300 токенов/модуль)

ИИ ASIC

Поиграться с демкой можно здесь (понимает русский, но это самая слабая модель много ожидать не стоит): https://chatjimmy.ai/ , но опять же представьте себе генерацию текста, видео или аудио в реальном времени, без значительных затрат.

Вполне возможно, что процессор сделают съемным, добавят какой-то ПЗУ для LORA-надстроек и обновлений и т.д.

Представим, что видеокарты наконец-то останутся геймерам и проф-разработчикам, а бум на рынке ОЗУ и ПЗУ исчезнет навсегда.

*Компании и продукты, признанные экстремистскими и запрещены в РФ.

Источник новости и картинок: taalas.com

0
Автор поста оценил этот комментарий

Сколько нужно "транзисторов" чтобы поместить модель?

Так-то 1-100К слогов можно и через последовательный порт передать. Но вот сама модель.. сомневаюсь, что можно поместить её в SRAM микросхемы.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

это инженерный вопрос, но получается, что сам чипсет - это ПЗУ с матричными весами модели + управляющие блоки, прямо из спецификации при техпроцессе TSMC 6nm, площадь чипа 815мм2, с 53 млрд транзисторов транзисторов на модель Llama 8b с квантованием (тут точные данные не помню). Почти вся эта память под RAM, соответственно на что-то более мощное нужен мощный техпроцесс, большая площадь кристалла (тут есть физические ограничения) или как вариант пока дробить модель на несколько асиков (в данном случае достаточно сделать сменный чип). Посмотрим, что будет к концу года. В принципе при малейшей угрозе потери рынка nvidia сама может клепать асики как это получилось с майнингом...

0
Автор поста оценил этот комментарий

Ну сколько SRAM они могут встроить в чип? Кот накакал.

Так ИИ не сможет работать.

Одна надежда на PCIe, но всё время качать данные туда сюда по относительно небыстрой шине - ну такое себе..

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

тут сама архитектура - чипсет = модель + свой ЦП, а данные передаются через PCI-E, там юзб более чем достаточно для инфиренса текста на вход 1-100К токенов/слогов, на выходе 1-10К токенов/слогов, в данном случае это тот самый оптимизированный NPU, где простая модель типа лама лежит в транзисторах, получается что обходит более универсальную RTX 5090 в вычислениях в 50-100 раз (которой надо передать запрос + всю модель по шине). Ну асики для биткоина также работали - быстро считали, то что надо. При том разработкой таких асиков занимаются большинство крупных ИИ компаний США и немного Китай, но nvidia об этом не упоминает, иначе инвесторы очень расстроятся, да и покупателям больше не продашь. А так получается не они мало горящих топовых карточек производят, а покупатели (игроки, сервера, энтузиасты) мало платят за искусственный дефицит.

показать ответы
0
Автор поста оценил этот комментарий

Значит текст взят с другого поста, на который нет ссылки.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

? какого другого поста, чуть ниже сайт производителя, а текст за 10 минут набил ручками. Я понимаю что вы блогер со стажем, и как-то с этого зарабатываете здесь на пикабу, но совсем не разбираетесь хотя бы в html, но нет... с сайта взята плашка про ламу, так вроде бы положено, а вроде и нет...

1
Автор поста оценил этот комментарий

Если это реальное фото платы, то где здесь ОЗУ?

Походу нас обманывают, что нужна ОЗУ для ИИ.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

я нашел комментарии нашего инженера с микрон работающего в Японии здесь на пикабу, говорит просто на производство ddr5 тупо забили, поэтому и дорого. Про цены на оперативную память от инженера Micron

0
Автор поста оценил этот комментарий

Как же ты в интерфейсе Пикабу такие точки поставил?

Иллюстрация к комментарию
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

точку скопировал со спецификации в оригинальном посте, а дальше редактор сам продолжает, маркированный список это называется...

показать ответы
0
Автор поста оценил этот комментарий

Прямо в Пикабу писал или через что-то?

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

в Пикабу, картинки с офсайта... просто железо порадовало и запилил пост, новость на 3dnews, ixbt, habr есть, а тут пока не было...

показать ответы
1
Автор поста оценил этот комментарий

Если это реальное фото платы, то где здесь ОЗУ?

Походу нас обманывают, что нужна ОЗУ для ИИ.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

в данном случае там SRAM + сам чип по факту ЦП + ПЗУ, а классические DRAM модули, ну я правда не знаю куда они их потом девают (DDR5, DDR4, HBM могут использоваться, а могут и нет, кроме того половина ИИ-дата центров все еще на стадии котлована, а в ASIC используются другие варианты), так что да вполне могут получать сверхприбыль еще и как барыги на рынке памяти, а не как производители ИИ-решений.

показать ответы
0
Автор поста оценил этот комментарий

Какой-то набор букв от нейронки, да ещë и без тега.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

спасибо польстил, значит технический русский язык я еще не забыл))) (пост накатал сам минут за 10, тут особо нечего писать, просто быстрый обзор на свежую железку)

показать ответы

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества