Чем умнее тем энергозатратнее
Исследование Корейского института науки и технологий KAIST показало, что современные ИИ-агенты потребляют до 136,5 раза больше электроэнергии, чем чат-боты работающие по заданному сценарию.
Во время экспериментов обработка одного запроса ИИ-агента занимала в 153,7 раза больше времени, а графические процессоры простаивали до 54,5% времени, ожидая завершения внешних операций, но при этом продолжали потреблять электроэнергию. Для моделей с 70 млрд параметров средний расход составил 348,4 Вт·ч на один запрос.
Ученые подсчитали, что если ИИ-агенты будут обрабатывать 13,7 млрд запросов (как у Google) в сутки, то дата-центрам потребуется около 198,9 ГВт мощности.
В ближайшие годы конкуренция в сфере искусственного интеллекта будет идти не только за самый умный алгоритм, но и за самый энергоэффективный.
Много интересного в телеграм-канале ЭнергетикУм
#ИИ #энергозатраты #энергоэффективность #искусственныйинтеллект







