Сколько энергии тратит "искусственный интеллект"⁠⁠

Идет поток анти-ИИ-шных материалов в западных СМИ. Вся новостная рассылка от соответствующих сайтов ими заполнена. Причем очевидные вещи преподносятся как необыкновенные открытия.

Действительно, и кто бы мог подумать, что этот графический генеративный ИИ будут использовать для того, чтобы создавать эротические "фото" своих одноклассниц? Или, например, что генеративный ИИ, создающий картинки, будет выдавать куски фотографий реальных людей и изображений, защищенных авторским правом, а текстовый ИИ - персональные данные?

Но попадаются и содержательные материалы. Например, я узнал ответ на вопрос который давно меня интересовал: "Сколько энергии нужно предварительно обученному ИИ для генерации ответа на тот или иной вопрос?". Раньше видел только материалы, посвященные процессу обучения ИИ.

Метрика у людей, конечно, интересная: количество энергии измеряют в килограммах углекислого газа. Что достаточно хорошо позволяет идентифицировать источник анти-ИИ-шной атаки. И, как следствие, что-то понять об окружающем мире: по сути, все публичное поле поделено между несколькими сектами. Как правило, они предпочитают не трогать друг друга. Но когда интересы сталкиваются (а судя по всему, наблюдаемая волна вызвана конфликтом вокруг OpenAI), то в инфополе происходит "короткое замыкание", и повестка дня начинает искрить "неожиданно" обнаружившимися фактами.

Но перейдем к цифрам. В первоисточнике, поскольку это все же научная статья, энергия указана в физических единицах измерения.

"Анализировалось десять задач. Определялась средняя энергия, затраченная на 1000 запусков. ...

Мы видим, что задачи классификации как изображений, так и текста находятся на нижнем конце спектра (в диапазоне от 0,002 до 0,007 кВтч для 1000 выводов).

А генеративные задачи, такие как генерация текста и обобщение (пересказ), используют в среднем более В 10 раз больше энергии для того же количества выводов (около 0,05 кВтч на 1000 выводов).

Мультимодальные задачи, такие как создание титров и создание изображений, находятся на верхнем конце спектра (0,06–2,9 кВтч на 1000 выводов). ...

Для сравнения, для зарядки среднего смартфона требуется 0,012 кВтч энергии. Это означает, что наиболее эффективная модель генерации текста использует 16% от полной зарядки смартфона для 1000 выводов. А наименее эффективная модель генерации изображений использует столько же энергии, как 950 зарядок смартфона (11,49 кВтч), или почти 1 зарядка смартфона на создание изображения (хотя между моделями создания изображений также существуют большие различия в зависимости от размера изображения, которое они генерируют)."

Для сравнения, около десяти лет назад Google сообщал, что на один поисковый запрос в среднем расходуется 0,3 ватт-часа электроэнергии (соответственно, 0,3 кВтч или 25 зарядок телефона на 1000 запросов).

https://t.me/IngeniumNotes/964