ИИстификация⁠⁠2

ИИ заменит большинство профессий. ИИ уничтожит человечество. Что там еще было?

Осталось еще чуть чуть подождать. Чуть чуть, совсем и случится ужасное! Сколько раз я уже это слышал на протяжении последних лет. Годы идут, а ничего из этого не происходит. ИИ не стал умнее, но мы то ждем. Проблема в том что мы слишком завысили ожидания, а тем временем есть серьезные проблемы, решения которых пока не видно.

Галлюцинации. Первая и важнейшая проблема. Так называемый “интеллект” который по сути является моделью, угадывающей слова в тексте обречен на ошибки из-за архитектурных особенностей своего алгоритма. Данные на которых обучается модель не точны. Есть еще нюанс, чем больше AI контента с галлюцинациями появляется в интернете, тем больше неточных данных, на которых AI снова обучается. Замкнутый круг. ИИ работает с информацией хорошо, но он не отличает правду от лжи потому что ничего не разбирается в окружающем нас мире. Эта проблема неустранима полностью, а лишь подавляема ценой ресурсов, костылей и внешних проверок.

Проблема контекста. Углубимся в техническое. На небольших и несложных задачах ИИ довольно успешно справляется, но если все усложняется, начинаются ошибки. Решение на первый взгляд простое - увеличить вычислительные ресурсы. Но есть нюанс. Есть алгоритм удержания контекста и основная проблема - attention mechanism complexity. Проблема алгоритма в том, что на каждую N единицу входных данных нужно N^2 вычислительных ресурсов. Если упростить для понимания как это работает: на каждые 10 слов отправленных в ИИ на обработку нужно 100 операций процессора. Если слов становится 100, то операций нужно уже 10 тысяч. Если слов 1000, то миллион и так далее. То есть если нам надо чтобы ИИ обработал в 100 раз больше информации, то требуется в 10 тысяч больше ресурсов. То есть именно в самых сложных задачах, где море контекста, в нем ИИ будет тонуть глубже всего.

Что по экономике? Она беспощадна. Бизнес так же проходит этап от хайпа до разочарования. По многим исследованиям внедрение ИИ мало влияет на бизнес метрики. И даже не потому что ИИ плохой, а потому что его пытаются засунуть везде, не понимая как это будет работать и как будет влиять на результат. Компании, которые разрабатывают ИИ врут об эффективности, манипулируя данными об эффективности, включая бенчмарки. Они инвестируют миллиарды в датацентры и друг в друга поднимая рыночную стоимость, которая никак не соотносится с результатами. Рост базы платящих подписчиков OpenAI уже замедляется, а окупаемость “планируется” только к 2030 году.

Но есть и хорошие новости. ИИ все таки прекрасный инструмент, которым я сам с большим удовольствием им пользуюсь как помощником каждый день. Это будущее. Но утверждать, что он заменит человека это как утверждать что гитара заменит музыканта. ИИ действительно изменит мир, но не так быстро как мы ожидаем. Местами повысится продуктивность, улучшатся процессы.

Кстати, на картинке ниже изображена визуализация, называемая циклом хайпа Гартнера для новых технологий. С криптовалютами мы уже подобное проходили. Как думаете где мы сейчас находимся с ИИ-шечкой?