ИИстификация2
ИИ заменит большинство профессий. ИИ уничтожит человечество. Что там еще было?
Осталось еще чуть чуть подождать. Чуть чуть, совсем и случится ужасное! Сколько раз я уже это слышал на протяжении последних лет. Годы идут, а ничего из этого не происходит. ИИ не стал умнее, но мы то ждем. Проблема в том что мы слишком завысили ожидания, а тем временем есть серьезные проблемы, решения которых пока не видно.
Галлюцинации. Первая и важнейшая проблема. Так называемый “интеллект” который по сути является моделью, угадывающей слова в тексте обречен на ошибки из-за архитектурных особенностей своего алгоритма. Данные на которых обучается модель не точны. Есть еще нюанс, чем больше AI контента с галлюцинациями появляется в интернете, тем больше неточных данных, на которых AI снова обучается. Замкнутый круг. ИИ работает с информацией хорошо, но он не отличает правду от лжи потому что ничего не разбирается в окружающем нас мире. Эта проблема неустранима полностью, а лишь подавляема ценой ресурсов, костылей и внешних проверок.
Проблема контекста. Углубимся в техническое. На небольших и несложных задачах ИИ довольно успешно справляется, но если все усложняется, начинаются ошибки. Решение на первый взгляд простое - увеличить вычислительные ресурсы. Но есть нюанс. Есть алгоритм удержания контекста и основная проблема - attention mechanism complexity. Проблема алгоритма в том, что на каждую N единицу входных данных нужно N^2 вычислительных ресурсов. Если упростить для понимания как это работает: на каждые 10 слов отправленных в ИИ на обработку нужно 100 операций процессора. Если слов становится 100, то операций нужно уже 10 тысяч. Если слов 1000, то миллион и так далее. То есть если нам надо чтобы ИИ обработал в 100 раз больше информации, то требуется в 10 тысяч больше ресурсов. То есть именно в самых сложных задачах, где море контекста, в нем ИИ будет тонуть глубже всего.
Что по экономике? Она беспощадна. Бизнес так же проходит этап от хайпа до разочарования. По многим исследованиям внедрение ИИ мало влияет на бизнес метрики. И даже не потому что ИИ плохой, а потому что его пытаются засунуть везде, не понимая как это будет работать и как будет влиять на результат. Компании, которые разрабатывают ИИ врут об эффективности, манипулируя данными об эффективности, включая бенчмарки. Они инвестируют миллиарды в датацентры и друг в друга поднимая рыночную стоимость, которая никак не соотносится с результатами. Рост базы платящих подписчиков OpenAI уже замедляется, а окупаемость “планируется” только к 2030 году.
Но есть и хорошие новости. ИИ все таки прекрасный инструмент, которым я сам с большим удовольствием им пользуюсь как помощником каждый день. Это будущее. Но утверждать, что он заменит человека это как утверждать что гитара заменит музыканта. ИИ действительно изменит мир, но не так быстро как мы ожидаем. Местами повысится продуктивность, улучшатся процессы.
Кстати, на картинке ниже изображена визуализация, называемая циклом хайпа Гартнера для новых технологий. С криптовалютами мы уже подобное проходили. Как думаете где мы сейчас находимся с ИИ-шечкой?
Так же ответ на пост Почему ИИ скоро убьёт художников и мне их (не?) жалко. Реальный кейс как я заказывал постер к фильму про сибирское маслоделие от @RomanovKostya
Для погружения в вопрос ИИ и нейросетей нужно понимать такую вещь - вопрос отношения к ИИ и нейросетям буквально стоит сотни миллиардов долларов, скорее всего уже больше триллиона долларов. Если "нейросети - круто", то эти сотни миллиардов долларов будут в одних карманах, если "нейросети - не круто", то в других. Как следствие любую информацию стоит проверять и изучать т.к. на создание нужного образа тратятся десятки миллиардов долларов купленных блогеров и комментаторов.
Для начала - в маркетинговом "искусственном интеллекте" ни о каком интеллекте речь не идёт. Вообще. И не может идти. Технически это "наука о данных" (Data Science, даталогия), но ведь какую-то "датологию" не продашь, особенно за дорого...
Вопрос "искусственного интеллекта" охватывает ряд технологий, то есть это не только и не столько LLM с RAG. Там есть куча разных направлений.
Каждое направление является инструментом решения конкретной задачи. Хорошие инструменты качественно решают поставленные задачи.
Проекция этого факта на рынок даёт следующую объективную картину:
- 90% проектов "искусственного интеллекта" являются исключительно финансовыми насосами по освоению грантов и бюджетов. Они принципиально не могут выдать результат. Даже лучший молоток не заменит самый худший микроскоп;
- 9 % из оставшихся как-то работают, но лучше бы они не работали. Почему? Реальную задачу можно решить разными путями и другие пути решения гораздо эффективнее. То есть самолёт из картона построить можно, но зачем?
- 1 % - тут всё ОК, технологии работают и отлично зарабатывают.
Почему такая процентовка? Потому что 99 из 100 проектов делается чтобы освоить бюджеты, либо им нужно привлечение финансирования. Если сейчас взять мониторинг разных площадок поддержки инноваций, то окажется, что без ИИ-компонента шансы на получение финансирования стремятся к 0. Нужны деньги - обещай любой бред, но упоминай ИИ.
Информация о провалах в сфере ИИ есть, но её забивают сотнями восторженно-тупых постов восхваляющих ИИ. На текущий момент на "сэкономленный" на ИИ доллар считается нормальным, что компания в итоге тратит 1,2 доллара. То есть тратим 120 тысяч, чтобы не платить 100.
Напомню картинку из поста:
Текущее состояние на графике - сразу за максимальной точкой "Пика завышенных ожиданий". То есть ряд крупных игроков уже обжегся и начал отменять и сворачивать проекты в этой сфере. Скоро это заметят в массах и финансовая подкачка ИИ-стартапов закончится, что повлечёт их массовую смерть. Не вопрос будет или нет. Вопрос в том когда это будет.
Почему? Чтобы понять неизбежность процесса нужно прочитать очень много литературы и самому руками немало что сделать. Но мы на Пикабу, поэтому краткие (относительно первоисточников) статьи по темам:
ИИ никогда никого не заменит: https://habr.com/ru/articles/986170/ и https://habr.com/ru/articles/985092/
Результат от ИИ всегда требует перепроверки человеком: https://habr.com/ru/articles/989438/
Большинство "вычислений" ИИ не оптимально: https://habr.com/ru/companies/bothub/articles/983426/
Нейросеть не может решить задачу, которой её не обучили: https://habr.com/ru/companies/bar/articles/990406/
Почти никто не воспринимает ИИ правильно: https://habr.com/ru/companies/bothub/articles/986148/
Осторожный оптимизм вызывает то, что в России бизнес в целом верно оценил место технологиям ИИ (https://habr.com/ru/companies/yoomoney/news/989432/) это мелкие задачи в помощь основным сотрудникам. Ничего ключевого ИИ доверять нельзя.
Неплохо описано то, как закончится ИИ-истерия: https://habr.com/ru/companies/bothub/articles/988116/
Если коротко, то ИИ станет обычным продуктом, как сейчас любой другой программный продукт. Не больше и не меньше.
P.S. Отдельно прокомментирую комментарий уровня интеллекта "копипаста маркетингового высера":
У любой технологии есть принципиальный предел, выйти за который невозможно. Для технологий нейросетей и других технологий называемых "искусственный интеллект" эти границы известны ещё с 60-х годов прошлого века. Ничего этого не будет. Никогда. Просто потому, что ни одна технология не может выйти за рамки своих ограничений.
В реальности, когда пройдёт нижняя точка разочарования, склон просвещения и технология выйдет на плато производительности, вычисления с помощью нейросетей займут положение очень тяжелой библиотеки для решения определённого круга задач. Потому что все, кто будет использовать нейросети по другому, будут следующими представителями прекрасного скрина от @imctobitch
То есть либо закроются, либо выживут, но получат нехилый посттравматический синдром.