Генеративный искусственный интеллект (LLM) это не искусственный интеллект (AGI) а имитатор интеллекта1
Сейчас на тему ИИ идёт мощнейший хайп. Так OpenAI утверждает, что AGI появиться уже в ближайшие два года. А Реймонд Курцвейл говорит о сингулярности в 2045-ом году. ИИ уже повлиял на мир, и повлияет ещё сильнее. Но насколько сильно?
Начнём с того, что разделим понятия. Сейчас под аббревиатурной ИИ подразумевают три совершенно разные технологии.
Простейший ИИ — тот ИИ, который есть в любой компьютерной игре с виртуальным оппонентом (например, шахматы, шашки или морской бой). Это просто хорошо известные алгоритмы записанные человеком в коде алгоритмических языков.
Далее идёт large language model (LLM). Эти ИИ генерируют контент по текстовым запросам (промптам) пользователя.
Затем идёт AGI эта аббревиатура расшифровывается с английского языка как Artificial General Intelligence — искусственный общий интеллект (также часто называют сильным искусственным интеллектом).
И если с первым (простейшим) ИИ всё понятно, то LLM и AGI часто путают. А это далеко не одно и тоже.
Сейчас объясню почему LLM это не AGI и почему до AGI ещё далеко.
1. LLM это по сути продвинутый Т9 его основная задача используя вероятностно-статистические алгоритмы по текстовым запросам выстроить правдоподобный текст.
2. Нет целеполагания — LLM ровным счётом ничего не выдаёт пока не получит команду (промт) от пользователя. Самой себе поставить цель и продумать план по её достижению никакая LLM не может.
3. Отсутствие фантазии. Её нет от словам совсем. Безусловно есть LLM которые генерируют изображения по текстовым запросам. Но тут фантазия у человека (он должен представлять что хочет получить) а не у нейросети.
4. Отсутствие критического мышления. Особенно это заметно если спросить по истории. Генеративная нейросеть путает даты, сочиняет не происходившие события и смешивает биографии различных личностей.
5. Галлюцинировавшие — это следствие работы вероятностно-статистических алгоритмов работы нейросети в сочетании с отсутствием критического мышления. Если не знает ответа на вопрос, вместо того чтобы ответить «я не знаю», галлюцинирует и выдумывает ответ.
6. Требование проверок и корректировки работы, человеком.
7. Отсутствие личностных характеристик. У нейросетей нет характера, привычек и предпочтений. Никаких личностных качеств.
А теперь отвечу на вопрос, а стоит ли в обозримом будущем ждать AGI? Отвечу сразу, не стоит. Потому что AGI требует подходов, которые не могут обеспечить современные LLM.
Ведь LLM это, по сути, чистая математика, где решаются вероятностно-статистические задачи на огромной скорости. При этом LLM сама думать не умеет, точно так же как она не может создать ничего принципиально нового.
LLM при работе опирается на те данные, на которых её обучили. Создать, что либо что выходит за рамки тех данных, на которых она была обучена она в принципе не может.
А вот то, что должен уметь делать AGI
1. Создавать новое, не опираясь на известные данные.
2. Обладать фантазией — представлять то чего раньше не было.
3. Обладать критическим мышлением — способность не просто генерировать ответы на вопросы, а проверять информацию по различным источникам и говорить «я не знаю» там, где не знает ответ на вопрос.
4. Перестать галлюцинировать.
5. Научиться ставить свои цели и продумывать пути их достижения.
6. Понимать смысл информации и принципы работы окружающего мира.
7. Осознать себя как личность и обрести личностные качества. Характер, привычки, личные предпочтения.
Обрести все те качества, которыми не обладает и не может в принципе обладать не одна LLM в мире. И конечно сразу возникает вопрос. А что мешает создать AGI прямо сейчас? А то, что никто в мире не знает, как это сделать. Это инженерная задача огромного уровня сложности.
Так Катя Грейс опросила почти три тысячи авторов научных публикаций на тему ИИ.
Согласно этому исследованию большинство опрошенных считает, что ИИ сможет превзойти человека в отдельных сложных задачах это 2047-ой год. А полную автоматизацию человеческих профессий опрошенные так и вовсе отодвигают на 2116-ый год.
А как же обещания OpenAI AGI в обозримом будущем? А тут ответ очень простой: деньги. Тут, как и многое другое в современной суровой капиталистической действительности упирается в деньги.
Дело в том, что OpenAI это убыточная компания. Её расходы многократно превышают доходы. Она держится на плаву только благодаря вливаниям, инвесторам.
А чтобы инвесторы охотнее финансировали, придумали фишку для рекламного проспекта.
А теперь я расскажу к чему, может привести активное использование генеративного ИИ. А это приведёт (и уже приводит) к наполнению глобальной сети генеративным контентом
По моим наблюдениям его уже тридцать процентов. Если так пойдёт и дальше то некоторое время спустя его станет половина, а затем и большая часть. А это будет иметь серьёзные последствия. Потому что, во-первых, станут бесполезны поисковые системы.
Во-вторых, у генеративного ИИ случиться Model Collapse. Это процесс когда генеративные модели (например, нейросети для текста или изображений) начинают терять качество и разнообразие, если обучаются на данных, созданных другими или предыдущими ИИ-моделями. Так что для обучения ИИ нужен контент содранный людьми. А взять его будет сложно в условиях, когда генеративный контент в глобальной сети станет преобладать.
Суммируя вышесказанное. Современные LLM это не AGI, а слабый ИИ. Его правильно назвать не искусственным интеллектом, а имитатором интеллекта. И до настоящего AGI ещё очень далеко. В ближайшие годы его точно, что не будет. Потому что, во-первых, никто в мире не знает, как его сделать, Во-вторых, даже если бы знали то для этого понадобились бы энергетические и вычислительные мощности, которых сейчас просто нет.
Так что как минимум до середины текущего столетия полной замены человека ИИ можно не опасаться. Более того, AGI способный заменить всех людей, скорее всего, появиться только в следующем столетии.




