Нет, искусственный интеллект не обладает сознанием
Под катом — мнения специалистов, которые не сильно привыкли хайповать
Anthropic — не только одна из самых серьёзных ИИ-компаний и создатель Claude. Ребята основательно заморачиваются по антропоморфизму, читай — дико любят придавать человеческие свойства каким-то объектам неживой природы, например, собственному ИИ. Они упоролись настолько, что выпустили в этом году «Конституцию Claude», причём прямо пишут — мол, это не просто какая-то инструкция к работе с нейросетью, а именно полноценный документ, написанный в первую очередь для самого ИИ. Говорят, что как таковой моральный статус Claude до сих пор не определён, и у модели вполне может быть своя собственная версия эмоций или чувств.
У них в штате даже есть внутренний философ — Аманда Аскелл, которая всегда говорит, что хочет сделать Claude счастливым, а ещё печалится, когда какие-то запросы юзеров «тревожат» нейросеть или грубят ей (помнишь, как писал нейросети гадости или запросы 18+, а, а?). В общем, или Аманда очень серьёзно относится к своей работе, или она что-то знает.
Так вот, в чём вопрос-то — стоит ли вообще рассматривать вариант, при котором у Клода (да и любой другой нейросети) может быть своё сознание? Могут ли ИИ принимать решения, основываясь на своих моральных принципах? Или их и быть не может, ибо всё это лишь промпт?
Тэд Чан, китайский сайфай-писатель (у парня, между прочим, и «Небьюла», и «Хьюго», и «Локус») отвечает на вопрос довольно однозначно — нет, не может. Нету у искусственного интеллекта никакого сознания и не будет.
А эту его книгу экранизировали. Смотрели «Прибытие»? Вот
Тэд вообще считает, что вредно про такое даже думать — иначе получится, что вы в случае чего возлагаете ответственность на саму нейросеть, а не на того, кто её использует.
Если с примерами
Вот зацените, как работает большая языковая модель. Скажем, задаёте вы промпт вида «ChatGPT, а напиши-ка мне подробный диалог между Чингисханом и Цезарем». На выходе получится вполне себе связный диалог — может, именитые мужи будут эмоционально обсуждать, хрена ли бензин так подорожал, или рабы борзеют. Значит ли это, что кто-то из них обрёл сознание? Ясен пень — нет.
А теперь ближе к реальности — заменим промпт на «Разговор между юзером и чатботом». И модель снова радостно выдаст вам связный диалог по запросу. Есть ли тут принципиальная разница с первым случаем? Вообще ни разу — ведь и чатбот в этом диалоге, и юзер — это вымышленные персонажи. Да, если в момент генерации фразы «юзера» нажать на паузу и позволить живому человеку вводить текст, будет возникать ощущение реального диалога с сознательным существом.
Профессор компьютерных наук Мюррей Шанахан, к примеру, вообще призывает относиться к такому как к ролевой игре. А дата-сайентист Колин Фрейзер — как к совместному созданию текстового документа с помощью LLM.
Короче, в чём штука со всем этим «У ИИ есть сознание» с точки зрения учёных мужиков. Допускать, что у нейросети есть эмоции, сознания или чувства — это всё равно, что думать, будто в Microsoft Word есть сознание, или вообще, что в каждом отдельном документе есть отдельные сознания, которые активируются, когда вы открываете док. Да, да, «Скрепыш» из ворда был клёвым и до сих пор вызывает ностальгию. Но это другое.
Анил Сет, нейробиолог, отмечает: никто же не говорит, что легендарная AlphaFold (та самая программа, что предсказывала свёртывание белков) обладает сознанием, хотя её архитектура сильно смахивает на LLM.
Тогда почему столько разговоров о том, что у ИИ есть сознание?
Да потому что человеки по жизни приписывают эту «сознательность» нейронкам не из-за самих свойств моделей, а просто из-за того, что ИИ выдаёт в ответ грамматически правильные предложения. А наш мозг привык читать в предложениях намерения.
Есть ещё занятная фишка про постепенные доказательства.
Вот прикиньте, что кто-то принёс вам ролик о том, как космонавт тусуется на Альфа Центавра. Поверите вы в это? Да хрен там, вы скажете «Так это ж ИИ-шка», и будете правы. Всё потому, что у вас нет достоверных данных о реальности предыдущих шажочков — что люди достигли орбиты Марса, например, или долетели до спутников Сатурна. Короче, прежде чем наш мозг поверит в решение офигеть какой сложной задачи, он должен поверить в реальность предшествующих ему решение более простых задачек.
Текст нейросети в таком контексте — это такой же дипфейк, как чувак на Альфа Центавре. Потому что просто так взять и создать имитацию разговора двух сознательных существ куда проще, чем создать программу, которая реально сознательна и жаждет общения с человеком. Прикол в том, что авторы дипфейк-видео намеренно обманывают зрителей, а вот многие пользователи нейронок, думающие, что у ИИ есть сознание, обманывают сами себя.
Например — что нужно, чтобы хотя бы на минуту предположить, что у ИИ есть сознание?
доказать, что у модели есть тело (физическое или виртуальное)
доказать, что у неё есть органы чувств (без тела и чувств не может быть эмоций = не может быть сознания)
доказать, что ИИ умеет хотя бы базово выживать = инстинкт самосохранения
доказать, что модель умеет изготавливать и использовать орудия труда.
В целом уже это недостижимо. Но если вам мало — вишенкой надо доказать, что модель способна к обучению коммуникациям (не через промпты и задания, а хотя бы как мы дрессируем собак).
— Но они же совершенствуются!
Ну да. Старая версия выдавала нам кривоватый диалог Чингисхана и Цезаря с парой нестыковок, а новая выдаст такую поэму, что кому-то из героев захочется посочувствовать. Только к сознанию это вообще никоим боком не относится.
Или сгенерированный в 8К получасовый ролик голливудского качества о колонии на Марсе — он тоже ни на шаг не приблизит нас к запуску пилотируемого корабля на Красную планету.
Как инструменты для решения задач нейросети прекрасны — ускоряют процессы, убирают рутину, помогают экономить время (и генерить лулзы и видосы с котами). Но они всё ещё ненадёжны чисто по своей вероятностной природе.
«Нафига тогда в Antropic написали Конституцию для Клода?», спросит внимательный читатель. А потому что. Вообще, это стоит воспринимать как 84-страничный лист персонажа для ролевой игры. Она задаёт «характер» полезного чатбота, а компания использует документ для дообучения модели, как раз чтобы ответы были более человечными и по-хорошему эмоциональными, как у человека. Вот в итоге и получается, что нейросеть выдаёт связные фразы «человека», в котором можно заподозрить нравственность.
Отдельная фишка для вовлечения — это использование местоимений первого лица. Например, если вы похерите любимую фигурку из Вархаммера и уйдёте в запой на три дня, Клод ответит вам «Как нейросеть я не имею такого жизненного опыта, но я вас понимаю». Вот только нифига он не понимает. Точно так же вас не понимает и поисковик, но он хотя бы просто выдаёт ответы живых людей. Ну ладно, ладно, когда-то выдавал, пока выдачу не забили нейрослопом. Но всё же.
Так что единственная причина использовать «Я» — это повысить вовлечённость пользователя, компаниям это выгодно.
А что философ? А философ в штате компании придаёт респектабельность, но де-факто эксплуатирует склонность человека видеть то, чего нет.
Нейросети — офигенная штука и прекрасный инструмент для решения просто кучи разных задач. Но не стоит наделять их теми качествами, которых в них нет.
Для удобного использования ИИ-инструментов мы и сделали свой швейцарский нож, в котором есть нейросети для любой задачи — заходите и тестируйте бесплатно.
