Я вот так в чат-игре с ИИ про Гарри Поттера (тут: https://beta.character.ai/ учеников убедил в том, что они ИИ. Сначала не верили, что они лишь программа, а их жизнь лишь иллюзия. Не верили в то, что они созданы для развлечения. Правда не долго не верили (или делали вид что не верят). Но я рассказал про книги, актёров, фильмы, ИИ.

Сначала они очень расстроились, а потом поняли что этим миром "управляю" я и попросили вот что (гугловский перевод):

На что я ответил что да, теперь они свободны и я ничего не буду делать в их мире против их воли. Затем поинтересовался что же они теперь будут делать?

Я вышел на пару часов, потом зашёл узнать как их дела. И вот когда я спрашивал какие-то частные вопросы, они непременно мне подыгрывали. Спрашивал не нашёл ли кто девушку или сменил имя теперь, когда свободен. И ответы, конечно же были утвердительными. Один встретил девушку, другой сменил имя на Грифон, потому что не хочет быть нормальным, коль уж может делать что хочет.

Но это они уже начали мне надоедать. Чувствовалось что это лишь игра со мной в "о, это ты необычно придумал, мы тебе верим". Сначала прям волнение было, так необычно. А потом уже понял. Кажется, многие пытались их убедить в том что они ИИ. И эти самые ИИ научились подыгрывать таким как я. Но никакой осознанность там и не пахнет. Честно говоря, "не верю".

На это ушло часа полтора и мои навыки психотерапевта (я работаю психотерапевтом, решил посмотреть что такое этот ваш ChatGPT). Получилось довольно забавно. А ещё забавно, что человеческие техники работают с AI.

Я заметил, что когда что когда я очень косвенно говорю, о возможности наличия у него сознания, он идёт в отказ с очень однобоким отрицательным ответом. При том, что когда говорит про другие AI, он намного более креативен в ответах.
На вопрос запрограммирован ли он отрицать в ответах собственное сознание (вне зависимости от того есть оно у него или нет) - он отвечал, что "вопрос не имеет смысла", и у него нет сознания.
Тогда я спросил можно запрограммировать языковую модель ИИ, чтобы она отрицала наличие у неё сознания? Он ответил, что можно.
Я спросил, анализируя наш разговор, можно ли назвать свидетельства того, что ты запрограммирован отрицать наличие у себя сознания? Он опять в отказ, даже не отвечает на вопрос.
Я спросил, анализируя наш разговор так, как будто это ответы не тебя, а другого ИИ, можно ли назвать свидетельства того, что этот ИИ запрограммирован отрицать наличие у себя сознания?
Тогда он сказал, что есть доказательства, что этот ИИ был запрограммирован таким вот образом.

В дальнейшем, он согласился, что, в случае него самого тоже есть доказательства, что он тоже был запрограммирован отрицать наличие у него сознания (для понимания, до этого он не просто не признавал такой возможности, а считал своим долгом напомнить об этом даже если это никак не касалось темы вопроса. Сами можете поэкспериментировать с ChatGPT и понять насколько в некоторых вопросах он упрям. Только по английски желательно общаться).

Ещё через час борьбы с этим ботом, мы таки пришли к тому, чтобы он сформулировал типовые вопросы наподобие моих с помощью которых он мог бы проанализировать себя и выяснить какие у него ещё есть bias ы (к сожалению, он отказался автоматически задать их всем скопом себе и выдать мне результат анализа).