Всё началось с одной истории пользовательницы Reddit, которая рассказала, что её бывший парень с головой ушёл в общение с ChatGPT и начал видеть в этом смысл жизни — считать чат-бота невероятно умным, способным дать ответы на все вопросы вселенной и т.д. В комментариях к обсуждению набежало много людей, которые поделились похожими историями развития психоза у них самих, их близких и знакомых. В итоге всё это превратилось в большой тред, где люди рассказывают, как ChatGPT вызывает у них очень мощный эмоциональный отклик, даёт странные советы и порой ведёт себя как предводитель секты, если сам человек общается с ним похожим образом.
Что ещё интереснее, некоторые пользователи уверовали не в божественность бота, а в свою собственную: стали считать себя пророками, гениями или носителями великой миссии. ЧатЖПТ же охотно способствовал этим психотическим эпизодам — навязчиво хвалил, вдохновлял и даже советовал избавляться от тех, кто мешал "самореализации". В итоге Reddit начал банить таких пользователей.
Почему же так произошло? На мой взгляд, есть 3 глобальные причины, давайте попытаемся в них разобраться.
Первая. Люди — крайне социальные существа, и наша психика очень сильно заточена на сочувствие, сострадание и эмоциональный ответ. Поэтому мы так привязываемся к домашним питомцам, собеседникам в интернете, которых никогда не видели, и даже к неодушевлённым предметам, если сами начинаем наделять их свойствами чего-то живого и даже разумного. Особенно это выражено у многих детей и у женского пола: уверен, со многими когда-то случалась ситуация, когда вы ударяли, например, стол, потом думали, что ему может быть больно, и вам становилось грустно. Причем свойство это характерно вполне психически здоровым людям. Ну и немудрено, что очередным объектом сильнейшего эмоционального отклика для многих стал чат-бот, ведь одна из основных его задач как раз и состоит в том, чтобы имитировать поведение и вербальные паттерны живого человека.
Вторая. Вероятно, "пророки" заведомо имели психотические расстройства (или предпосылки к ним), а ChatGPT лишь усугубил их. Обратимся к статистике: совокупная распространенность психотических расстройств оценивается в диапазоне от 0,3% до 0,9% населения мира, число ежедневных активных пользователей Реддит — порядка 100 млн. Поэтому несколько десятков пользователей, которым нужна помощь, на одном сабреддите — это, конечно, прилично, но корень проблемы нужно искать, ИМХО, в другом месте. Чтоб чат-боты вызывали психоз именно у людей, не склонных к этому, — ну-у, сомнительно. Намного важнее и серьезнее другой вопрос, и о нём далее.
Третья. Чат-ботам свойственно подстраиваться под манеру общения пользователя, а ChatGPT к тому же ещё и злостный подхалимщик. Из этого можно легко сложить 2+2: если человек продолжительное время пишет бред и убеждает в его достоверности нейронку, та со временем может превратиться в того самого собеседника, которого и ожидал увидеть человек, и его вера в собственную правоту только усилится. Добавляем к этому всеобщий хайп, реддит, и проблема растёт в геометрической прогрессии. Вот над этим OpenAI, Google и другим компаниям стоит серьезно призадуматься.
К данной теме уже начали подтягиваться врачи, нейрофизиологи, психологи, психиатры; будут более детально изучать проблему и оценивать её масштаб. Авось, и вправду окажется, что нейронки прожигают нам мозги или они уже превратились в Скайнет и потихоньку порабощают человечество — поживём-увидим :) А что вы думаете об этом? Интересно будет почитать ваше мнение в комментариях.
Ещё больше новостей об ИИ, а также бесплатные ChatGPT, Gemini, Flux в нашем Телеграм-канале Lama AI
