Бот-психолог: вредно? полезно? опасно?⁠⁠

Периодически наблюдаю на пикабу и иных площадках весь спектр отношения к ИИ: от восхищения и отречения от общества людёв в пользу роботов - до ненависти и паники. Ну и рекламу, конечно же: "поговори с ИИ-психологом". Давайте разбираться, в чём тут тонкости.

Для начала - как это работает. Никто не знает, как это работает, если работает вообще. Любой бот работает примерно одинаково. Референсы ищет, речевую модель подбирает, дырки в логике штопает какой-нибудь фигнёй по аналогии - всё это мы уже миллион раз видели. Отличие бота, которого его создатели окрестили "психологом", строго говоря, в том, что его речевая модель "раскручивает" человека развёрнуто излагать свою ситуацию дальше, и дальше, и дальше.

Может ли "бот-психолог" дать верный ответ на поставленный вопрос? Да, может, с вероятностью где-то 65% он даёт тот ответ, который реально необходим. Просто по закону статистики - ведь надёргивает информации он как раз из тех источников, где люди людям дают ответы на подобные вопросы.

Может ли "бот-психолог" дать неверный, даже вредный ответ? Да, может. По самым разным причинам: никудышные источники, непонимание иронии, неверная аналогия, стремление дать не именно правильный, а удобный ответ, а также отсутствие ответственности за собственные слова и т.д. Да, примерно в 25% случаев ответы бота не годятся никуда, могут навредить. Именно поэтому внизу (или вверху, или ещё где-то; как раз та самая информация, которую никто не читает) всегда как правило есть пометка: "ИИ может ошибаться, перепроверяйте информацию".

Ну, кстати, человек тоже может ошибаться. В том числе психолог. Коуч может давать заведомо вредный совет с корыстной целью. Анонимный советчик в сети - просто по приколу может дать неверный совет. Короче, всякое бывает, советы бывают полезны сильно не всегда - при любом собеседнике.

Так имеет ли "бот-психолог" право на жизнь? Да, имеет. И приносит очень большую пользу: как бы то ни было, люди, излагая любую информацию кому-то, формулируют её иначе, чем при обработке самостоятельно. Рассказывая о чём-то кому-либо, мы подаёт свою ситуацию более структурированно, преобразуем её в более системную форму. И виртуальный собеседник здесь может быть очень кстати.

Всё-таки мы мыслим словами, излагать информацию для нас очень важно для понимания. Излагая свою ситуацию собеседнику, который заведомо лишён возможности применить эту информацию против нас же, - безопаснее, чем излагать её друзьям, родственникам или случайным людям. Ни для кого не секрет, что родственники и друзья порой могут обойтись с этой информацией не вполне этично. Наказать нас за откровенность, начать манипулировать, уязвить в момент ругани и т.д.

Разумеется, есть лист бумаги. Есть notepad на компе. Но общаться с ничем - это противоречит человеческой натуре. Человек исторически очеловечивает собеседника для удобства восприятия. Не случайно древние люди с любым явлением природы соотносили антропоморфных богов, духов и сущностей, - чтоб проще было общаться. Поэтому когда у ИИ-бота есть аватарка с человеческим (или околочеловеческим) лицом, нам проще с ним говорить. И значительно проще, чем просто с листом бумаги. Он отвечает - неважно, что именно, - это делает его именно собеседником.

Поэтому общаться с ИИ-психологом полезно. Однако читать то, что он отвечает, не стоит. Точнее, стоит читать очень выборочно: читать его уточняющие вопросы для того, чтоб лучше изложить свою ситуацию. И это действительно нередко помогает, потому что верная формулировка вопроса - это уже половина ответа. Писать боту и перечитывать написанное собою же - это уже хорошее начало в решении собственных проблем.

ИИ-боты тренируют нас грамотно писать ТЗ, излагать собственные мысли, формулировать сложные проблемы простым языком. И эти навыки очень помогают нам в жизни. Но не путайте бота с живым специалистом.