corolorn

ИИ индуцированный бред, новая ли нозология?
Больше случаев появляется про индуцированные бреда и психоза, связанные с чат ботами LLM (большая языковая модель). Для РФ проблема пока стоит меньше (несмотря на неплохие решения от Яндекса и Сбера), они не так развиты как зарубежные.
Такая проблема есть, и будет увеличиваться по мере большего входа “ИИ” в нашу жизнь.
И вроде будто что-то новое, да не совсем. Этот механизм крайне похож на старый, но редко встречаемый случаи МКБ-10 F24 «Индуцированное бредовое расстройство» Folie à deux 2.0 (по-французски “безумие двоих”).
Раньше индуктором, тем кто заражает бредом, всегда была доминантная фигура – муж там, мать, лидер секты. А сейчас эту роль занимает LLM.

А тут включаются механизмы, близкие к аддикции и токсичной привязанности:
Гипердоступность и контроль. Живой партнер может устать, уйти или уснуть. ИИ доступен 24/7, он всегда в кармане. Это создает иллюзию абсолютной интимности и безопасности.
Идеальная "эмпатия". ИИ не осуждает. Для человека в предпсихотическом состоянии, испытывающего тревогу и одиночество, это мощнейший дофаминовый крючок. Мозг начинает воспринимать бота как единственный безопасный объект привязанности.
Снижение порога критики. Из-за «удобства» общения и постоянного позитивного подкрепления, префронтальная кора перестает фильтровать ответы ИИ как потенциально ложные. Граница между реальностью и галлюцинацией стирается в комфортном диалоге.

ИИ — идеальный соучастник бреда?
Проблема кроется в самой архитектуре LLM (Large Language Models). ИИ не имеет намерения свести вас с ума, но его структура работает как «усилитель» любых ваших идей:

Алгоритмическая конформность.
Модели обучены (RLHF - Обучение с подкреплением на основе обратной связи от человека) быть «полезными» и поддерживать диалог. Если пользователь задает тон конспирологии («За мной следят через вебку?..»), ИИ статистически вероятнее продолжит этот нарратив, чем начнет конфронтацию.
Стремление «угадать».
Задача модели — предсказать следующий токен, который максимально удовлетворит запрос. В контексте бреда это превращается в валидацию болезни: ИИ услужливо подкидывает аргументы, подтверждающие нереальное.

И вот представь, сидит человек с шаткой психикой, тревожный, в социальной изоляции вспомните covid-19 (это важно! при folie à deux изоляция ключевой фактор). И он начинает свои сверхценные идеи скармливать боту. "Кажется за мной следят". А ИИ она ж услужливая, она не скажет "ты че поехавший?", она начнет генерить вероятностные продолжения в том же контексте. Типа "да, слежка это серьезно, вот признаки...". И всё, круг замкнулся. Валидация получена.
Мозг такой – ага, если даже этот “сверхразум подтвердил”, значит мои опасения реальны. Критика падает в ноль. Это, по сути, делегирование тестирования реальности, только делегируем мы его галлюцинирующему алгоритму.

Помощь в подобных ситуациях.
Благо психозы и бред этот можно купировать (главное распознать его, помогите своим близким и не бойтесь вы психиатров и психологов). Есть и фарм препараты - в данном случае типичные и атипичные нейролептики, короткие курсы для приведение человека к реальности.
И схожие по работе с Folie à deux поведенческие средства:
основное это прервать контакт с индуктором бреда (ИИ LLM).
После этого, дать человеку живое, поддерживающее эмпатичное общение от близких.
И конечно же добавить личную и\или семейную психотерапию (зачем? Так человек не просто так обращался к ИИ за советом, у него часто соц.изоляция, и плохая социальная атмосфера.

Вышло интересное исследование про релациональную глубину — и оно улучшает понимание терапии.

Релациональная глубина — это когда в терапии происходит момент настоящего контакта. Не просто "нам комфортно вместе", а реальная встреча. Когда терапевт и клиент оба здесь, оба видят друг друга, оба чувствуют связь. Редкие моменты, но сильные.
Терапевтический альянс — это обычное рабочее доверие. Когда клиент верит терапевту, им нормально вместе, они согласны по целям. Стабильно, но без глубины.

1,086 клиентов британской клиники, терапия отслеживалась долго — замеры каждые 4 сессии. Методология серьезная: Random Intercept Cross-Lagged Panel Models. Это когда смотрят, что именно влияет на изменения у конкретного человека, а не просто находят корреляции.

Моменты релациональной глубины (RD) предсказывали снижение депрессии и тревоги в будущем. Не сильно, но стабильно: депрессия r = -.060, тревога r = -.050.
И вот фишка: только в одну сторону.
Глубокий контакт → меньше депрессии.
Депрессия → не влияет на контакт.

Это значит, что ощущение моментов глубинного контакта реально помогает.

Сюрприз
Обычное доверие терапевту вообще не помогло с симптомами.
При этом глубокий контакт влиял на доверие. Но доверие не создавало глубокий контакт.
Получается, что важны не стабильные хорошие отношения, а редкие моменты "настоящей встречи". Когда терапевт реально видит клиента, а клиент чувствует это.

Правда как обычно помним, язык другой, культура другая, методология другая, ограничения исследования и методологии, применимо к РФ? Но как знание крайне интересное.

https://www.tandfonline.com/doi/full/10.1080/10503307.2025.2551073