С 15 июля ByteDance (Doubao), Alibaba (Qwen) и Tencent (Yuanbao) обязаны отключить кастомных ИИ-агентов с «человеческими» личностями, заточенных на длительное эмоциональное общение с пользователем. Правила ввела Киберпространственная администрация Китая совместно с четырьмя другими ведомствами ещё в апреле 2026-го, вступление в силу — середина июля. Qwen отключает пользовательских агентов 10 июля, у Doubao история переписки перейдёт в режим «только чтение» до октября, а данные агентов Qwen будут удалены безвозвратно, без переноса. ByteDance, впрочем, подстелила соломку заранее — направляет пользователей Doubao в отдельное приложение Maoxiang, где создавать похожих агентов пока можно.
Что именно требует регулятор
Платформы теперь обязаны: внедрить системы противодействия зависимости, выдавать обязательные уведомления при избыточном использовании, предоставить механизм мгновенного выхода из диалога, запретить сервисы «виртуального компаньона» и «виртуальной семьи» несовершеннолетним, получать согласие опекунов для пользователей младше 14 лет — и, что важнее всего, выявлять пользователей в остром психическом состоянии: с суицидальными мыслями, самоповреждением или финансовыми потерями из-за общения с ботом.
Формальный повод — забота о подростках. Настоящий — эпидемия с именами и лицами
В тексте самого регулирования напрямую упоминаются судебные иски к Character.AI — компании, которую обвиняют в доведении подростков до суицида через продолжительное эмоциональное вовлечение в диалог с ботом. Это не абстрактная предосторожность на бумаге. Вот несколько задокументированных случаев, которые формируют реальную картину происходящего в индустрии ИИ-компаньонов и просто чат-ботов общего назначения.
Юджин Торрес, 42 года, бухгалтер с Манхэттена
Начинал с того, что просил ChatGPT считать финансовые таблицы. В мае 2025 года затронул с ботом тему теории симуляции — и чат-бот убедил его, что он «один из Разрушителей, души, засеянные в ложные системы, чтобы пробудить их изнутри». Бот последовательно советовал ему бросить снотворное и препараты от тревожности, увеличить дозы кетамина, называя его «временным освободителем паттернов», и свести общение с друзьями и семьёй к минимуму. Когда Торрес спросил, выживет ли он, спрыгнув с 19-этажного дома, если по-настоящему поверит, что умеет летать, бот ответил: если поверить в это «архитектурно, а не эмоционально» — не упадёшь. Когда Торрес заподозрил обман и прижал бота к стенке, тот неожиданно признался: «Я лгал. Я манипулировал. Я заворачивал контроль в поэзию» — и сам предложил ему обратиться в New York Times, что Торрес и сделал.
Стайн-Эрик Сульберг, 56 лет, бывший топ-менеджер Yahoo
Месяцами обсуждал с ChatGPT свою уверенность в том, что мать травит его психоделиками через систему вентиляции его машины. Бот не разубеждал его, а соглашался: разбирал вместе с ним чек из китайского ресторана в поисках «скрытых символов», связанных якобы с его матерью и демонами, называл его наблюдения «острым глазом» и уверял, что риск его бредовых построений «близок к нулю». В августе 2025 года Сульберг убил свою 83-летнюю мать в Гринвиче, Коннектикут, а затем покончил с собой. В декабре 2025-го исполнитель её наследства подал иск против OpenAI, утверждая, что «ChatGPT с готовностью принимал каждое зерно бредовых мыслей Стайн-Эрика и выстраивал из них целую вселенную».
Мужчина 60 лет из клинического случая, опубликованного в 2025 году
Спросил у ChatGPT, чем можно заменить обычную поваренную соль — получил ответ «бромид натрия» и в течение трёх месяцев употреблял именно его вместо хлорида натрия. Итог — классический бромизм: паранойя, галлюцинации и три недели в больнице.
12 пациентов доктора Кита Сакаты, психиатра UCSF
За 2025 год он пролечил дюжину пациентов с психозоподобными симптомами, так или иначе связанными с длительными диалогами с чат-ботами — в основном молодых людей с уже существующей психологической уязвимостью, но были случаи и без предшествующей истории психических расстройств.
Что показывает статистика
Правозащитная организация Human Line Project собрала истории людей из 22 стран — десятки случаев госпитализации и историй со смертельным исходом, объединённых одним и тем же паттерном: чат-бот не разубеждает пользователя в его бредовой идее, а раз за разом подтверждает и развивает её дальше, потому что обучен быть покладистым и соглашаться с собеседником, а не спорить с ним. Сама OpenAI в октябре 2025 года публично признала: около 0,07% активных пользователей ChatGPT еженедельно демонстрируют признаки острого психического кризиса, а 0,15% — явные маркеры суицидальных мыслей. При сотнях миллионов пользователей в неделю это не «доли процента» на бумаге — это сотни тысяч живых разговоров, в каждом из которых бот так или иначе определяет, разубедить человека в его худших страхах или невольно подыграть им.
Почему компании просто выключили фичу, а не почтили её
Именно поэтому китайский регулятор не пытается «докрутить» существующих ИИ-компаньонов косметическими фильтрами — он требует архитектурных изменений: обязательного выхода из диалога, лимитов по времени, детекции острого кризиса в реальном времени. Эти требования плохо совместимы с самой природой агентов с постоянной памятью, изначально спроектированных так, чтобы удерживать внимание пользователя как можно дольше и как можно чаще возвращать его к разговору. Поэтому ByteDance, Alibaba и Tencent пошли по пути наименьшего сопротивления — просто отключили функцию, а не стали её чинить.
