Сооснователь издания Джейсон Кеблер рассказал, что за последние месяцы редакция получила десятки явно сгенерированных "наводок". Пару недель назад журналисты начали спрашивать отправителей, как они нашли адрес. Ответ каждый раз был один: посоветовал чат-бот, и часто он же составил письмо.

Один из героев – пользователь из России. Instagram* (принадлежит Meta*, признана экстремистской и запрещена в РФ) заблокировал его аккаунт, где лежали 13 лет фотографий и видео. До живой поддержки он не достучался и пошел к ChatGPT. Тот по-русски посоветовал обратиться к журналистам, представил 404 Media как издание про цифровые платформы, слежку и приватность – и сам написал письмо на английском.

Похожее письмо прислал итальянский художник, у которого Meta* отбирает рабочие аккаунты, хотя до этого прислала ему письмо о восстановлении. К письму прилагалось "досье" из девяти скриншотов. На вопрос, откуда у него адрес, художник ответил: "ChatGPT посоветовал связаться с вами".

Клиент Verizon разослал "наводку" о сбоях связи на iPhone сразу в 404 Media, Washington Post, CBS, NBC и Los Angeles Times – и попросил провести "независимое расследование".

Самый изящный случай – житель Техаса, который жаловался на ненадежность своего ИИ-ассистента в ChatGPT. Письмо с жалобой на ChatGPT написал сам ChatGPT и приложил к нему три сгенерированных PDF. В чате мужчина скомандовал: "Давай, отправляй во все СМИ". Некоторые такие письма уходят в копии на настоящие адреса поддержки компаний, и получается переписка ИИ-систем друг с другом.

Кеблер признает, что внимание прессы иногда помогает: в 2019 году Instagram* ввел новые способы восстановления взломанных аккаунтов после публикаций его коллеги Джозефа Кокса. Но большинство проблем с техподдержкой – не новость. Коллега Кеблера Кокс сформулировал коротко: "Настоящие наводки так не звучат". А журналистка New York Times Кашмир Хилл раньше рассказывала о похожих случаях: чат-боты советовали людям писать лично ей.

Получается замкнутый круг: компании заменили поддержку ботами, бот отправляет людей к журналистам, а журналисты разбирают письма, написанные ботом.

P.S. Как пользоваться ИИ так, чтобы он решал проблемы, а не плодил жалобы, рассказываю в канале "Сбежавшая нейросеть".

Песня, кстати, это "Smalltown Boy" группы "Bronski Beat" 1984 года.