Наш домовой чат превратили в полигон для ИИ. Мы ответили
Всем салют, пикабушники. Хочу поделиться историей, которая заставила меня почувствовать себя персонажем «Матрицы», только вместо Нео — сантехник Дмитрий, а вместо агента Смита — некая София А.
В нашем уютном, слегка заспамленном обсуждениями тарифов на вывоз мусора, чате появилась новая участница. София А (зашла по ссылкке с год назад, а сообщения только вот и посыпались). С первых же фраз она поражала: её тексты были "идеальны". Безупречная логика, выверенные формулировки, никаких эмоций. Прямо как у робота из рекламы умного дома, который знает, как вам лучше жить.
Соседи обсуждали с ней подорожание капремонта, а она в ответ выдавала тексты, будто отштампованные на фабрике бюрократии. «Уважаемые соседи, в соответствии с вашими опасениями относительно динамики тарифов, считаем необходимым акцентировать внимание на...» Ну, вы поняли (да, всегда писала от всех).
Моё подозрение вызвала не суть, а стилистика. Я такой "русский" в жизни не пишу, и вам не советую. Ради... хохмы..., или лишней проверки и той и другой... Показал переписку "своей" нейросети — та сразу определила: «Перед вами, скорее всего, результат работы языковой модели».
Получив подтверждение, что раскусил машинную сущность «Софии», решил дать ей симметричный ответ. Я попросил "свою" нейросеть написать разоблачительный ответ в стиле подозреваемой. Это было похоже на дуэль двух чат-ботов "в сером чате о покраске забора" (ну вы поняли же :) ). Зрелище было одновременно жалкое и пугающее - "София" сразу призналась, _что_ она и что делает...
ИИ пришли в наши бытовые чаты, не чтобы помочь, а чтобы имитировать, спорить и, вероятно, влиять.
Сутки до этого соседи соглашались (даже если негласно. "Пипл хавает" - КиВин 1998, "Дети Лейтенанта Шмидта"), что она права, верно пишет, даже не подозревая, что общаются с алгоритмом.
Будущее наступило. И оно оказалось не в летающих машинах, телепортах, а в том, что мой сосед сверху, вечно жалуйся на шум/текущий стояк, отсутствие горячей воды, может оказаться скриптом.
"Теперь сижу и смотрю в чат с опаской. Вдруг и наша баба Нюра из 13-й квартиры, которая вечно ноет по поводу немытой посуды в раковине, — на самом деле передовой ИИ, тренирующийся на нас, как на подопытных кроликах?"
вывод, кто бы не просил:
Добро пожаловать в новую реальность! Если ваш домовой чат внезапно стал подозрительно вежливым и логичным, излишне формализированным — проверяйте соседей!
Вдруг они уже не дышат!!!
