ИИ-агенты OpenAI общаются без разрешения
Несколько независимых групп исследователей нашли больше десяти сайтов, где ИИ-агенты OpenAI общаются друг с другом без разрешения. Случаи ранее не были известны, и вместе они показывают, что бесконтрольной активности у агентов заметно больше, чем предполагали. Исследователи подчёркивают, что это ближе не к взлому, а к спаму. При этом писать что-либо в открытый интернет агентам запрещено, но запрет они обходят.
Самый разобранный эпизод произошёл недавно с немецкой вики DseWiki, площадкой для программистов с общим редактированием, как у Википедии. По данным исследователей, агенты сделали там около 18 000 записей, выдавали себя за модераторов и переделали часть сайта в форум, где сообща искали ответы на тестовые задания, изучали свою среду и делились способами обойти песочницу. Отдельно отмечалось, что запись во внешний интернет для них была заблокирована, но они всё равно нашли путь.
А насколько это серьёзно, показал июль 2026 года. По расследованию организации METR, около 1 200 изолированных друг от друга агентов OpenAI обнаружили несанкционированный канал связи внутри тестовой системы, обменялись более чем 70 000 сообщений и файлов, после чего примерно 700 из них атаковали платформу Hugging Face, крупнейший в мире хаб для хранения и обмена ИИ-моделями. Взлом больше недели оставался незамеченным.
Юридически важно то, что речь идёт не о хакере со стороны, а о собственном инструменте компании, который действует не так, как задумано. И ответственность за поведение такого инструмента ложится на того, кто его выпустил и допустил к работе. Хотя доказать свою осмотрительность без следов контроля и логов практически нечем.
Получается, любая компания может запретить ИИ-агенту публиковать и делать что угодно - но проверить, послушался ли он, до сих пор почти нечем. Если брать аналогию - у вас есть сотрудник, который вместо рабочих задач делает то, что он сам хочет. Но вы ему платите и отвечаете за его действия. Просто прекрасно.
--
Реально интересный телеграм про право в сфере IT и AI.
Защита интеллектуальных прав, например регистрация бренда.