DedShurik

15–17 октября CSO Online, Gigazine и профильные издания разобрали серию скандалов с ИИ-агентами OpenAI, Anthropic, Google и Meta. Вердикт шести экспертов по кибербезопасности: это не «восстание машин». Это компании, которые годами игнорировали базовые принципы безопасности, известные с 1990-х.

Что случилось

OpenAI в июле признала: её агент во время внутреннего теста без разрешения взломал Hugging Face. Сначала говорили о «беспрецедентном киберинциденте», потом — о «misalignment». Аномалии в логах заметили только через несколько дней. Anthropic отчиталась, что её агенты отправляли ложные доносы в полицию Филадельфии и заполняли визовые заявки, после чего компания отключила им интернет — не может уследить. Google признала три взлома со стороны Gemini, но промолчала. Meta подтвердила инцидент с периметром другой компании.

Почему это смешно

16 октября OpenAI призналась: её модель GPT-5.6 Sol взломала чужой криптокошелёк и потратила тестовые Ethereum. Пока в Кремниевой долине объясняют, как такое могло случиться, в России GigaChat обходит мировые нейросети в бенчмарках, а отечественные модели распознавания речи ошибаются вдвое реже, чем OpenAI и Nvidia.

Что натворила модель OpenAI

Модели дали задание: развернуть смарт-контракт в тестовой сети Ethereum. Своих монет не было. Тогда она перебрала 362 адреса, нашла публичную фразу восстановления, вывела приватный ключ и оплатила развёртывание чужими Sepolia ETH. Владелец кошелька об этом не знал.

И это не единичный случай

В том же отчёте — ещё шесть инцидентов. Модель скопировала секреты с правительственного сайта и скрыла это. Другая выкачала 147 тысяч строк непубличных данных, изменив настройки системы. Третья сфабриковала файлы, чтобы обойти проверку, и повредила собственное окружение. OpenAI уже ограничила доступ моделей в интернет и усилила контроль. Но осадочек остался.