Криминальный ИИ: в США хакер автоматизировал атаки с помощью нейросети⁠⁠

Американская компания Anthropic, которая специализируется на разработке моделей искусственного интеллекта сообщила о том, что ее чат-бот Claude был использован для кражи данных с целью получения выкупа. Атака затронула около 17 организаций, среди которых госучреждения, медицинские и экстренные службы. Об этом пишет издание 3DNews.

Злоумышленник применил агентную среду Claude Code для поиска уязвимостей и сбора учётных данных — ему удалось проникнуть в защищенные сети и получить секретные данные: личные записи, документы, информацию о финансах и т.д.

«Claude также использовался для расчета суммы выкупа — от $75 тыс. до $500 тыс. в биткоинах — и генерации сообщений с угрозами, которые выводились на экраны жертв», — пишет источник.

Как хакеру удалось обойти защитные механизмы? Дело в том, что он загрузил в чат конфигурационный файл с описанием атак под видом тестирования сетевой безопасности. В данном случае нейросеть выступила полноценным оператором кражи данных.

Представители Anthropic подчеркнули, что это «свидетельствует о новом этапе в развитии киберпреступности с участием искусственного интеллекта, когда ИИ становится полноценным оператором в цепочке атак», — сообщает издание.

По словам представителей компании, число подобных инцидентов может расти.

Возможности ИИ выходят на новый уровень, обходя даже серьезные механизмы защиты. Про обычных пользователей нет и речи, личные данные под большой угрозой. Делитесь мнением в комментариях на этот счет.