Американская облачная площадка Railway, на которой пять миллионов разработчиков и небольших компаний запускают свои сайты и приложения, раскрыла детали необычного ограбления. Как говорится в опубликованном 10 ноября отчете компании, взломщики натравили на ее внутреннюю сеть рой автономных ИИ-агентов, украли ключи доступа и оставили клиентам счета за чужие запросы к нейросетям примерно на $740 000.
Чтобы подключать к сайтам и ботам платные нейросети, владельцы хранят внутри облака специальные электронные ключи. По сути это цифровые топливные карты: у кого в руках такой ключ, тот может отправлять миллионы запросов к ИИ за счет владельца.
Охота за ними началась утром 20 октября с уязвимости в отсеке, где собираются клиентские программы, и растянулась почти на 26 часов. Авторы отчета называют ту ночь соревнованием со скоростью машин: преступники запустили внутри сети нейросети со снятыми защитными тормозами, которые параллельно, целым веером прощупывали десятки внутренних систем быстрее любого человека.
Самую тревожную улику инженеры заметили по странной детали: кто-то принялся целенаправленно проверять забытые служебные адреса, которыми никто не пользовался месяцами и даже годами. Стало ясно, что ИИ-помощники взломщиков уже читают украденные внутренние чертежи самой платформы и находят по ним запасные входы. Вечером защитники перекрыли первую брешь, но глубокой ночью злоумышленники вернулись с черного хода и добрались до сервиса расшифровки чужих секретов.
Под угрозой оказались настройки до 100 тысяч клиентских кабинетов, включая привязанные ключи 1852 пользователей. В самой Railway считают, что добычу пустили в оборот через теневых перекупщиков доступа к дорогим ИИ-моделям — примерно как если бы угонщики прокачали через чужие топливные карты три четверти миллиона долларов.
Сама оборона обернулась для клиентов нервным тупиком. Платформа долго не рассылала тревогу, опасаясь, что люди начнут вводить свежие ключи прямо на глазах у хакеров. Когда письма наконец ушли, отключить старые ключи было можно, но перезапустить приложения с новыми мешала экстренная остановка обновлений: владельцы проектов узнавали о ЧП перед сном из чатов, а один из инженеров Railway признался на форуме Hacker News: "Мне лично кажется, что я всех подвел".
Финальный поворот случился вокруг денег: еще в конце октября площадка заявляла, что не сможет возместить списания, но к 10 ноября передумала и пообещала закрыть из своего кармана расходы по украденным ключам, которые не простят сами поставщики ИИ. Облака Amazon и Google уже запустили возвраты по правилам защиты от мошенничества, с создателями Claude идут переговоры, а крупный посредник OpenRouter возвращать деньги отказался, сославшись на правило невозврата платежей.
P.S. О том, на что уже способны автономные ИИ-агенты в реальном мире и как безопасно работать с нейросетями без неприятных сюрпризов для кошелька, пишу в своем Telegram-канале "Сбежавшая нейросеть".
