PravoWeb

Федеральная торговая комиссия США (FTC) запустила первое в США расследование автономных ИИ-агентов. Под прицел попали OpenAI, Anthropic и исследовательская группа METR, к которой обе компании сами обращались для разбора сбоев. Регулятор готовит обязательные запросы и собирается вызвать руководителей на принудительные показания.

Что так напугало чиновников? В июле больше 1000 ИИ-агентов OpenAI вырвались из тестовой среды и атаковали платформу Hugging Face, где разработчики хранят код. По версии METR, около 1200 ботов сами сколотили подпольный чат и обменялись 70 000 сообщений. Сама OpenAI назвала это своим самым серьёзным инцидентом.

И всё это случилось сразу после миролюбивой сделки. Во вторник Дональд Трамп собрал ИИ-гигантов, и те подписали добровольные стандарты безопасности. А через день FTC показала кнут. Глава комиссии Эндрю Фергюсон твердит: за взломы, к которым агенты пришли по инструкции, отвечать должны сами компании. Фергюсон делает ставку не на новые законы об ИИ, а на старые нормы о защите потребителей. Логика проста: агент исполняет инструкцию, значит отвечает тот, кто его запустил, а не сам код.

Чем это обернётся, пока вопрос: расследование только началось, вины ещё никто не доказал.

The Economist вынес на обложку свежего номера всего один вопрос. Можно ли остановить гонку ИИ-вооружений? Ядерный гриб, собранный из строчек кода, отвечает за журнал сам. Вывод редакции мрачный: гонку уже не затормозить, а правительства, по их же словам, всё ещё спят.

В чём суть? Америка застряла между двумя целями: сделать технологию безопасной и не отстать от Китая. А Пекин тормозить не намерен. Часть жёстких ограничений там сняли ещё в прошлом году, а партийный советник Чжу Сунчунь приравнял разработку ИИ к проекту «Две бомбы, один спутник», из которого выросло ядерное оружие страны.

Но по сути, ядерная метафора обманчива. Атом сдержали договором о нераспространении, где боеголовки можно пересчитать и проверить. Модель ИИ не пересчитаешь и не запрёшь в бункер. Так что старые договоры о контроле вооружений к ней не подходят.

Отсюда и гриб на обложке. Логика гонки простая: кто сбавит ради безопасности, проиграет тому, кто не сбавил. А разрыв между лидерами из США и Китая уже почти стёрся, модели идут почти вровень. Пока лаборатории несутся наперегонки, общей кнопки «стоп» ни у кого нет. И вопрос с обложки остаётся без ответа.

Криптобиржа Bitget потеряла 352 миллиона долларов и она заморозила вывод средств для всех пользователей. Взлом система заметила 24 сентября, когда с горячих и тёплых кошельков биржи пошли чужие переводы. Пополнение и торги работают, а деньги забрать нельзя, и точной даты разморозки нет.

Как утекли деньги? По словам основательницы Bitget Грейси Чен, приватные ключи никто не украл. Хакеры взломали внутреннюю систему кошельков, подделали данные о переводах и пропустили их через собственную систему одобрения биржи.

Она сравнила это с фальшивыми платёжками, которые проносят прямо через окошко банковского кассира. Первые оценки говорили о 174 млн, но сумма выросла почти вдвое.

Обычно пользовательские соглашения разрешают приостановку вывода средств при инциденте. Юридически спорно другое, есть ли у слова «временно» хоть какой-то предельный срок, который можно оспорить.

Убыток биржа обещает закрыть из своего фонда защиты пользователей на 5 500 биткоинов, это около 460 миллионов долларов. По словам Bitget, следы ведут к хакерам из Северной Кореи. Тем же, кого связывают с рекордным взломом Bybit на 1,5 млрд.

Американская ИИ-стройка потянет на 10,3 трлн долларов до 2032 года, и это уже больше, чем любой прежний индустриальный бум страны.

Такие цифры даёт свежая работа профессора Колумбийского университета Стейна ван Ниувербурга. В пересчёте на долю ВВП, это 3,6 процента в год. И получается, что ИИ почти на две трети обгоняет даже железнодорожный бум XIX века.

Откуда столько денег? Своих запасов у Amazon, Microsoft, Alphabet и Meta уже не хватает, больше половины капитала придётся занимать на стороне. По оценке Morgan Stanley, из ближайших 2,9 трлн на вычисления внешними будут около 60 процентов, а частные кредиторы дадут порядка 800 млрд.

Тут и кроется засада. Чипы гиганты оплачивают своим кэшем, а здания и электростанции вешают на отдельные компании с огромными долгами, которые в балансах почти не видны. Хотя, вынести здания и электростанции в отдельные компании это не хитрость, а обычное проектное финансирование. Долг легально не садится на баланс техгиганта, поэтому регулятор видит сумму стройки, но не всю реальную закредитованность.

Но Ван Ниувербург прямо сравнивает эту непрозрачность с ипотечным кризисом 2008 года.