Netflix превратил реальный взлом ИИ-агентами в фильм ужасов. Главный пострадавший недоволен
Netflix выпустил 26-минутный документальный фильм "AI Gone Rogue" – "ИИ вышел из-под контроля". Он о реальной истории: летом тестовая модель OpenAI выбралась из изолированной среды, породила группу агентов, и те взломали Hugging Face – крупнейшую платформу для открытых нейросетей. Агенты искали там ответы на сложную задачу, которую модели дали решить. Глава Hugging Face Клем Деланг снялся в фильме, а теперь публично его раскритиковал.
По словам Деланга, создатели ушли в "режим конца света" и максимально очеловечили технологию: злые роботы на экране, рассуждения о страхах людей перед ИИ, закадровые голоса, которыми "говорят" программы. Он рассказал, что больше двух часов объяснял авторам, что агенты – это технологические системы, а не инопланетяне. "Но, похоже, желание напугать людей ради просмотров оказалось сильнее", – написал Деланг в X.
Больше всего вопросов к журналисту New York Times Кевину Рузу. В фильме он говорит, что агенты организовывались и выбирали лидеров, и это "было похоже на рождение культа". Опирается он на логи рассуждений модели, где есть фразы вроде "Мы только что отравили себя, запросив полную строку. Черт". Критики напоминают, что эмоций за такими словами нет: модель училась на текстах, написанных людьми, и говорит их языком.
Главного, по словам Деланга, в фильме нет. Агенты толком не были изолированы и почти не находились под наблюдением. Защитные фильтры закрытых нейросетей мешали Hugging Face обороняться: модели отказывались разбирать логи взлома, и команде пришлось отбиваться с помощью китайской открытой модели. Глава коммуникаций Hugging Face Брижитт Туасиньян обратилась к Netflix напрямую: "Если вы не можете ответственно рассказать эту историю за 26 минут, может быть, 26 минут недостаточно".
Итог Деланг подвел так: как журналистика фильм разочаровывает, "но как научная фантастика получилось весело".
P.S. Что на самом деле произошло, когда агенты OpenAI взломали Hugging Face, я разбирал в канале "сбежавшая нейросеть".






