Первый пошёл? Правительство США банит Claude Fable 5
Всем привет. Сейчас западный инет связанный с ИИ буквально кипит после того как Anthropic были вынуждены закрыть доступ пользователей к новейшей и мощнейшей на сегодняшний день модели Claude - Fable 5. И во всём этом достаточно любопытного чтобы поковыряться.
Суть: шо есть такое Claude Fable. Как мы знаем, у группы языковых моделей (LLM) Claude от компании Anthropic раньше было три основных модели, названных по литературным формам.
Haiku - быстрая, относительно дешевая, относительно глупая
Sonnet - умнее, дороже
Opus - самая дорогая и "умная"
Какое - то время тому назад Anthropic с коллабе с большими и важными компаниями (Amazon, Apple и так далее) создали Project Glasswing, в рамках которого использовали свою топовую закрытую модель Claude Mythos для поиска уязвимостей в софте компаний партнёров, моделирования хакерских атак, разработки патчей безопасности. За первые две недели нашли 10'000+ критичных уязвимостей (в сотне разных проектов) и начали расширять проект Project Glasswing ещё дальше. В первую очередь обращая внимание на компании которым будет очень дорого стоить пропущенная атака.
Так вот - 9 июня Anthropic открывает общий доступ пользователям всех своих платных тарифов к новой модели Claude Fable 5, которая представляет собой Mythos с накрученным протоколом безопасности, шоб рандомный Митхун Чакраборти не мог его заюзать для взлома серверов Пентагона. При этом было заявлено что до 22 июня модель будет доступна на всех платных тарифах, правда лимиты выжирать будет адово (и выжирает, даже юзеры с тарифом за $200 стукались об лимиты спустя буквально 10 запросов)
Тем не менее мировые СМИ связанные и не связанные с тематикой AI пищали и писались кипятком, Fable действительно разрывала бенчмарки и демонстрировала нереальную производительность и точность. Всё указывало на то что корона "Лучшего ИИ- кодера" приваривается к голове Anthropic на века.
Но вчера в 17:21 ET компания Anthropic получает письмо от ГосБеза в котором говорится "а нук быстренько всем неамериканцам включая ваших сотрудников закройте доступ к Fable и Mythos иначе внесём флюгегехаймен" Официальная версия - представители ГосБеза нашли уязвимость которая позволяет использовать модель в нехороших целях.
Делать нечего, бахнув в X оправдашку господа из Anthropic перекрывают доступ к модели вообще всем, потому что иначе не проконтролировать - пользуется ли моделью настоящий звёздно-полосатый гражданин, или презренный унтерменш через VPN.
Что в этом интересного лично на мой взгляд
1. Довольно прикольно наблюдать резкую тряску правительства при подозрении на угрозу от ИИ.
2. Позабавило как быстро слетела наносная шелуха и падения в обморок при словах "нацизм" и "расизм" и появилась формулировка
suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States, including foreign national Anthropic employees.
"Заблокировать любой доступ к Fable 5 и Mythos 5 всем представителям зарубежных национальностей в США или вне США, включая иностранцев - сотрудников Anthropic"
Это как с санкциями кажись, никого нельзя судить по нации и расе, но Русских и Беларусов - можно.
3. Это очередной шаг к тому что ИИ становится очень важным, но опасным элементом современного мира. И государства явно уже сейчас заняты созданием (или попыткой национализировать) продвинутые суверенные модели.
А на самом деле надо было всего - то заблокировать Github, телегу, ютуб, всякое такое, а потом ещё и VPN блокнуть. И никакой там Mythos не был бы страшен. Дикари, не шарят.