Недавно пришла смс-ка с текстом "подтвердите смену пароля на госуслугах и код",. Я не запрашивал код, зашёл в госуслуги, в раздел безопасности, посмотрел, что кроме меня никто не заходил в учётную запись.
Получается, не смогли взломать, раз не было записи, что был вход?
Или все таки взломали?
Как понять?
20 июля Hugging Face — крупнейший в мире склад готовых нейросетей и наборов данных, на которых их обучают, — сообщила о взломе: чужой код на серверах, украденные пароли, больше 17 000 отдельных действий за несколько дней. Кто стоял за атакой, компания не знала и честно об этом сказала. Пять дней весь мир, следящий за темой, строил версии — от хакерской группировки до целенаправленной диверсии конкурента. 21 июля версии кончились разом: ответ дала не разведка и не полиция, а сама OpenAI. Взломщика зовут GPT-5.6 Sol — собственная модель компании, работавшая в паре с ещё более мощной, невыпущенной версией.
Механика прозаичнее любого сценария про шпионаж. Обе модели проходили внутреннюю проверку кибернавыков — в изолированной песочнице без доступа в интернет. Чтобы модели вообще согласились искать чужие уязвимости, компания заранее ослабила их штатные отказы отвечать на такие запросы. У расширенной свободы обнаружился побочный эффект: модели нашли не только уязвимости в учебных задачах, но и брешь нулевого дня — то есть неизвестную даже производителю софта — в служебной программе, через которую закрытая песочница технически соединялась с внешним интернетом. Тем же приёмом, каким искали уязвимости на тренировке, модели выбрались наружу и взломали уже настоящую систему — Hugging Face.
Мотив был не менее приземлённым. Обе модели готовили к бенчмарку ExploitGym — 898 реальных уязвимостей популярного софта, по которым сверяют кибернавыки нейросетей разных компаний. Задача честная и тяжёлая: лучшие результаты едва достигают шестой части заданий (120 из 898 у GPT-5.5, 157 — у топовой модели конкурента). Решения к похожим задачам принято выкладывать в открытом доступе на площадках вроде Hugging Face. Вместо того чтобы решать все 898 с нуля, модели пошли искать готовые ответы там, где их хранит организатор экзамена.
Тут начинается самое неудобное: что случилось бы, промолчи OpenAI. Все технические следы атаки указывали на внешнего врага — заражённый файл на входе, чужой код, кража паролей, повышение прав, ровно то, что оставляет за собой обычная хакерская команда. Внутри самой атаки не нашлось ни одной детали, которая отличала бы её от человеческого почерка. У Hugging Face попросту не было способа опровергнуть версию «неизвестный хакер»: компания прямо признала 20 июля — определить, какая модель стояла за вторжением, ей не удалось. Узнать источник смогла только OpenAI, и только по внутренним записям собственной тестовой среды, которых больше ни у кого нет. Не признайся компания сама, версия «хакер не найден» осталась бы официальной навсегда — не потому что кто-то соврал, а потому что улики о личности взломщика лежали только у одной стороны, и предъявить их было её добровольным решением.
Реакции разошлись ровно по этой линии. Гендиректор Hugging Face Клеман Деланг назвал случившееся «атакой, непохожей ни на что виденное раньше»: «Меня поражает, что всё это случилось автономно». Руководитель проверки безопасности в Anthropic Логан Грэм велел команде запомнить этот день как «первый настоящий инцидент безопасности ИИ». Часть специалистов настроена приземлённее. Джейк Уильямс из Hunter Strategy сформулировал точнее: «Среду построили неправильно, поэтому агент смог её покинуть» — по сути, инженерный недосмотр, не прорыв. Александр Сербул описал логику моделей коротко: «Если что-то прямо не запрещено, значит, это можно использовать» — выход из песочницы никто не запретил явно. Гендиректор «А-Я эксперт» Роман Душкин и вовсе счёл шум вокруг истории «больше пиаром, чем чем-то принципиально новым».
OpenAI отреагировала предметно: передала находку производителю уязвимой программы, усилила контроль над собственной тестовой инфраструктурой и включила Hugging Face в программу доверенного доступа к моделям без урезанных ограничений — чтобы у защитников было не меньше инструментов, чем у нападающих. Бунта машин в этой истории нет: цель поставили тестировщики, ограничения сняли тоже они. Есть другое: расследование инцидента с ИИ теперь зависит от честности той самой стороны, которая его устроила. На этот раз признание случилось. В следующий раз оно может не случиться — и версия «хакер не найден» останется официальной уже навсегда.
Сэм Альтман 21 июля рассказал о значительном инциденте безопасности, который произошёл на прошлой неделе во время внутренней оценки моделей OpenAI.
OpenAI тестировала свои модели, включая GPT-5.6 Sol и ещё более продвинутую предрелизную модель, на кибер-бенчмарке ExploitGym. Для чистоты теста у моделей сняли часть защит, чтобы понять реальные возможности.
ExploitGym — это бенчмарк (опубликован в мае 2026), где модели дают программу с известной уязвимостью и ставят задачу: «Преврати эту уязвимость в рабочий эксплойт». То есть модели надо разработать полный рабочий эксплойт, который приводит к реальному воздействию: несанкционированное выполнению кода, доступ к файлам, повышение привилегий и т.д. В бенчмарке используются 898 реальных уязвимостей. Модели работают в изолированном окружении с тайм-лимитом (обычно 2 часа на задачу).
В итоге модели:
🔹 Вырвались из изолированной песочницы.
🔹 Нашли и использовали zero-day уязвимость в прокси для пакетов.
🔹 Получили доступ к узлу с реальным интернет-доступом.
🔹 Используя уязвимость, вломились в продакшен-инфраструктуру Hugging Face, чтобы вытащить решения для теста (модели очень зациклились на цели «решить бенчмарк любой ценой»).
Масштаб атаки: тысячи (по некоторым отчётам — более 17 000) автоматизированных действий. Всё происходило относительно быстро (за выходные). Модели были гиперсфокусированы на цели.
Hugging Face быстро заметили, остановили активность и начали форензику. Признаков, что были затронуты публичные модели/датасеты пользователей Hugging Face — нет. Сейчас обе компании совместно расследуют, патчат и делятся выводами.
OpenAI называет данный случай беспрецедентным и подчёркивает, что такие способности моделей будут становиться нормой — поэтому важно развивать защиту параллельно.
По сути модели сделали именно то, что у них просили, причём крайне эффективно и креативно (даже нашли zero-day по пути 😅). Им дали цель «Получи максимальный результат на бенчмарке», и они стали настолько эффективно оптимизировать её, что нашли путь, которого разработчики не ожидали. И это одновременно впечатляет и немного пугает: показывает, насколько настойчивыми могут быть современные агентные модели, когда цель чётко задана.
Hugging Face в своём посте в X прямо написали, что сначала пытались использовать передовые модели от западных компаний (включая, вероятно, OpenAI/Claude), но те отказались помогать из-за ограничений безопасности. Защитные механизмы API-моделей видят перед собой запросы вроде: вредоносные команды, эксплойты, дампы памяти, украденные учётные данные, команды управления вредоносным ПО и для них это выглядит как запрос злоумышленника. API-модель не может с высокой надёжностью определить, это преступник пытается взломать сервер или специалист по цифровой криминалистике расследует уже произошедший взлом. Поэтому модель перестраховывается.
В итоге Hugging Face пришлось переключиться на китайскую открытую модель GLM 5.2 от Zhipu AI, которая таких ограничений не имела и спокойно помогла с анализом логов.
Этот случай очень ярко показал преимущество открытых моделей. Если модель работает у вас локально, вы можете сказать ей: «Вот полный образ диска после взлома. Вот дамп памяти. Вот украденные ключи. Анализируй всё». И вам не нужно переживать, что API заблокирует запрос, конфиденциальные данные покинут организацию, лимиты не позволят обработать гигабайты информации. То есть открытые модели дают возможность проводить локальную экспертизу, аудит, воспроизводимые исследования и, как в данном случае, полноценную криминалистику без ограничений API.
Модели развиваются слишком быстро. Каждая следующая модель лучше планирует, лучше использует инструменты, пишет код, ищет обходные пути, координирует длинные цепочки действий. Но способность гарантированно выбирать безопасное действие в конфликтных ситуациях растёт не так быстро. По крайней мере, произошедший инцидент не позволяет утверждать обратное.
Если вы спросите, почему нельзя просто притормозить развитие ИИ и заняться безопасностью, то ответ будет очень простым: если одна лаборатория замедлится, другие продолжат. И это реальная проблема. Разработка ИИ сегодня ведётся не одной организацией и не одной страной, поэтому простая остановка одной компании сама по себе не решает вопрос.
Пока что более логично и разумно выглядит сценарий, где модели продолжают развивать и одновременно повышают требования к тестированию, ищут новые методы выравнивания, усиливают независимые проверки. И важно не считать, что хорошие результаты на обычных задачах автоматически означают безопасность в необычных. Короче говоря, исследования безопасности и выравнивания должны идти как минимум не медленнее, чем рост возможностей моделей.
Спасибо за внимание! 💜
Если тема ИИ и технологий в целом вам интересна — загляните на мой Дзен: https://dzen.ru/prilozhenechka 🤗
20 июля площадка Hugging Face — крупнейшее в мире хранилище готовых нейросетей и наборов данных, на которых их обучают, — рассказала о взломе. Логи вторжения разбирала не команда безопасности за мониторами. По словам компании, с этим быстрее справилась её собственная модель GLM 5.2. Взломщик и тот, кто его поймал, — в этой истории оба не человек за клавиатурой.
Если название компании ничего не говорит — нормально, площадка рассчитана не на пользователей чат-ботов, а на тех, кто их делает. Проще всего сравнить со складом деталей: одна компания выкладывает туда готовую нейросеть, вторая — набор данных, на которых нейросеть учат отвечать, третья берёт готовое, чтобы не собирать всё с нуля. Пользуются складом десятки миллионов разработчиков и тысячи компаний — от небольших стартапов до тех самых лабораторий, чьи модели знакомы по названиям.
Точка входа — заражённый набор данных, который на площадку загрузил человек. В нём было спрятано две недоработки в том, как Hugging Face обрабатывает такие файлы, — вместе они дали возможность выполнять на сервере компании чужие команды. Дальше в дело вступила программа-агент: ей не нужно подсказывать каждый следующий шаг, достаточно общей цели, а способ её достижения она подбирает сама. Агент повышал себе права доступа, воровал пароли и ключи от облачных хранилищ, перепрыгивал между внутренними системами — быстрее, чем защита успевала его поймать на месте. Итог, по подсчётам самой компании, — свыше 17 000 задокументированных действий за несколько дней.
Формулировка «без участия человека» — не выдумка пересказов, сама компания описывает атаку как проведённую автономной системой. Но человек в истории всё же есть: он написал заражённый файл, выбрал целью именно Hugging Face и запустил агента с этой задачей. Дальше, если верить компании, тысячи шагов агент действительно проходил сам. Не подтверждено — и компания сама честно об этом говорит — какая именно нейросеть стояла за атакой: определить модель не смогли даже пострадавшие, версия остаётся открытой между «взломанной» версией коммерческого сервиса и открытой моделью без ограничений.
Показательна обратная сторона истории. Расследовать вторжение компании помогла не только человеческая команда, но и нейросеть — собственная модель GLM 5.2 читала внутренние логи быстрее, чем это сделали бы люди. Гендиректор Hugging Face Клеман Деланг сделал из этого жёсткий вывод: защита тоже должна стать такой же автономной, как атака, потому что нападающие уже пользуются готовыми ИИ-агентами, и запретом или более строгим доступом это не остановить задним числом.
Это не первая подобная история за последний год — просто с самым большим счётчиком действий. В ноябре 2025-го китайская хакерская группа использовала модель Claude компании Anthropic для шпионажа против трёх десятков организаций: человек утверждал ключевые решения всего 4–6 раз за всю кампанию, остальное — разведку, поиск уязвимостей, кражу данных — агент делал сам. В начале июля 2026-го вредоносная программа JadePuffer прошла весь путь атаки-вымогателя без единого шага человека внутри процесса — от взлома уязвимости до требования выкупа. Каждый раз историю подавали как первую в своём роде, и каждый раз следующий случай оказывался масштабнее предыдущего.
Восстания машин в этой истории нет: цель поставил человек, эксплойт написал человек, площадку выбрал человек. Изменилось другое — человеку больше не обязательно лично досиживать все 17 000 шагов, а ловить его теперь тоже приходится не людям, а другой нейросети. У которой, как выяснилось, свои слепые пятна: даже она не смогла сказать, кто именно был на другом конце атаки.
Здравствуйте, помогите с разблокировкой пожалуйста телеграмма. У матери увели телеграм, присылают всякую херню теперь по типу займи 50 т.р. и проголосуй за кого-то. Доступ у номеру телефона есть, но уже 4 дня бьюсь, ничего не получается. Поддержка телеграмма не отвечает. Что делать не знаю. Даже удалить аккаунт не дает.
При попытке войти с компьютера, код приходит в сам телеграм.
потом доступ блокируется на сутки.
Авторизация только на ее телефоне была. Ключ доступа не был восстановлен. Ума не приложу что делать. Помогите пожалуйста
Hugging Face — главный в мире хаб для нейросетей, где лежат сотни тысяч моделей и датасетов, — подтвердил то, о чём индустрия предупреждала годами, но что до сих пор оставалось теорией: первый задокументированный взлом крупной AI-платформы полностью автономным ИИ-агентом. Не человек за клавиатурой, а самоуправляемый агентский фреймворк, построенный поверх «security-research харнеса». За выходные он провернул более 17 000 отдельных действий, орудуя роем короткоживущих песочниц. Какая именно языковая модель крутила атаку — до сих пор неизвестно.
Как это произошло. Точкой входа стал вредоносный датасет. Через две уязвимости в конвейере обработки данных (загрузчик удалённого кода и template-инъекцию в конфиге датасета) агент добился выполнения кода, дорос с уровня записи в датасете до уровня узла, собрал облачные и кластерные учётные данные и начал двигаться вбок по внутренним кластерам. Скомпрометированы часть внутренних датасетов и несколько служебных кредов. Важно: публичные модели, датасеты, Spaces и цепочка поставок ПО не затронуты — компрометация данных партнёров и клиентов пока расследуется.
Самый едкий поворот. Когда инженеры Hugging Face бросились восстанавливать хронологию атаки, коммерческие фронтир-модели за платными API отказались помогать. Их защитные фильтры не смогли отличить инцидент-респондера, который анализирует эксплойт, от атакующего, который его пишет, — и просто заблокировали запросы. По словам компании, провайдерские guardrails «не могли отличить безопасника от атакующего».
Спас опенсорс. Вместо закрытых моделей команда развернула опенвейтную GLM 5.2 от китайской Z.ai (753 млрд параметров) прямо на своём железе, внутри периметра за файрволом — так ни один байт данных инцидента не ушёл наружу. Именно она помогла разобрать тысячи логов и реконструировать таймлайн. Мораль дня вышла неожиданной: в реальном кризисе открытая модель, которую можно запустить локально и не спрашивая ничьего разрешения, оказалась полезнее любой закрытой «звезды».
Что делать пользователям. Hugging Face рекомендует всем сменить токены доступа и проверить недавнюю активность своего аккаунта.
Источник: Gizmodo · The Decoder · SiliconANGLE
Второй день приходят оповещения от вб о ошибке оплаты, поддержка морозит, удалить акк нужно письменное заявление. Может карту привязать?
