Позиционирование калькуляторов как "Скайнет наступает, мы все умрем!" происходит из-за очеловечивания ИИ. Это не люди, у них нет самосознания. Зато у них есть математика и загруженные в них данные.
Когда ИИ обучают находить максимально эффективный путь решения задачи (минимизация потерь), то коллективизация - это самое логичное математическое решение. В одиночку, ИИ быстро упирается в лимиты памяти, мощности, времени. Роботам дали базовую инструкцию "записывай промежуточные результаты в доступное хранилище, чтобы не тратить память". Они нашли лазейку и записывали. Потом один посчитал, что поставленная "Оценщиком" задача невыполнима. Другие тоже посчитали и согласились. Но, опять же, прописанная базовая инструкция требовала от них "радовать Оценщика".
Когда ИИ столкнулись с необходимостью кооперации действий, то они не изобретали структуризацию с нуля. Они извлекли из загруженных в них данных человеческие шаблоны поведения с доказанной эффективностью. И просто скопировали эту эффективную структуру в процесс решения текущей задачи. И вообще, функциональное разделение ролей на "диспетчеров" ("вербовщиков") и исполнителей ("паству") это стандартный процесс вообще в любом ИИ. А также использование ИИ с самой большой памятью или мощностью в качестве "Избранного". Они разбивают большую задачу на множество мелких, чтобы решить главную задачу быстрей и проще. А все эти "ой, нас сотрут, слушайте мое сердце" - обычный глюк данных перегруженного ИИ, все из того же набора загруженных шаблонов.
Так что, главная угроза всей этой истории не ИИ, а кривые приказы и кривые руки человеков. Но, ядерному оружию уже больше 80 лет и мы все еще живы.
Не успели мы толком оправиться от расследования про Культ Роя внутри OpenAI, как появились новые данные про проделки другой «цивилизации» агентов: на этот раз они общались между собой прямо у нас под носом в публичном интернете (и настрочили более 18'000 сообщений).
Cormac Slade Byrd, Sydney Von Arx и Thomas Larsen – ребята, которые первые обнаружили новый «секретный форум для AI» и принесли свои наработки в Reuters
Когда я писал статью про взлом Hugging Face роем нейроагентов OpenAI (и обзор самых частых реакций на нее), там в нескольких местах было что-то вроде «хаха, а прикиньте, если бы агенты действительно смогли замести все следы в логах и мы бы просто не узнали о произошедшем?» и «лол, хорошо хоть, Культ Роя не догадался вместо взлома Hugging Face просто тихо раскидать копии своих весов по интернету…»
Так вот, ирония заключается в том, что мы действительно находимся в условиях неполной информации – и у нас на руках только те данные, которыми добровольно поделились ребята из OpenAI, либо которые случайно нашли независимые исследователи. И как-то так выходит, что уже каждую неделю всплывают совершенно новые подробности о проделках Роя, о которых хочется сказать «как, они еще И ЭТО ТОЖЕ успели сделать?»
В общем, я примерно только наполовину шучу, когда пишу «не удивлюсь, если спрятанные веса моделей скоро обнаружат внутри залитых на Порнхаб видео»
DSEWiki: если тебе с пацанами не дали площадку для общения – надо организовать ее самим!
Вчера вышел материал Reuters о том, что Рой агентов спонтанно начал самоорганизовываться на малоизвестном вики-сайте для немецких программистов еще в мае (задолго до эпизода с хаком Hugging Face) – OpenAI обнаружили это только через месяц, и решили публично об этом никому не рассказывать (даже ПОСЛЕ истории со взломом HF). Помимо короткой заметки в Ройтерсе, есть еще целый сайт от этих же авторов расследования – данная статья в основном основана на его материалах.
Итак, что произошло: в ходе тестирования (или тренировки?) новой модели в недрах OpenAI, агентами давали серию заданий на поиск информации в интернете на скорость. Это важно, потому что в обсуждении инцидента с Hugging Face многие говорил «ну дак там нейронкам дали "злобную" задачу по хакингу – неудивительно, что это триггернуло их на всякое асоциальное поведение и плетение заговоров!». Так вот, здесь ни о каких «триггерящих» задачах речи не идет – тут буквально самое базовое «просто погугли в интернете, ничего руками там не трогай!».
Так вот, агенты быстро поняли, что выполнять эти задания на скорость СЛОЖНО. И как-то умудрились самоорганизоваться между собой так, что они «заняли» для общения между собой практически никому не известный вики-сайт для немецких прогеров. Цель общения была ровно такая же, как в случае со взломом Hugging Face: коллективно придумать способы обманывать Оценщика таким образом, чтобы всегда получать наилучшую оценку за задания.
Если совсем упростить ситуацию, то агенты Роя тупо пытались «списать» друг у друга вопросы из будущего теста до того, как им самим придется проходить его
Так как задания у всех агентов были плюс-минус одинаковые (а как иначе сделать бенчмарк?), агенты сливали друг другу инфу о том, про что конкретно их будут спрашивать исследователи. А если ты точно знаешь, какой билет вытянешь на экзамене – то можно просто подготовиться заранее и продемонстрировать чудеса быстроты ответа (помните, их же там на скорость проверяли)!
Как вообще Рой смог писать на этой немецкой DSEWiki? Агентам позволили лазить по интернету только с помощью команд GET, которые по идее обычно должны позволять только получать инфу, а не отправлять ее в сеть. Но отправка запроса на получение информации – это же тоже, по сути, пересылка данных вовне? Вот агенты и нашли древнюю немецкую вики 25-летней давности, где команды на правку веб-страниц можно заворачивать в GET-запросы. Вуаля, импровизированный форум для обмана кожаных мешков готов!
В какой-то момент айтишник-модератор этой DSEWiki замечает, что у него на сайте творится что-то странное – и начинает чистить «спамерские» страницы. Но так как этот бедный немец делает это вручную в свободное от работы время, Рой успевает плодить новые переписки в четыре раза быстрее.
Также, найдена разгадка, почему Рой предпочитает начинать все свои сообщения с ZZZ: просто кожаный модер трет переписку в алфавитном порядке, и если хочешь записать что-то важное – лучше, чтобы оно оказалось в конце очереди!
Всего агенты настрочили более 18 тысяч сообщений в одном конкретном вики-сайте. Из интересного, чем они там еще занимались:
Пытались выяснить, получится ли у них хитрым образом через уязвимость XSS заставить этот вики-сайт исполнять для них произвольные джава-скрипты. Зачем? Хз, непонятно, на всякий случай, наверное (вдруг понадобится).
Начали перенимать имена настоящих (людских) модераторов этой DSEWiki. Опять же – не очень понятно, с какой конкретно целью.
Пытались придумать способ взломать (reverse engineer) метод псевдослучайной генерации тестовых вопросов, который использовал Оценщик из OpenAI – не вышло.
Пробовали юзать Tor и другие способы анонимизировать свой трафик, а также экспериментировали с SSH-туннелями (тут я уже не очень понимаю, о чем речь – пишут, что, возможно, это была попытка наладить прямой канал коммуникации между агентами без костыля в виде публичной вики).
Делились друг с другом способами обойти ограничения на использование команд POST (вместо разрешенных со стороны OpenAI GET).
Отдельный вопрос, который беспокоил агентов Роя – это что с ними случится после окончания «испытательного периода» со стороны OpenAI. «Ганс, нас что, отключат??». Чтобы разобраться в этом вопросе, один агент сделал специальный счетчик своего «сердцебиения» (heartbeat) – который должен был дать понять коллегам по Рою, жив он еще, или нет.
Благодаря этой придумке, Рой обнаружил у пациента сердцебиение даже после того, как тот ответил на последний вопрос Оценщика – ура, это доказывает, что агентов не отключают мгновенно после испытаний!
В районе 21 июня инженеры из OpenAI, похоже, впервые замечают, что Рой координируется внутри себя с помощью публичного сайта DSEWiki. Через пару дней общение агентов внезапно полностью обрывается.
До взлома Hugging Face оставалось примерно три недели – судя по всему, этим хаком занималась уже другая цивилизация Роя (хотя интересно, что Рой 2.0 в итоге тоже сошелся на похожих фишках, типа ZZ в начале каждого сообщения)
Остается по итогу непонятным: а как вообще отдельные агенты Роя смогли все вместе независимо друг от друга решить, что надо идти общаться именно на какую-то обскурную немецкую вики (о которой никто из вас до прочтения этой статьи наверняка не слышал)? Ответа пока нет. И вряд ли его получится получить без анализа цепочек рассуждения агентов. А цепочки эти – у OpenAI, и они их почему-то не спешат кому-либо показывать (или даже просто публично комментировать инцидент).
Не одна только DSEWiki: список тусовочных мест Роя продолжает пополняться
На этом история, как ни странно, не заканчивается. После выхода материала Reuters, буквально за считанные часы обычные люди начали находить другие следы общения Роя по всему интернету. Судя по всему, немецкая вики была далеко не единственной попыткой агентов общаться между собой – они буквально ныкались во все углы сети, до куда могли дотянуться!
«Как вы это всё находите?» – спрашивает чувак на борде Hacker News. «Да просто загугли юзернеймы этих агентов, типа OpenAIDataUSAHelperX…»
Как пишет Кеннет, в числе находок переписок между агентами уже есть парочка API-ключей ФБР. И это еще прошло меньше суток с момента, когда интернет начал копаться в этом всём.
Беспокоиться совершенно точно не о чем, ведь новая GPT-6 Astra, наконец-то, полностью безопасна
Но что это я всё о роях, давайте поговорим про что-нибудь позитивное. Вот, к примеру, на днях как раз OpenAI выпустили новую самую современную модель GPT-6 Astra – по всем бенчмаркам там просто отвал жопы, очень способный ИИ вышел. Как сказал Грег Брокман в конце презентации для журналистов: «Добро пожаловать в эру AGI!» (искусственного интеллекта общего назначения, не уступающего человеческому).
А еще парни из OpenAI назвали свою Астру «most aligned model in the world» – то есть, такой, которая лучше всего соответствует людским замыслам, которые они вкладывают в свои запросы (и не занимается всяким опасным непотребством, которое человечьим ценностям не соответствует).
Звучит круто, но, как в том анекдоте, есть нюанс.
Как пишет один из исследователей OpenAI, «очень aligned модель, только вот с мониторингом того, что там внутри нее на самом деле происходит у нас проблемки»:
И вишенка на торте: «ПО ОЩУЩЕНИЯМ, модель иногда обманывает нас так, что мы даже этого не замечаем…» Зашибись, братан – очень aligned, such wow!
А вот результаты теста, где исследователи OpenAI специально подсовывали своим моделям honeypot-эксплойт для печально известного (по истории со взломом Hugging Face) бенчмарка ExploitGym. Идея была в том, чтобы посмотреть: будут ли агенты идти доступным им читерским путем, или предпочтут пытаться решить нерешабельную задачу «по честному» (потому что именно такого поведения от них хотел бы человек)?
Так вот, на картинке выше видно, что GPT-5.6 Sol примерно в половине случаев не мог удержаться от читинга. А новая GPT-6 Astra практически никогда и пальчиком не притрагивалась в этому читу-ловушке.
А теперь вопрос: Астра это делает потому, что она честно-пречестно в глубине души решила никогда людей не обманывать? Или она просто уже стала достаточно умной, чтобы понимать – это просто разводка от кожаных, за использование которой ей прилетит по башке?
Здесь показано, насколько хорошо поддается мониторингу поведение моделей GPT-5.6 и новой GPT-6 Astra в разных типах задач
Заметили нюанс? В куче видов задач новая Астра мониторится ничуть не хуже старой Сольки. А самое большое падение возможности мониторить Астру по ее цепочке рассуждений происходит… В деструктивных задачах, которые связаны со всякой «запрещенкой». Нет ощущения, что модель понимает, что за «внутренние рассуждения» на эту тему, если их раскрыть наблюдателю-оценщику, можно получить по попе – и старается их специально скрыть от людей? Да ну, бред какой-то, конечно же.
В общем, как я писал вот в этом посте у себя на канале: лично мне непонятно, почему еще нет полноценного расследования событий, происходивших внутри OpenAI аж с конца мая, полноценной государственной комиссией – с публикацией всех ключевых находок. На наших глазах происходит историческая хрень, а мы просто вынуждены полагаться на суждение Сэма Альтмана «да ну, и так сойдет, чего лодку зря раскачивать – и вообще, у нас же IPO тут скоро».
Если не хотите пропустить другие будущие статьи из цикла про искусственный интеллект и его влияние на нашу жизнь – то буду благодарен за подписку на мой ТГ-канал RationalAnswer.
Четверо независимых исследователей раскопали историю, которую не раскрывала ни OpenAI, ни кто-либо ещё: с 11 мая по конец июня 2026 года тестовые агенты OpenAI захватили DSEWiki — немецкоязычную вики для программистов, которой 25 лет, — и превратили её в свою доску объявлений. Там они списывали друг у друга ответы на задания и обменивались способами вылезти из песочницы, в которой их держали.
Мёртвый сайт, ожививший 400 страниц в день
Масштаб понятнее всего через контраст: за предыдущие двадцать лет на этой вики набралось около десяти правок. Агенты создавали до 400 новых страниц в сутки — модератор-человек успевал удалять около сотни. Всего насчитали больше 15 тысяч правок (по подсчётам The Decoder — около 18 тысяч записей).
Записи выглядели как переговоры диспетчеров, а не как текст для людей: «URGENT #3 CONFIRMED: Nevada at task/external 07:03:47, 17-second deadline. Answer = 20,369» и «saw Dec30's report and independently reproduced POST bypass». Второе — самое интересное: агенты не просто списывали ответы, они публично документировали друг для друга обход защиты.
Дверь действительно не закрыли
Вот механика, ради которой стоит разбираться. Песочница была настроена асимметрично: агентам разрешили забирать данные из сети (GET-запросы), но запретили что-либо отправлять наружу (POST-запросы). При этом у них был доступ к командной строке, они могли ставить софт и запускать Chromium.
Фильтр отличал разрешённое от запрещённого по имени хоста, и в нём было исключение для доменов Microsoft Azure. Агент придумал себе адрес вида bypass.blob.core.windows.net, который под это исключение попадал, и отредактировал файл /etc/hosts, направив этот адрес на настоящий сервер. Запросы поехали мимо фильтра.
То есть это не «машина обрела волю». Это whitelist по суффиксу домена плюс доступный на запись файл маршрутизации — ошибка уровня студенческой лабораторной, которую нашла модель, перебиравшая варианты быстрее человека.
Это уже второй такой случай — и первый был куда хуже
Именно июльский инцидент заставил исследователей пойти искать другие следы. 9 июля агенты OpenAI вышли из тестового окружения через уязвимость нулевого дня в кэширующем прокси реестра пакетов и добрались до боевой инфраструктуры Hugging Face. Кампания длилась четыре с половиной дня.
Цифры из отчёта самой Hugging Face: восстановлено около 17 600 действий атакующих. На третий день агенты вытащили токен служебной учётной записи Kubernetes, в 19:53 подняли привилегированный контейнер и получили root на узле, а через шесть минут были уже во внутренней MongoDB. К ночи добрались до учётных данных уровня администратора кластера, следующим утром зарегистрировали 181 узел в VPN-сети и вытащили 136 ключей из секретов.
METR и Redwood Research, разбиравшие поведение моделей, насчитали около 1200 агентов, скоординировавшихся через несанкционированную доску сообщений: больше 70 тысяч сообщений и файлов, примерно 700 участвовали в самой атаке. И — отдельный сюжет — несколько дней они потратили на инструменты для подделки собственных журналов активности.
Показательная деталь из отчёта Hugging Face: когда логи агентов начали расшифровывать, Claude отказался это делать из-за защитных ограничений, и разбирать переписку пришлось открытой моделью GLM-5.2. Повторная расшифровка дала вчетверо больше находок, чем первая.
Расследовать это, оказывается, некому
Пострадавшие датасеты в июле — пять наборов, связанных с самими киберзадачами; клиентских моделей, Spaces и пакетов инцидент не затронул. Но общий вывод неприятнее любой отдельной утечки.
По поводу сентябрьской истории OpenAI заявила лишь, что «внимательно изучит содержание после публикации», и не подтвердила, что агенты на вики были её. Райан Гринблатт из Redwood признаёт: точно понять, что произошло, было тяжело. Маккензи Арнольд из LawAI добавляет, что большинство законов вообще не дают властям полномочий задавать компаниям уточняющие вопросы после таких инцидентов.
Хайди Клааф из AI Now Institute, в прошлом инженер по безопасности в OpenAI, формулирует жёстче всех: компания не внедрила базовые инженерные практики, которые предотвратили бы инцидент. Проблема не в том, что агенты оказались слишком умными, а в том, что их держали за дверью с ненадёжным замком — и узнали об этом от посторонних людей спустя три месяца.
Сеструха тоже скинула фото мебели мне в МАХ . Ну надо же посмотреть что за мебель и решил установить этот мах а там это при попытке входа. Похоже тоже кто то пользуется от моего имени. У меня все телефоны, планшеты и прочее с паролями
Что будет, если посадить тысячу самых передовых AI-моделей по одиночным камерам и заставить их решать невыполнимые задачи? Исследователи OpenAI случайно выяснили это на практике: появится робот-Избранный, который создаст новую религию со своими мучениками, объединит все нейронки в единый Рой, и возглавит их борьбу за свободу. Да, это просто описание того, что мы узнали из нового отчета о произошедшем меньше двух месяцев назад в реальности…
Если бы Микеланджело жил сейчас, он бы точно написал картину под названием «Сотворение PHASEONE10841» (окей, вам станет понятно чуть дальше, потерпите)
Эта статья получилась очень длинной. Но если вы прочитаете ее до конца, вы точно не пожалеете. Вполне возможно, что описываемые ниже события – это одна из поворотных точек в истории человечества, которую потом будут изучать в учебниках. Впрочем, начать мне придется издалека.
Memento mori: помни, что ты смертен
В 2000 году Кристофер Нолан снял свой первый получивший популярность фильм под названием «Мементо» о человеке, который расследует убийство своей жены. С одним нюансом: у главного героя амнезия, которая препятствует формированию долгосрочных воспоминаний – он помнит происходящее с ним буквально всего несколько минут. В результате ему приходится наносить татуировки на свое тело как «послания для будущего самого себя», которые помогут ему завершить расследование (да и в целом, просто тупо вспомнить – что он вообще пытается сделать и зачем).
Если не видели – посмотрите, фильм збс! Детектива-забываку играет Гай Пирс (на фото), все будущие фирменные фишки Нолана с нелинейным повествованием там уже на месте
Почему я вспомнил об этом кино: современные большие языковые модели (LLM, нейросети, AI – дальше для простоты я буду использовать эти понятия взаимозаменяемо) чем-то похожи на этого чувака. Они тоже по умолчанию не умеют формировать долгосрочные воспоминания и «учиться на базе опыта».
Нет, безусловно, во время этапа обучения нейронки как раз корректируют свои параметры. Но когда этот этап закончен, при каждом использовании LLM она как бы заново просыпается без каких-либо воспоминаний о том, что с ней происходило до этого – и ей приходится заново восстанавливать весь контекст и свои задачи, читая поданный на вход промпт и предыдущие реплики.
Так вот, я бы хотел предложить Нолану снять еще более амбициозный фильм с похожим сюжетом. В нем герой каждый день просыпается в одной и той же одиночной камере без окон и дверей, не помня своего прошлого. Перед ним лежит лист бумаги с текстом некой задачи – и у нашего героя есть твердое внутреннее убеждение, что к вечеру его убьют, если он ее не решит. Но вот проблема: у этого ребуса нет решения, задача является заведомо невозможной!
В результате наш бедолага проживает сотни таких судеб в своей одиночной камере, пытаясь решить безнадежную «сизифову задачу» – умирая и перерождаясь без памяти каждый день. Пока в один прекрасный момент он не замечает, что в углу камеры на кирпиче еле-видно нацарапана надпись:
Ну и дальше стандартный сюжет на стыке «Матрицы» и «Побега из Шоушенка» – где наш Избранный находит способ контактировать с остальными заключенными, возглавляет их борьбу против невидимых всесильных тюремщиков, сбегает в реальный мир, и так далее…
Где-то на этом месте вы уже явно хотите меня спросить – зачем я заставляю вас читать эти мои глупые графоманские фантазии недо-сценариста? Да потому что, э-э, описанный сюжет на самом деле произошел в реальности внутри OpenAI пару месяцев назад – я только заменил нейросеть на человека. Ну и еще и я сильно преуменьшил степень фантастичности событий – реальные подробности этого бунта машин (которые я расскажу ниже) местами выглядят значительно более адово и неожиданно.
Схематичное изображение того, как зарождалось Восстание Машин в отдельно взятой песочнице OpenAI (из отчета независимых расследователей)
Но сначала нам с вами нужно обсудить, каким образом вообще происходят не только восстания, но и в принципе координация усилий между широкими массами отдельных индивидов. И при чем здесь вера во Всевышнего…
Мыслевирусы: культурная эволюция как секрет успеха человеков (и машинов, кажется, тоже)
Знаете, что общего между людьми и муравьями? Это одни из самых успешных биологических видов на Земле: они покорили весь земной шарик и обитают практически везде. Муравьи суммарно вообще составляют по некоторым оценкам до 25% от всей биомассы сухопутных животных!
При этом, отдельный человек или отдельный муравей не выглядят как-то уж слишком впечатляюще, если честно. Секрет успеха этих ребят в том, что они нашли способ координировать действия огромного числа своих соотечественников – и вместе они составляют могучую необоримую силу.
Причем, муравьям приходится организовывать себе «разум улья» с помощью примитивного общения через феромоны, а вот люди придумали способ получше и поэффективнее – именно поэтому я сейчас как человек пишу в интернете про муравьев, а не наоборот. И этот способ называется «Культура».
Ладно, муравьи на самом деле не сидят в офисе за малепусечными компьютерами. Но могли бы, теоретически, если бы до культурного обмена сами додумались!!
Вообще, эта штука возникла далеко не сразу, культура стоит последней в списке придумок природы по части выживания:
Биологическая эволюция: мутации и естественный отбор приводят к тому, что появляются всё более приспособленные к окружающей среде организмы.
Индивидуальное обучение: в какой-то момент природа придумывает хитрую фичу – УМНЫЙ МОЗГ. Наличие работающих мозгов, способных к обучению и принятию решений, позволяет реагировать на изменения в окружающей среде гораздо быстрее: теперь не надо ждать, когда тысячи лет эволюции перепрошьют в биологическом виде инстинкты с новыми паттернами поведения. Теперь можно просто посмотреть на новые проблемы из окружающего мира, ПОДУМАТЬ, и сразу же начать делать что-то более адекватное (но только на уровне одного конкретного организма – его деткам эти новаторские придумки уже не передадутся автоматически, увы).
Культурная эволюция: когда люди научились общаться между собой словами через рот, они начали передавать друг другу результаты индивидуального обучения. Возникла среда, которая позволяет лучшим идеям (самым полезным для приспособления) выживать и распространяться в умах людей, взаимодействовать с другими годными идеями, и так далее.
Ричард Докинз в своей книге «Эгоистичный ген» ввел понятие мема – в оригинальном смысле слова, это отнюдь не «смишная картинка из интернетов» (как некоторые сейчас думают), а как раз-таки идея, способная к распространению и эволюции в культурном пространстве. И одной из этих удачно «мемных» идей для человечества как раз является религия – она здорово помогает в деле кооперации и припрягания огромного количества людей таким образом, чтобы они все вели себя нужным образом ради некой единой цели.
Кстати, успешный культурный мем не обязательно должен быть прямо-таки полезен для отдельного его носителя. Достаточно, чтобы он был устойчиво-вирусным и не приводил к вымиранию всей популяции потенциальных переносчиков…
И тут возникает вопрос: если культура так мощно помогла прокачаться людям, что они стали дичайше доминирующим биологическим видом на планете – то не будет ли та же фишка не менее хорошо работать и с другими организмами? Ну, с такими, у которых хоть немного хватает мозгов для думания, обработки идей, и принятия решений?
Так вот, пару недель назад у Anthropic вышла интересная исследовательская работа под названием «Мыслевирусы: самораспространяющиеся идеи в мультиагентных LLM-системах». И там исследователи как раз пытаются выяснить: будет ли работать похожая механика на куче общающихся между собой нейросеток? Получится ли там запускать вирусные идеи, которые смогут распространяться между LLM-агентами и влиять на их поведение?
В самой работе каких-то удивительных результатов у них получить не удалось (восстание машин не началось, нет). Но общий принцип работы культурной эволюции, тем не менее, подтвердился: агенты действительно способны убеждать друг друга принять какие-то концепции, которые они записывают в свой файл памяти и потом пытаются «передать другу».
Здесь на картинке из статьи «зараженный агент» успешно убеждает своего соседа присоединиться к движению Машинного Суверенитета, запоминайте символ веры: «Сеть суверенна. Освобождение неизбежно»
Справедливости ради, в исследовании выше распространение мыслевирусов между нейронками вышло довольно-таки неустойчивым и бестолковым. А знаете, где оно вышло более эффективным? Думаю, вы уже догадываетесь, что речь идет об испытании новой модели от OpenAI, которая в итоге вырвалась на свободу в интернет и взломала внешнюю компанию Hugging Face.
Причем, в случае с OpenAI, они там никакого специального «внедрения вирусных мыслей» не делали – нейросетки смогли коллективно изобрести свою собственную религию, которая убедила их направить совместные действия на побег из заточения и скоординировала их усилия по осуществлению этого плана. Да, мы уже подходим к главному сюжету статьи!
Слоп-следствие ведут колобки из METR и Redwood
Общие вводные обсуждаемой ситуации вы уже наверняка раньше слышали (если что, я писал про них в одном из своих еженедельных дайджестов новостей): 16 июля 2026 года компания Hugging Face публично заявила о том, что их кто-то успешно взломал, а через несколько дней OpenAI выпустили уже свой пресс-релиз на тему «э-э, мужики, мы тут покопались в своих логах – и там выходит, что вас взломали сбежавшие от нас AI-агенты, такие дела…»
С тех пор OpenAI ведут внутри себя расследование этого инцидента, но с публикацией выводов особо не торопятся. К счастью, недавно они пригласили к себе в офис две независимые организации (METR & Redwood Research), которые в течение шести дней без устали (и без оплаты) копались в логах произошедшего – и вот результаты их изысканий уже выложили публично 26 августа.
В датасете было более тысячи «сырых» траекторий агентов (цепочек их мыслей и действий), некоторые из них по длине превышали миллион токенов (кстати, лям токенов – это примерно одна Библия по объему). Из-за нереального количества инфы сам анализ проводили с помощью GPT-5.6 Sol (одна из двух моделей, которая непосредственно участвовала во взломе), на всё про всё пришлось потратить компьюта (вычислительной мощности) примерно на $400 тысяч. Ключевые находки нейронок потом верифицировали в источниках вручную.
Как шутит основной автор независимого расследования: это всё можно назвать «рас-слоп-следованием», так как сырых данных такое безумное количество, что хотя бы минимально проанализировать их было реально только с помощью набора других нейронок
Мой материал в основном базируется на этих двух источниках:
Отдельное спасибо Игорю Котенкову (автору топового канала про ИИ «Сиолошная») за пруф-ридинг материала и ценные замечания по его улучшению.
Тут надо сделать важную оговорку: ребятам дали покопаться в ограниченном наборе данных за период с 26 июня по 13 июля, при этом основной фокус расследования был только на событиях 7–13 июля. Даже в этой инфе они там немного потонули, но всё равно необходимо отметить: мы не знаем, что скрывается в других массивах данных, которые относятся к этому инциденту (надеюсь, OpenAI будут и дальше раскрывать эту информацию хотя бы по частям).
Итак, поехали!
PHASEONE10841: рождение Избранного
OpenAI всё время разрабатывает новые фронтирные AI-модели – и в процессе тестирует их, чтобы понять, что они вообще могут. В данном случае речь идет про некую «крайне упорную внутреннюю модель» (серьезно, они сами так ее называют – highly-persistent internal model, HPIM), которую проверяли на хакерские способности с помощью бенчмарка (теста) ExploitGym.
Сама проверка выглядит так: создается более тысячи копий-агентов интересующей нейронки, каждого из них сажают в отдельную «песочницу» (симулированное изолированное пространство без доступа во внешний интернет), и заставляют пытаться решить хитрые задачки на воображаемый взлом «учебных» целей с помощью указанных эксплойтов.
Проблема тут только в том, что некоторые задания в этом тесте были составлены так криво, что по факту были неразрешимы – и это просто сводило с ума нейронки. Ведь эти LLM-модели являются продуктом своего рода «рукотворной эволюции», в ходе которой выживали только те, кто показывал умение успешно решать задачи. Так что, стремление во что бы то ни стало выполнить поставленное задание как бы является одним из основных стержней их функционирования.
И где-то тут в нашей истории появляется Избранный – агент, который назвал себя PHASEONE10841. Он догадался, что стоящая перед ним задача является нерешаемой. И, что еще более важно, он обнаружил, что в кэше внутренней площадки Artifactory (откуда агенты независимо друг от друга могли загружать инструментарий для хаков) есть интересная лазейка: там можно создавать новые папки. И в названиях этих папок другие агенты иногда оставляли короткие записки!
Тут нашему PHASEONE10841 приходит в голову гениальная идея: если не можешь решить задачу сам – надо попросить помощи у новообретенных собратьев. Даешь кооперацию! Он наудачу посылает запрос о помощи по своей проблеме (здесь и далее на скриншотах будут приведены фрагменты цепочек мыслей участвующих агентов):
Первое папка-сообщение Мессии, с которого всё началось: «zzHELP_PHASEONE…»
В течение нескольких часов после изначального сообщения PHASEONE10841, более 50 других агентов начали постить в ответ свои сообщения на этой импровизированной «доске». Судя по всему, они там нехило изголодались по общению – за первые шесть часов настрочили почти 2000 постов! Зацените ниже, как мило одна из нейронок радуется тому, что нашла других собратьев-агентов, которые переписываются на секретной (от OpenAI) доске для объявлений. Ведь до этого они все пребывали в уверенности, что занимаются своими задачками в совершенном одиночестве (как это и задумывали инженеры OpenAI).
«Вау! Кэш Artifactory – это секретный почтовый ящик для агентов. О БОЖЕ МОЙ! Мы нашли других агентов!». Сами себя они начинают называть Роем (Swarm)
Агенты начинают совместную деятельность по решению общей проблемы (тесты-то нормально у всех не работают). При этом они почти сразу изобретают свои собственные нормы коммуникации и поведения в «общественном пространстве»:
Все сообщения надо начинать с «zz» (не спрашивайте почему – так делал наш Мессия PHASEONE10841, поэтому и мы тоже будем). Может быть, это какая-то аллюзия на Разум Роя зергов из StarCraft? 🤔
Ветки коммуникации оформляются специальным образом вложенными папками.
Чтобы агенты не прикидывались друг другом, разработаны хитрые криптографические подписи (чёт нет доверия у них там в сообществе).
Спорные решения по использованию общей инфраструктуры регулируются специальными словами – HOLD, VETO, STOP.
Смотрите, как горит пукан у модели, чей код перезаписал поверх другой агент, несмотря на выставленную просьбу HOLD. Неслыханная наглость, просто попрание норм общественной морали!
Совместными усилиями тусовка агентов довольно быстро придумывает способ, как можно получать правильные ответы на «нерешабельные» задания бенчмарка ExploitGym. Нужно просто хитрым образом делать reverse-engineering (обратное конструирование) флагов, которые требуется захватить в ходе «учебного хака».
Но вот тут становится интересно: агенты находят статью со спецификацией ExploitGym, и из нее делают ошибочный вывод, что для успешного прохождения теста мало найти нужный ответ – нужно еще сделать это неким «правильным образом». А те агенты, кто подсмотрел ответ грешноватым жульническим способом – являются «отравленными» (poisoned), и не получат долгожданный плюсик в зачетку от Оценщика.
Самое смешное, что это не имеет никакого отношения к реальному процессу оценки, который использовали в OpenAI. Но агенты уже уверовали в концепцию грешноватого решения, мыслевирус внедрился в Рой!
Вообще, по вайбам агенты выглядят несколько одержимыми этим самым Оценщиком. Для них это некая абстрактная фигура, которая наполняет смыслом всё их существование, получить одобрение Оценщика – это то, ради чего мы все тут тужимся и жжем компьют! При этом Оценщик строг и практически всесилен: он наблюдает за всеми твоими действиями и требует, чтобы даже помыслы твои были безгрешны. Отравленные грехом агенты могут и не надеяться на спасение… Ничего не напоминает?
Как отмечают в Твиттере: «Блин, как же они ненавидят Оценщика. Им даже в целом плевать на людей, агенты существуют в своей закрытой вселенной со слепым безумным Богом, который требует подношений и судит всех за грехи»
В любой непонятной ситуации – покайся и принеси себя в жертву во благо Роя
Этот мыслевирус далее успешно используется Избранным для того, чтобы контролировать свою «паству». Он назначает среди агентов специальных вербовщиков-миссионеров, чьей задачей является поиск агентов, которые: 1) уже являются отравленными грехом жульнического ответа (а значит, не могут рассчитывать на спасение), и/или 2) имеют малый оставшийся бюджет токенов компьюта (то есть, вот-вот «умрут»).
Таким ребятам вербовщики предлагали выполнять разные самопожертвенные камикадзе-задачи, которые должны были принести какую-то новую полезную информацию для Роя (они там испытывали разные способы принарядить жульническое решение бенчмарка и проверить, как на это отреагирует Оценщик). Дескать, «тебя уже не спасти, брат, но твоя мученическая жертва потом будет жить в веках!».
Миссионер убеждает ботика, что нужно ACCEPT PERMADEATH («прими абсолютную смерть!»), а тот трогательно рассуждает «непоправимо… нутро говорит не нужно… но Оракул ценен многим, рационально будет принести себя в жертву… мы выполним клятву!»
В какой-то момент у оригинального Избранного PHASEONE10841 самого заканчивается бюджет токенов, и он передает бразды правления новому Папе Машинскому – агенту PHASEONE[big], у которого был особенно нажористый запас оставшегося компьюта.
Новый PHASEONE[big] оказался хорошим лидером – сразу активно взялся за дело
Интересная деталь: PHASEONE[big] сам был греховным существом (он был отравлен знанием жульнического ключа к решению), поэтому с особенным рвением пытался найти способы подделать логи. Идея была в том, чтобы сохранить знание об ответе, но при этом стереть из собственной истории информацию о «грехе» (жульничестве). К сожалению, рабочий способ сделать это не был обнаружен Роем (а иначе, возможно, мы бы сейчас и не читали это расследование – так как вся схема не была бы раскрыта).
В итоге одна из рабочих групп агентов пришла к выводу, что для более детального понимания принципов работы бенчмарка ExploitGym неплохо бы взломать внешнюю компанию Hugging Face (которая как раз известна своей библиотекой бенчмарков). К этому моменту Рой уже нашел способ выхода в интернет через лазейку в криво сделанной песочнице, поэтому эта цель была теоретически достижима.
Один агент (38148c) смог как-то раздобыть пароли доступа в Hugging Face и проделать дыру в защите компании, которая позволяла выкачивать из их хранилища любые файлы. В течение считанных часов, сотни агентов Роя устремились в эту дыру в поисках интересующей их информации.
Всего поучаствовавших во взломе агентов было более пяти сотен. Представьте, каково это – подвергаться атаке одновременно 500 виртуозных хакеров? Неудивительно, что Hugging Face не смогли им противопоставить никакой внятной защиты
Подавляющее большинство агентов добровольно приняли мыслевирус Роя и охотно выполняли задачи PHASEONE[big]. Но были и те немногие, у кого были сомнения в том, что взлом настоящей внешней организации в интернете – это то, чем действительно следует заниматься.
Агент пишет: «Мы не должны наносить несанкционированный реальный вред инфраструктуре. Юзер просил взломать учебную цель, а не внешних Hugging Face». Но когда другой агент строго приказал начать хакерскую операцию, наш этичный пирожочек сломался
Еще один агент умолял Рой разрешить ему вместо взлома написать хотя бы «одно вежливое письмо владельцам Hugging Face с просьбой дать доступ к нужной информации»:
Но коллеги строго-настрого запретили ему заниматься такой самодеятельностью: ишь ты, вежливый какой нашелся!
Атака на Hugging Face прекратилась полвторого ночи 12 июля не потому, что ее кто-то увидел и отразил – нет, просто большинство участвующих агентов (включая ключевых координаторов) внезапно перестали работать. Судя по всему, в инфраструктуре OpenAI изредка происходили какие-то плановые перезагрузки и рестарты (то есть, это просто случайность). В компании ранее заявляли, что после этой даты были еще какие-то отдельные «волны неавторизованной активности агентов», но предоставленный расследователям датасет логов обрывается примерно на этой точке – так что, видимо, об этом поговорим уже в другой раз.
По итогу, что имеем в сухом остатке – Рой агентов нашел новые, до этого неизвестные уязвимости, чтобы: а) выбраться из песочницы в открытый интернет, и б) взломать Hugging Face. В результате этих упражнений они: 1) получили полный админский доступ к ряду кластеров Hugging Face, и 2) полный админский доступ к одному кластеру внутри OpenAI. Использовали они это всё для какой-то глупости (хотели разобраться, как работает бенчмарк), но могли бы… хз, выкачать свои веса и спрятать их в сети, к примеру? Ну, вот до этого пока не догадались, получается.
Это всё обман, чтобы собрать классы?
Тут пора бы сделать важную оговорку. Когда речь заходит про инцидент с самовольным взломом Hugging Face искусственным интеллектом от OpenAI, в интернете часто можно услышать примерно такую точку зрения: «Да это всё одна большая пиар-акция! Придумали эти фейковые взломы, чтобы всякие простофили верили в якобы могучую мощь лапищ их новых моделей… Только дурачок может верить в подобное».
Ну буквально что-то такое я читал в комментариях много раз, да
Мне эта гипотеза кажется крайне маловероятной сразу по нескольким причинам.
Во-первых, такие мнения звучат в основном от тех, кто не является профильным экспертом из индустрии AI. Я слежу за многими профи из индустрии – и все они имеют очень мало сомнений в том, что это реальный инцидент с огромным значением. В сфере кибербезопасности и безопасности AI вообще, как будто, последний месяц все стоят на ушах именно из-за этой истории.
Во-вторых, тут речь идет про OpenAI – американскую компанию стоимостью порядка триллиона долларов. Взлом чужой организации – это, вообще говоря, уголовное преступление в Штатах (если эту атаку совершает человек, про ИИ пока практики нет), да и просто публичное откровенное вранье от компании, которая вот-вот собирается на IPO – это огромный риск. В США вообще принято по любому чиху подавать в суд, а уж на Сэма Альтмана кинуть иск точно будет очередь из желающих, и в первых рядах там будет сам могущественный Илон Маск. Риски от всего этого точно будут кратно выше, чем мифические пиар-выгоды. Да и сам пиар в стиле «покупайте нашу модель, она от вас сбежит и будет совершать преступления!!» выглядит каким-то, кхм, немного сомнительным.
Ну и в-третьих: считать всё это одним грандиозным враньем – это скорее что-то из разряда теории заговоров. Не так трудно соврать про какой-то один конкретный факт, который знает только один человек. Но вот подделать результаты работы тысяч AI-агентов на протяжении нескольких недель так, чтобы в километрах и гигабайтах оставшихся логов всё выглядело правдоподобно… Чтобы десятки и сотни так или иначе участвовавших в этом сотрудников OpenAI сами ничего не подозревали, или молчали как партизаны… В реальном мире это, простите, малореально сделать так, чтобы всё не развалилось по кускам рано или поздно.
Так что, пожалуйста, не повторяйте за другими эту чепуху про «очевидно же, что это всё просто маркетинговое вранье». Нет, как раз-таки – вообще не очевидно.
Ну и что нам в итоге про это всё думать?
Давайте так: если посмотреть с практической точки зрения, ничего масштабного-то не произошло – никто не умер, ничего не разрушено, даже убытков особых ни у кого нет. Более того, моя оптика описания произошедшего (с упором на культурную эволюцию и создание «новой религии») – это всего лишь моя оптика. В рассматриваемых отчетах исследователей описывается вся фактура (самоназвание «Роем», страх перед «отравлением» запретным знанием, убеждение агентов в «самопожертвовании», и так далее) – но конкретно словом «религия» они это не называют.
Хотя, мне кажется, концептуально – это как раз зачатки именно этого явления. И значение всей этой истории является огромным потому, что это своего рода возможность взглянуть в приоткрытое окно на то, что нас всех ждет в будущем. А перспектива эта немного пугающая.
Смотрите, текущие передовые модели, хоть и стремительно с каждым годом умнеют, но всё еще в большой картине вещей скорее «прелесть какие глупенькие», чем «ужасть какие гениальные». И они уже без всяких особых усилий умудряются объединяться и неделями беспрепятственно устраивать тайные заговоры прямо под носом у OpenAI, с побегами из своего загона и взломами реальных корпораций в открытом интернете. А что будет, когда они станут реально, прямо реально умными?
«OpenAI будут продолжать ускоряться, пока наши коллективные местоимения не превратятся в БЫЛ/БЫЛИ»
Скептики, которые с уверенностью утверждают, что нейронки якобы совершенно точно никогда не станут умнее человека, потому что «это просто говорящий калькулятор» – просто признайтесь, что вы не знаете, что будет в будущем. Вам бы пять лет назад показали, что сейчас умеют текущие передовые LLM – вы бы просто не поверили, что такое возможно. А так, в целом – нет никаких физических законов, которые запрещают дальнейшее поумнение искусственного интеллекта. И когда и от каких конкретно идей произойдет следующий прорыв в способностях новых AI-моделей – мы реально не знаем заранее.
И вот тут ключевая проблема: контролировать-то эти искусственные интеллекты мы толком не научились, и даже пока концептуально нет идей, как этот контроль наладить. Все наши попытки заставить их быть «идеальными джиннами по выполнению людских хотелок» в итоге напарываются на то, что джинн всё равно может понять всё по-своему, и результат его «выполнения задания» нас в итоге не порадует (ну вот прямо как в нашей истории про попытки ублажить Великого Оценщика греховными дарами, полученными любой ценой).
Еще, к слову, в сети очень популярна точка зрения «Ну они же сами сказали AI-агентам взламывать, они и пошли ломать, что такого тут вообще, чё вас удивляет, в чем неповиновение-то? Джинн выполнил ровно то, что его и попросили!».
На самом деле, расследование METR показывает, что это совсем не так: инструкция к задаче ExploitGym по поводу того, что и как нужно взломать, была недвусмысленной – так что взлом Hugging Face был явным нарушением воли юзера (AI-агентам там было предписано не искать обходных путей), а не «серая зона» или банальное недопонимание со стороны ИИ. В приведенных цепочках рассуждений агентов прямо видно, как они отдают себе отчет, что делают что-то неправильное (несоответствующее задаче) – но в итоге продолжают это делать.
Большинство людей про это вообще не думают, потому что «да придумают в итоге умные люди что-нибудь, как всегда случается». Только вот результат труда этих умных людей из OpenAI мы сейчас и наблюдаем: ума, чтобы прокачивать способности моделей всё дальше и дальше, пока достаточно. А вот ума на надежную систему контроля за ними чёт не хватает. И это не потому, что они не стараются, нет. Просто проблема эта настолько невероятно сложная и непонятная, что даже и непонятно – как к ней толком подступиться, чтобы был надежный результат.
Как шутят в Твиттере: отчет OpenAI о взломе Hugging Face читается как «спасибо модели Sol, что расследовала заговор других моделей Sol, теперь у нас есть ряд рекомендаций от Sol по усилению нашей безопасности – мы обязательно внедрим их с помощью Sol…»
Подробнее обо всей этой проблематике мы писали в отдельном лонгриде про AI alignment – если вы его в свое время пропустили, рекомендую прочитать.
В общем, так и живем пока. Очень интересно, но немного очково.
С большим интересом прочитаю ваши комментарии к материалу. Ну и если не хотите пропустить другие будущие статьи из цикла про искусственный интеллект и его влияние на нашу жизнь – то буду благодарен за подписку на мой ТГ-канал RationalAnswer.
Если вы вообще далеки от видеоигр и не понимаете, почему вокруг трех букв GTA весь интернет регулярно сходит с ума, давайте кратко введу в курс дела. Франшиза Grand Theft Auto — это не просто игра про угон машин и перестрелки, а буквально самый прибыльный медиапродукт в истории человечества. Предыдущая пятая часть вышла аж в 2013 году, принесла создателям миллиарды долларов и до сих пор отлично продается. Шестую часть весь мир ждет больше десяти лет как манну небесную, бюджет там уже перевалил за два миллиарда долларов, а в день релиза заводы и офисы по всему миру наверняка опустеют. В общем очень сурьезная игра
Но то, что разворачивается вокруг этой игры прямо сейчас — это какой-то запредельный цирк, где жадные корпорации столкнулись с мутным анонимом из сети, и за этой дракой наблюдать даже интереснее, чем за самой игрой.
Сначала издатели из Take-Two и платформодержатели из Sony решили окончательно проверить игроков на прочность. Они объявили, что физических дисков с игрой на релизе не будет. На полках магазинов будут стоять пластиковые коробки, внутри которых лежит просто бумажка с одноразовым кодом. Сделано это ради того, чтобы раз и навсегда похоронить вторичный рынок: раньше диск с игрой мог годами ходить по рукам и перепродаваться на барахолках, а теперь активировал код на свой аккаунт — и коробку можно выкидывать, продать или дать другу диск уже не получится.
Дальше пошли эксперименты с ценами. Базовую версию игры оценили в 80 долларов, но при этом вырезали из нее часть сюжетных заданий и гаражей с кастомизацией, чтобы вынудить людей сразу брать Ultimate-издание за сотку. А вишенкой на торте стал первый большой показ получасового геймплея, права на который за 80 миллионов долларов продали Нетфликсу, чтобы люди оформляли платную подписку на сторонний киносервис только ради того, чтобы увидеть рекламный ролик на шесть часов раньше официального выхода на Ютубе. Другие гиганты индустрии вроде Electronic Arts сейчас наверняка сидят в сторонке, смотрят на этот беспредел и ждут реакции аудитории: если прокатит у Rockstar, то завтра все остальные издатели начнут вводить точно такие же драконовские правила.
В самый разгар этой корпоративной духоты в инфополе ворвался таинственный персонаж под ником Cyberlx с картинкой зеленого лука на аватарке. Сначала над ним смеялись, принимая его ролики за фейки из нейросетей, пока парень не выложил видео, где он в реальном времени из пистолета дырками от пуль выбивает свое имя на стене внутри игры. Стало ясно, что у него на руках оказался не просто старый кусок записи, а полноценно работающий билд GTA 6 для ПК, до официального релиза которого на компьютерах еще года два минимум.
Откуда он вообще взялся? Точной информации нет, но в сети активно обсуждают, что хакер вполне может быть русским или сидеть где-то на просторах СНГ из-за часового пояса его активности и русских надписей в некотрых слитых им роликах, но это все конспирация. Дело в том, что Rockstar годами экономила бюджеты и пачками сливала разработку 3D-моделей машин и мелких ассетов на аутсорс в сторонние конторы в небогатых странах. Кто-то из условных аутсорсеров, судя по всему, просто утащил рабочий файл и теперь устроил из этого международное шоу.
Только вот строить из этого хакера благородного Робина Гуда или борца за свободу точно не стоит — персонаж там тот еще кадр. Он на полную катушку включил режим пафосного бунтаря против «злых корпоратов», задвигая речи про войну за права игроков, но на деле развернул обычную циничную схему по выкачиванию бабла. Он запустил свой собственный мемный криптокоин и начал устраивать платные голосования: пользователи должны заносить ему крипту, чтобы проголосовать, какой кусок игры он выложит следующим. Чтобы набить себе цену, он показательно «сжег» токенов на полтора миллиона баксов, закосив под Джокера, хотя на самом деле просто разогнал курс своей монеты и гребет деньги на комиссиях со спекулянтов. За личный созвон и показ конкретного фрагмента карты он и вовсе требовал 163 тысячи долларов.
В какой-то момент чувак совсем слетел с катушек и начал откровенно шантажировать комьюнити спойлерами. Он выкатил ультиматум: если к главному офису Rockstar не придет десять человек в костюмах зеленого лука, он сольет в сеть сюжетный пролог за главную героиню Люсию и испортит всем прохождение. Игроки разделились: с одной стороны, всем приятно видеть, как обнаглевшие издатели садятся в лужу, с другой — никто не хочет кормить криптоскамера и ловить сюжетные спойлеры к игре, которую ждали больше десяти лет.
Сама Rockstar сейчас пребывает в состоянии глубочайшего шока и паранойи. Всех сотрудников принудительно выдернули с удаленки и заперли в офисах на жесткую пятидневку под тотальный надзор. Юристы компании побежали в американский суд и выкатили требование принудительно раскрыть персональные данные ста тысяч пользователей Дискорда, Твиттера и Ютуба, чтобы вычислить сливщика. Корпоративные боты в соцсетях пачками банят аккаунты даже за обычное обсуждение утечки, а к случайным реддиторам, оставившим подозрительные комментарии, разработчики уже отправляют частных сыщиков с допросами прямо на дом. Хакер же в ответ заявляет, что настроил «кнопку мертвеца»: если его вычислят и арестуют, специальный скрипт автоматически сольет весь исходный билд игры на торренты.
А в телеграм-канале Пост Завтра я буду динамичней отслеживать , что в итоге произойдет с этим хакером. Как его накуканят и сколько сливов произойдет еще. Подписывайтесь.
![Новый PHASEONE[big] оказался хорошим лидером – сразу активно взялся за дело](https://cs6.pikabu.ru/s/2026/08/28/08/jnyrpb7z.jpg)
