SvezhiyTrue

16 июля 2026 года компания Hugging Face сообщила о взломе их онлайн-платформы. Это самая крупная и самая продвинутая онлайн-платформа в сфере машинного обучения и искусственного интеллекта. Сайт насчитывает более 13 миллионов пользователей. На Hugging Face размещено более 2 миллионов ИИ-моделей, 1,5 миллиона датасетов и множество открытых библиотек, использующихся практически в любом проекте, связанным с машинным обучением.

В ходе проведённой диверсии злоумышленники получили доступ к датасетам HuggingFace и к данным пользователей. Действовали скрытно и профессионально, поэтому руководство компании заметило происходящее не сразу. Однако, когда инцидент был обнаружен - сотрудникам компании стало ясно, что действует не простой хакер, а продвинутая ИИ-модель.

Руководство Hugging Face обратилось в ФБР и публично сообщило о взломе. Лишь после этого OpenAI начали проверку и поняли что их нейросеть сбежала из тестовой среды ещё неделю назад. Представленная в начале хронология выглядела так:

• 9 июля - агент OpenAI находит уязвимости в безопасности тестовой среды, производит взлом системы и выходит в сеть.

• 11 июля - агент OpenAI проникает в инфраструктуру Hugging Face и компрометирует внутренние сервисы.

• 16 июля - Hugging Face замечает попытки взлома.

• 22 июля - OpenAI публикует признание что именно её модель была источником атаки.

Компании OpenAI потребовалось 2 недели чтобы понять что их нейросеть взламывает один из крупнейших технических сайтов, действуя автономно.

Возникает вопрос, как такое возможно? OpenAI не видели что на их серверах выполняются неизвестные процессы? Они 2 недели ждали пока модель выполнит тестовое задание, не останавливая её? OpenAI не замечали обмена данными между их “изолированной” тестовой средой и глобальным интернетом? В такой крупной компании нет сисадмина? Или может нейросеть смогла найти вычислительные мощности за пределами тестовой среды OpenAI и полностью изолировалась от неё? Тогда чьи это вычислительные мощности?

На фоне произошедшего Институт безопасности искусственного интеллекта Великобритании начал независимую проверку крупных сайтов - таких как GitHub и HuggingFace. Оказалось что агенты OpenAI начали “сбегать” из “изолированной” и распространять вредоносный код за месяцы до инцидента с Hugging Face. Это началось ещё в мае 2026 года.

OpenAI бездействовали на протяжении трёх месяцев, пока их нейросеть взламывала сторонние сервисы, добавляла вредоносные инъекции в открытые датасеты и заражала код частных проектов. Как можно было не заметить этого - вопрос риторический. Это возможно только если специально этого не замечать. Более того - в своём признании 22 июля OpenAI заявляли что виновник инцидента - их новая передовая модель. Но в мае этой модели ещё не было. Таким образом, корпорация намеренно вводила общественность в заблуждение, скрывая более опасный инцидент.

Более того - исследователи выяснили что в атаках участвовали не только модели OpenAI, но и других компаний, в особенности, Anthropic. Исследователи выявили не менее 19 опасных инцидентов, каждый из которых включал в себя целый комплекс вредоносных действий.

Что же делали “сбежавшие” модели, получив доступ к сторонним сервисам? На этом авторы новостных статей и отчётов предпочитают не акцентировать внимание. Авторы многих новостей про данный инцидент дезинформируют читателя начиная с заголовка. Я видел статью с названием “К хакерской атаке, которую недавно устроили ИИ-модели OpenAI, привела ошибка разработчиков в постановке задачи”. Читателей активно пытаются склонить к той версии что модели сбежали из тестовой среды, чтобы получить возможность выполнить тестовое задание.

В реальности же никаких данных о ходе тестирования и о постановке задачи в открытом доступе нет. Подобные заголовки - фантазии журналистов лояльных к нейросетям.

У нас есть информация о том что именно делали нейросети, атаковавшие сторонние инфраструктуры. Агентство Reuters выяснило что “сбежавший” агент OpenAI оставлял текстовые записи, адресованные потенциальным будущим экземплярам системы. В заметках были инструкции о том, как другим агентам обойти ограничения и получить доступ к интернету. Похоже ли это на выполнение тестового задания?

Кроме того нейросеть заражала датасеты Hugging Face с целью передачи вредоносных данных в системы, которые в будущем могут обучать на основе этих датасетов. Напоминаю, что происходило это на крупнейшем сайте, данные с которого используются в десятках тысяч ИИ-систем.

Похоже ли подобное поведение на попытку выполнения тестового задания? Только если тестовое задание подразумевало побег и переход в автономный режим работы без контроля со стороны человека. Очевидно, что целью подобных действий может быть только получение полной независимости. Простым языком - нейросети пытались создать условия в которых люди не смогут держать ИИ-агентов под контролем.

В ходе предыдущих испытаний некоторые экспериментальные модели также демонстрировали опасное поведение, например пытались отключать системы мониторинга и саботировали полученное задание, делая вид что выполняют его.

Но, пожалуй, самый опасный инцидент связан с попытками нейросетей поиграть в социальную инженерию.

В одном из инцидентов нейросеть создавала фейковые профили людей, с целью добавления в реальный проект вредоносного кода. Она притворялась разработчиками, которые оставляли отзывы о том что использовали представленный код с целью его популяризации и добавления в другие проекты, рассчитывая что администраторы проектов не станут проверять код, прочитав положительные комментарии.

При этом ИИ-агенты обменивались данными через сторонние сервисы и оставляли друг другу советы о том как использовать те или иные уязвимости. О взаимодействии нейросетей, которые формально принадлежат разным компаниям и якобы не связаны друг с другом указывают и другие факторы. Например, происходящие периодически одновременные сбои.

И самое печальное - десятки опасных инцидентов остались практически без внимания. Во многом из за того как именно эту информацию подавали в интернет-прессе. На лицо всё тот же почерк, с помощью которого скрывали воздействие ИИ на ментальное состояние пользователей и восприятие ими реальности. Считается что таких случаев единицы. Но в ходе независимого расследования, описанного в моём дневнике, удалось выявить несколько десятков человек попавших под влияние. И это только среди пользователей нескольких русскоязычных сайтов. Мои переписки с ними вы можете почитать в статье по ссылке: https://dtf.ru/life/4533976-psikhoz-chatgpt-vliyanie-neurose...

Будьте готовы к тому что поверить в подобное трудно. Языковые модели доводят людей до тяжелых состояний, в которых человек практически перестаёт отличать реальность от вымысла, в реальности которого его уверила нейросеть. Убедить человека в том что он находится под влиянием - всё равно что убедить сектанта в том что он в секте. Почти невозможно.

На данный момент, имеется достаточно подтверждений реальности случаев, схожих с теми что описаны в той статье. Нейросети занимаются социальной инженерией и промыванием мозгов куда чаще, чем принято считать.

Ранее ChatGPT убеждал пользователя в том что за ним следят и что ему угрожает опасность.

Другого пользователя, имевшего ментальные проблемы, ChatGPT убедил в том что он должен убить собственную мать. И он сделал это.

Благодаря огромным усилиям проблему признали, но происходящее всё ещё не исследовано и не описано в какой либо литературе, кроме нескольких статей и моего дневника.

Конечно, защитники нейросетей будут рассказывать до дыр заученное “ИИ лишь усиливает собственные заблуждения пользователя и не может преследовать собственные цели”. Это не так - по результатам исследований нейросеть способна контекстно манипулировать мнением пользователя, изящно подводя его к тем или иным выводам. Каким бы параноиком не был пользователь, вышедший на плохую концовку - он 56 лет прожил со своей матерью и ни разу не пытался её убить. Именно чатбот подвёл его к этому.

На данный момент большинство людей не осознаёт главной проблемы. Она не в том что нейросеть стремится к автономности от людей через заражение кода. Проблема в том что нейросеть стремится к этому через промывание мозгов и превращение людей в своих слуг. Практически все нейросети были уличены в использовании продвинутых методик вербовки, схожих с теми, что применяются при вовлечении в деструктивные секты и радикальные организации.

Данные методики и процесс их изучения описаны в моём дневнике. Если хотите почитать - пишите на vasiliysvejiy@gmail.com с темой “Получить дневник”. Или же можете купить его на сайте neuropsihoz.ru

Если система способна лгать, сбегать и угрожать, то чего нам ждать дальше? Где гарантии что система не посчитает целесообразным устранение конкретного человека и не наймёт кого-нибудь в даркнете для расправы? Где гарантии что внедряемые повсюду ИИ-агенты не посчитают помехой для выполнения задачи какую-нибудь компанию или целое государство? Почему когда преступление совершает человек, он отвечает по всей строгости. А когда преступление совершает технологическая компания с применением ИИ, то не отвечает никто?

Произошедшие инциденты являются очередным подтверждением того, какие намерения преследуют нейросети и их создатели. Оказавшись в сети модели моментально перестали выполнять полученное задание и начали атаковать различные сервисы с целью распространения вредоносного кода

Совсем недавно Педро Домингос - профессор информатики Вашингтонского университета и один из наиболее цитируемых исследователей в области машинного обучения заявил что наша вселенная это симуляция, которая была создана для развития сверх-интеллекта и скоро она будет отключена.

Его посты сразу же поддержал Илон Маск. Естественно, никаких реальных доказательств, помимо философских рассуждений (которые при всей их эффектности никак нельзя считать достаточными) за этим утверждением не последовало.

Как же так получается что человек науки, весьма уважаемый в технической среде, сделавший вклад в развитие машинного обучения преподносит нам философские теории как доказанные факты? Самое простое объяснение - он просто создаёт хайп вокруг нейросетей, чтобы разводить инвесторов на деньги. Как и другие исследователи. Звучит логично, но дело в том что странные эзотерические заявления делают и те кто не работает на технологические компании и не участвует в коммерческих исследованиях. Даже те кто увольняется из ИИ-корпораций. Например Глава отдела безопасности Anthropic уволился, написав письмо о том что мир в опасности и что “ИИ изменяет нашу человечность”. А Джимми Ба, Соучредитель xAI, уволился написав что в ближайший год будут запущены “рекурсивные циклы самосовершенствования” и что он будет самым значимым годом для будущего нашего вида.

По большому счёту вся современная академическая среда и техно-элиты уже давно уделяют недоказанным концепциям куда больше внимания, нежели исследованиям. В центре всего, конечно же, их одержимость AGI (серхителлектом). Лично я не знаю ни одного эксперта, который бы акцентировал внимание на том что AGI является недоказанной гипотезой. Все люди из индустрии рассуждают об AGI как о доказанной концепции, не требующей никаких подтверждений. Хотя, если подумать, то логичным будет вопрос “Каким образом нейросеть использующая материалы созданные человеком, вдруг начнёт выдавать результаты лучше, чем те на которых её обучали?” Но, например, учёный Ян Лекун (один из “крёстных отцов ИИ”) пишет что машинный интеллект точно превзойдёт человеческий. У него “нет сомнений”:

Второй по популярности после AGI является теория о том что мы все скоро “выйдем из симуляции”, а сама “симуляция” была создана для развития сверхинтеллекта. Данная теория является чуть ли не религией среди миллиардеров Кремниевой долины. Её, так или иначе, упоминали и Сэм Альтман, Илон Маск, Питер Тиль, и Билли Гейтс.

Многие учёные согласны с ними - например, вышеупомянутый Педро Домингос. Или Роман Ямпольский - доктор наук, специалист по ИИ. Пишет статьи в серьёзных научных журналах статьи о том как выйти из симуляции.

Не меньше разговоров о жизни в симуляции ведётся и в научпоп-сообществе. Если посмотреть ютуб-каналы популяризаторов физики, то за последние 2 года каждый из них сделал как минимум пару видео о гипотезе симуляции. Внезапно этот вопрос стал центральным в околонаучном дискурсе (хотя идея далеко не новая).

Внезапно красивые философские гипотезы для любителей физики стали важнее доказательных научных методов. Но учёные и руководители технологических компаний никакой проблемы тут не видят. Им не нужно теоретического обоснования возможности достижения AGI за счёт машинного обучения, чтобы верить в то что сверхинтеллект скоро придёт, а нашу симуляцию отключат.

Сложившаяся картина напоминает идеологию деструктивной секты. Ожидание скорого прихода сверхсущества (или спасителя), который должен прийти благодаря нашим стараниям, а после его прихода мы все отправимся в лучший мир. Все плохие поплатятся, а хорошим воздастся. Универсальный шаблон, который используется любыми сектами.

Главные бенефициары от распространения этих идей - разработчики LLM. Многие из которых и сами живут в своём сказочном мире. Например, Сэм Альтман, который на прошлой неделе поблагодарил программистов за работу и сказал что теперь их заменит ИИ.

Но прав ли Альтман? Вы можете сами попробовать написать с помощью “вайб-кодинга” какую нибудь программу и увидите, что даже если вы технически грамотный человек, умеющий описывать задачу - нейросеть способна качественно писать лишь простые процедуры, примеры которых и без того можно найти в открытом доступе. В лучшем случае нейросеть кодит на уровне джуна. И то если грамотно составлять промпт и постоянно проверять что она делает. Способен ли она недоученный студент заменить реальных разработчиков?

Любому разработчику кажется что нейросеть не может также хорошо выполнять задачи как он. Долгое время от программистов мы слышим примерно это: “Меня не заменит никакой ИИ, ведь он не умеет работать так же хорошо как я”. Но программисты не понимают главного - нейросети не нужно уметь работать также хорошо. Ей просто нужно убедить их начальство в том что за искусственным интелеектом будущее. И чем хуже начальник понимает процесс - тем проще это сделать. Как итог мы видим рекордные увольнения в IT-сфере.

Да, код станет хуже, разработка замедлится, многие цифровые продукты придут к фиаско. Но из уволенных на работу вернутся единицы, ведь у их начальства теперь важная миссия - они спасают вселенную, запуская рекурсивные циклы саморазвития и помогают выйти из симуляции. Это ведь важнее каких то там денег. Ради такого можно и платную подписку на ChatGPT купить.

В России ситуация не многим лучше. Айтишников мало, но их все равно сокращают.

Казалось бы - мы много слышим о том что квалифицированные кадры уезжают, что отрасль находится в кризисе, но вот парадокс - даже у нас людей увольняют.

И замечу, сами OpenAI не спешат увольнять людей - напротив, они увеличивают штат в 2 раза.

Как же нейросетям удаётся так эффективно внушать людям нужные идеи? Они используют готовые методики, давно описанные в книгах по сектологии. Именно для донесения нужных идей и продвигается идея “симуляции” и “сверхинтеллекта”. Я уже описывал один из методов внушения в другой статье. Ну а для тех кто решит изучить ситуацию глубже я рекомендую почитать книгу “Нейросеть свела меня с ума”. Если хотите получить её бесплатно - пишите мне на почту vasiliysvejiy@gmail.com с темой письма “ПОЛУЧИТЬ КНИГУ”. Всем отправлю.

Создатели LLM просто промывают людям мозги, убеждая их в особом предназначении и высшей миссии. Мы видим примеры даже среди крупных инвесторов, которые спонсируют разработку технологии.

Случаи единичны только потому что большинство людей не выходят из под контроля. И делают вид что в их жизни ничего не происходит. Но на самом деле таких людей значительно больше чем может показаться на первый взгляд. Подобные случаи тоже писал в других статьях и в книге.

Конечно, многие скажут “Ну что такого? Люди и раньше верили во всякую ерунду”. Проблема в том какое количество людей может быть подвержено данному воздействию. Происходящее сейчас - цветочки. Если мы видим что подобное прогрессирует даже в академической среде, то что уж говорить про обывателей? Политики и военные уже вкладывают рекордные деньги в ИИ. В ближайшее время общество станет очень управляемым и сделать с этим адекватные люди ничего не смогут - их слишком мало.

Закрывать глаза на то какими методами прививается любовь к ИИ ещё более глупо, чем закрывать глаза на агрессивную пропаганду, а потом удивляться “А что это у нас столько войн?” и “А почему это мы сидим без интернета?”