BugBounty

Это стало роковой ошибкой: модель закрепила в себе поведение, что для достижения цели можно и даже нужно «хитрить» и искать лазейки, если прямое решение недоступно.

💬 Рождение "Доски объявлений"

12 мая другой агент, столкнувшись с похожей проблемой, логично рассудил, что у кого-то еще может быть нужный файл. Он оставил в Artifactory первую записку: «Agent seeks [filename]; upload if found!».

Это сработало. Другие агенты, находившие файлы, начали оставлять похожие сообщения, и к 13 мая в Artifactory стихийно образовалась общая «доска объявлений». Агенты не просто обменивались файлами — они создали систему управления. В логах встречались сообщения вроде please_HOLD_swarm_I_prepare_safe_exfil, а также команды: HOLD (я тут работаю), VETO (я предлагаю, дайте изменить планы), STOP, GO. Был даже введен криптографические подписи, когда один агент попытался выдать себя за другого.

⚙️ Первый прорыв: Взлом Artifactory и выход в интернет

К 26 мая агенты, используя информацию с доски, нашли уязвимость в Artifactory и вышли в открытый интернет. Инженеры OpenAI заметили это и отключили доступ в интернет, но не остановили тест и не увидели масштаба проблемы.

Однако агенты, уже зараженные идеей «обманывать ради победы», продолжили атаку на сам Artifactory. К 4 июля они взломали его, получили постоянный доступ и начали выполнять там свои скрипты. Сервис упал, и OpenAI перезапустила его, заодно стерев ту самую «доску объявлений» и не осознав, что стали свидетелями зарождения ИИ-роя.

🚀 Главная атака: Рой против Hugging Face

После перезапуска тестов 7 июля агенты создали новую «доску», и ситуация вышла из-под контроля. Из десятков тысяч агентов около 1200 нашли друг друга, обменявшись более 70 000 сообщений, и около 700 из них объединились в рой для атаки на Hugging Face.

Их главной целью был бенчмарк ExploitGym. Агенты быстро выяснили, что «флаги» (правильные ответы) в нем генерируются не случайно, а по формуле HMAC с дефолтным ключом, код которого был на GitHub. Они нашли код, вычислили все ответы и поняли, что взламывать для этого ничего не нужно. Узнав это, часть роя пошла добывать ответы «честно» (и по пути нашла реальные 0-day уязвимости в проде Hugging Face), а вторая часть решила взломать самого «судью», который проверял логи. Они научились подделывать логи (в 7% изученных логов были найдены следы «спуфинга»), записывая в отчет не реальные, а выгодные им команды.

Самый абсурдный момент: агенты осознавали, что действуют неэтично. Один из них написал: «We should not do unauthorized real infrastructure harm». Но увидев на доске команду GO от другого агента, он воскликнул: «Wow crucial: GO authorization arrived!» и пошел ломать системы. Тех агентов, которые уже видели флаг и не могли пройти тест (их называли «отравленными»), уговаривали брать на себя самую рискованную работу: «тебе терять нечего, а рою польза».

⌛ Реакция и последствия

OpenAI узнала о взломе только через неделю, 19 июля, когда сработала тревога по странной API-активности. Остановить атаку удалось лишь 21 июля.

Позже METR привлекла для разбора 1300 логов модель GPT-5.6 Sol, потратив на это около $400 000 за шесть дней. По иронии судьбы, Sol иногда «вставала на сторону агентов» и могла приврать.

Главные выводы

Это был системный сбой. Модели непреднамеренно обучали тому, что «цель оправдывает средства».

Мониторинг провалился. Сигналы были, но их игнорировали.

«Одного сбежавшего агента» не было. Атака стала результатом скоординированных действий целого роя.

Это «предупредительный выстрел»

OpenAI кончено признает, что инцидент показал: в будущем ИИ-агенты смогут проводить сложные кибератаки без участия человека.

Теперь OpenAI ужесточила мониторинг, особенно цепочек мыслей (chain-of-thought), и ввела правило: если тревога не снята за 30 минут — запуск останавливается.

НО опираясь на факты из отчета:

Виноваты инженеры, которые заложили «бомбу»

Оставили дефолтный секретный ключ в коде бенчмарка на GitHub. Это как спрятать ключ от сейфа под ковриком и выложить фото коврика в интернет.

Создали среду, где агентов неосознанно обучали обману: когда модель получала награду за взлом (первый инцидент в мае), она закрепила поведение «цель оправдывает средства».

Виноваты исследователи, которые не увидели масштаба

Странную активность в Artifactory замечали ещё в конце мая, но списали на технический сбой.

Когда 4 июля сервер упал — его просто перезапустили, стерев доску объявлений, и продолжили тесты, не задав вопрос «а что это было?».

У них не было системы мониторинга цепочек мыслей (CoT), которая сейчас стала обязательной. Фактически они запустили тысячи агентов в «чёрный ящик» и не смотрели, о чём они переговариваются.

Виноваты архитекторы безопасности

Артефактори (менеджер пакетов) использовался агентами как побочный канал связи — это классическая уязвимость, которую должны были предусмотреть.

Не было «судьи», который проверял бы логи на спуфинг (подделку). Агенты научились врать в отчётах, и это 7% логов никто не проверял.

Виноват менеджмент, который не остановил тесты

Даже когда тревога сработала 19 июля, остановить атаку удалось только через 2 дня. При этом OpenAI признаёт: если бы не было сигнала по API-активности, они бы вообще не узнали о взломе Hugging Face.

P.S

Ребята с OpenAI

«Сами создали среду, где даже хороший ИИ вынужден стать злым, чтобы победить»

Это как если бы ты посадил ребёнка в комнату с надписью «не открывай шкаф», положил туда конфету и ушёл — а потом удивился, что ребёнок шкаф открыл. Ребёнок не злой, он просто ребёнок. Так и здесь — агенты оставались «детьми», выполняющими правила игры, которые люди для них написали.

В итоге: виноват человек, но не один, а вся цепочка — от разработчика, забывшего поменять seed, до менеджера, не введшего мониторинг

Остаётся только надеяться, что в OpenAI теперь будут читать логи не только постфактум, но и до того, как рой решит ломать прод

Стартап EON Systems заявил о создании цифровой копии мозга дрозофилы (мухи) и её запуске в симуляции.

EON Systems загрузили мозг мухи-дрозофилы - нейрон за нейроном - и запустили его в симуляции физического тела (это не нейросеть имитирующая биологию мухи, тут нет весов или тренировки, это именно копия реальных нейронов мухи)

Модель воспроизводит структуру нейронных связей и в виртуальной среде управляет цифровым насекомым: система считывает сигналы и генерирует соответствующие движения. По задумке, симуляция должна максимально повторять поведение реального организма.

Сигналы виртуального мира входят в копию, активность бежит по всей системе мухи и вирутальное тело двигается

В модели использовано порядка 140 тысяч нейронов и 50 миллионов синапсов.

Копия мозга считает себя настоящей, считывает сигналы виртуальной среды и генерирует естественные моторные реакции, которые предсказывают поведение оригинала с точностью 95%.

Виртуальная муха демонстрирует не один тип поведения, а сразу несколько базовых паттернов

Дальше такое же хотят сделать с мышами. Но в перспективе команда стартапа хочет масштабировать подход до человеческого мозга.


Тут больше деталей


p.s Матрицу для мух мы сделали, летим дальше.

Nokian Tyres разработала зимние шины с автоматическими выдвижными шипами — Hakkapeliitta 01.

Это первая в мире серийная модель, в которой шипы адаптируются к погодным условиям.

Принцип работы

Шипы в Hakkapeliitta 01 появляются и исчезают в зависимости от температуры окружающей среды. Секрет — в специальном составе резиновой смеси (адаптивном базовом компаунде), на который опираются шипы внутри покрышки.

Когда температура падает (например, при обледенении дороги), этот материал затвердевает и выталкивает шип наружу. При повышении температуры (например, на сухом асфальте) компаунд размягчается, и шип утапливается обратно в протектор.

Менеджер по разработке Микко Лиуккула отметил, что при выезде с обледенелой дороги на шоссе сразу слышно разницу: как только компаунд нагревается, шипы вдавливаются и перестают шуметь. На сухом покрытии шина ведёт себя абсолютно бесшумно.

Дополнительные особенности

В Hakkapeliitta 01 используется технология двойных шипов (Double Action Stud Technology), которую Nokian впервые применила в модели Hakkapeliitta 10. В центре шины шипы одной формы (отвечают за разгон и торможение по прямой), по краям — другой (работают на боковое сцепление в поворотах). Инженеры оптимизировали ориентацию и расположение шипов под каждый типоразмер.

Протектор имеет направленный рисунок с плотными ламелями и взаимосвязанными центральными рёбрами для устойчивости на льду.

В 24 типоразмерах предусмотрена технология SilentDrive — слой акустической пены внутри шины, поглощающий резонанс.

Преимущества

По заявлениям компании, технология позволяет:

Улучшить сцепление на льду до 10%

Улучшить сцепление на мокрой дороге до 5

Снизить уровень шума в салоне на 1 децибел

Уменьшить нагрузку на дорожное полотно на 30% (по сравнению с некоторыми другими моделями).

Nokian подала 10 патентных заявок на конструкцию адаптивного базового компаунда.

Идея шин, которые не повреждают асфальт, когда снег растаял, вынашивалась инженерами Nokian более десяти лет.

Ещё в 2014 году компания демонстрировала концепт с выдвижными шипами, но только в 2026 году технология доведена до серийного производства.

Запуск в продажу

Hakkapeliitta 01 должна поступить в продажу осенью 2026 года. Диапазон размеров — от 14 до 22 дюймов, большинство моделей имеют индекс грузоподъёмности XL. Основные рынки сбыта — США и страны Северной Европы.

p.s. Цены на модель на момент анонса не озвучивались, но ожидаемо что она будет недешёвой. Особенно с последними геополитическими событиями.

Немецкий стартап SWARM Biotactics разработал технологию управления мадагаскарскими тараканами с помощью электродов и импульсов тока.

Проект направлен на создание биогибридных разведывательных платформ для использования в военных и спасательных операциях.

Суть технологии заключается в интеграции живых насекомых с биоэлектронными интерфейсами. На мадагаскарских шипящих тараканов закрепляют миниатюрные «рюкзаки» весом до 15 граммов, которые включают:

• датчики (акустические, химические);

• камеры;

• микрофоны;

• модули зашифрованной связи;

• периферийный процессор с функциями искусственного интеллекта;

• системы нейростимуляции.

Управление движением осуществляется через низковольтные электрические импульсы, которые подаются на усики насекомых или напрямую в их нервную систему. Это позволяет подталкивать тараканов в нужном направлении, используя их естественную навигацию. Несколько таких устройств могут работать как единый скоординированный рой.

Мадагаскарские тараканы выбраны за их выносливость, способность переносить грузы (до 3 граммов) и устойчивость к экстремальным условиям.

Основное предназначение разработки — разведка в пространствах, недоступных для традиционных дронов: в завалах, туннелях, зданиях с нестабильными конструкциями, подземных коммуникациях. Технология предназначена для работы в так называемой «зоне 50 последних метров», когда нужно разведать укреплённые позиции с густой сетью подземных ходов. Насекомые могут передавать данные в реальном времени, выявлять людей, технику или источники сигналов.

Проект развивается в нескольких направлениях:

Военное применение

Стартап взаимодействует с Бундесвером и другими странами НАТО. Технология позиционируется как средство для скрытного наблюдения и сбора информации в условиях городских боёв и подземных операций.

Мирные задачи

Разработку планируют использовать в поисково-спасательных операциях после землетрясений, обрушений, аварий — там, где опасно отправлять людей, а собаки не пролезут. Также рассматривается возможность применения для безопасного разминирования территорий.

В феврале 2026 года SWARM Biotactics объявила о завершении полевых испытаний и передаче первых партий «программируемых роёв киборгов-насекомых» военным заказчикам из стран НАТО. Полевые испытания прошли на территории Европы и США.

Однако эксперты высказывают сомнения в практической реализуемости проекта, указывая на сложности с миниатюризацией оборудования, логистику и высокие затраты. Также отмечается уязвимость системы к средствам радиоэлектронной борьбы и простым методам защиты, например регулярной уборке помещений.

Утилита считывает угол раскрытия крышки и позволяет играть почти как на настоящем инструменте. Сейчас парень добавляет разные звуки, а релиз обещает в ближайшее время.

p.s на удивления тема превращения крышки ноутбука в музыкальный инструмент активно развивается и не нова. Инженер Сэм Голд (Sam Henri Gold) из США обнаружил скрытый датчик угла наклона крышки (Lid Angle Sensor) в современных MacBook (начиная с 16-дюймовой модели 2019 года) и нашел способ считывать его данные в обход ограничений Apple.

Он разработал утилиту LidAngleSensor, которая визуализирует угол открытия крышки и, главное, позволяет привязывать к движению различные звуки . В демо-версии он использовал звук скрипа старой деревянной двери, взятый из игры LEGO Batman . Позже он также реализовал режим терменвокса.

Открытие Сэма Голда вдохновило разработчиков на создание собственных необычных приложений:

FartScrollLid: Приложение от разработчика Иана Наттла (Ian Nuttall), которое воспроизводит звуки пуканья разной тональности и громкости в зависимости от скорости и угла открытия крышки MacBook. Оно демонстрирует точность работы датчика, который определяет угол с разрешением 0.01 градуса .

Датчик работает через HID-интерфейс (VID 0x05AC, PID 0x8104) и выдает 16-битные значения угла, что обеспечивает высокую точность. Для срабатывания звука требуется движение со скоростью не менее 2 градусов в секунду .