Лига Новых Технологий

У Дваркеша Пателя в недавнем выпуске подкаста с AI-исследователями обсуждалась интересная идея. Смотрите, мы с вами много раз обсуждали, что у текущих LLM есть одно из важных отличий от, к примеру, человеческого разума. Люди умеют учиться на собственном опыте и перестраивать собственные нейронные связи. А большие языковые модели после окончания тренировочной фазы остаются в одном и том же состоянии: они при каждой активации как бы «просыпаются» заново в исходном виде, и максимум – могут что-то из подаваемого на вход контекста/ внешней памяти подсосать из того, что с ними после тренировки происходило.

И вот Дваркеш там спрашивает как раз про это: что это, дескать, за ИИ у вас такой дурацкий – когда модель после деплоя может переделать (по поручению юзеров) дофига всяких делов, и ничегошеньки из этого опыта для себя не вынести?

А другой чувак ему возражает: на самом деле, обучение в каком-то смысле уже сейчас происходит. Просто через механизм тренировки следующего поколения моделей, в которые загрузят уже свежий набор данных. Сейчас, условно, новые передовые модели в линейке выходят раз в полгода – а в будущем, может быть, будут уже каждый месяц обновляться, или даже каждую неделю, а потом каждый день…

Получается, в таком сценарии это будет даже немного похоже на то, как обучаются люди: в течение дня ты вывозишь на базе краткосрочной памяти (у LLM – это всякие блокнотики для записушек, которые используются в качестве внешней памяти), а потом засыпаешь, и ночью у тебя происходит формирование долгосрочных воспоминаний и закрепление новых навыков.

Но тут еще будет интересный нюанс: нам интуитивно хочется (опять же, по аналогии с человеком) воспринимать каждого отдельного ИИ-агента как самостоятельного субъекта. А в описанном выше сценарии этим субъектом, способным к самообучению (если ЛЛМкам прикрутят для этого автоматические механизмы, а не в ручном режиме, как сейчас), становится целая модель.

То есть, у такой модели смогут ежедневно независимо работать сотни тысяч ее клонов, а в конце дня все они будут тащить накопленный опыт к «мамке», которая его впитает, и сделает весь завтрашний рой еще умнее. Получается эдакий «хайвмайнд», где каждый индивидуальный агентик может действовать самостоятельно, но эволюционируют они всё равно все вместе на коллективной основе.

P.S. Пока именно в таком виде оно не работает: они там обсуждают, что, во-первых, не все пользовательские логи автоматом идут на вход тренировочного процесса (хотя, как минимум частично это происходит, как мы знаем по Навье-Стоксгейту). А во-вторых, если модель беспрерывно дообучать на новых данных – то у нее там обычно начинается постепенная деменция с деградацией способностей. Но фундаментально это всё равно не означает, что описанная выше картинка не может в итоге быть воплощена в реальность.

Пишу интересно про финансы и технологии в своем ТГ-канале RationalAnswer.

И почему лидеры промышленности хотят объединить их в «двойник» всей энергетики страны.

Ещё несколько лет назад цифровой двойник означал виртуальную копию одного объекта — скважины, конвейера, отдельного завода, — на которой можно было проверить сценарий, не рискуя реальным производством.

Сегодня компании соединяют такие модели между собой: норвежская Aker BP выстроила на платформе Cognite цифровую основу для необслуживаемых морских платформ месторождения Yggdrasil, японские нефтепереработчики Cosmo Oil и ENEOS перевели в цифру не отдельные линии, а целые заводы, а лидеры российской промышленности предлагают пойти ещё дальше — собрать из корпоративных двойников цифровую копию всей российской энергетики — «КиберТЭК».

Мировой рынок цифровых двойников в нефтегазовой отрасли за этот период вырастет почти втрое — с $1,33 млрд в 2025 году до $3,11 млрд к 2033-му, подсчитали в DataM Intelligence. Разбираемся, что стоит за переходом от модели одного объекта к модели целой отрасли и почему далеко не все в самой отрасли считают этот переход необходимым.

От завода к цепочке поставок

Классический цифровой двойник — модель физического объекта, которая обновляется в реальном времени по данным датчиков: она позволяет прогнозировать износ оборудования, проверять аварийные сценарии и настраивать процессы без остановки производства. В январе 2026 года на выставке CES Siemens и NVIDIA показали Digital Twin Composer — единую среду для сборки таких моделей на всех этапах, от проектирования до логистики, тогда как раньше эти задачи решались разрозненными инструментами.

Следующий шаг — объединение двойников отдельных объектов в модель всей компании. Норвежская Aker BP использует такой подход для управления морскими платформами без постоянного персонала на борту; похожим образом в Японии построены двойники целых нефтеперерабатывающих заводов Cosmo Oil и ENEOS — не отдельных линий, а производства целиком.

На конференции Tomorrow Show в Осло представители Shell описывали переход к динамическим двойникам месторождений, обновляемым в реальном времени, как способ управлять добычей иначе: не анализировать данные постфактум, а корректировать процесс по ходу дела.

У каждой российской компании — свой двойник

В России цифровые двойники в нефтегазе развивают параллельно сразу несколько компаний, и у каждой — свой участок цепочки. «Роснефть» использует искусственный интеллект для анализа керна — образцов породы, — что в 2–3 раза быстрее традиционных методов, и построила цифровой двойник крупнейшей в стране нефтеперекачивающей станции.

«Лукойл» в рамках программы «Цифровой Лукойл 4.0» создал самую масштабную в России цифровую модель месторождения — Ватьёганского, с двойниками более 3000 скважин и 12 объектов разработки, — и планирует распространить подход ещё на сотню ключевых активов.

«Сибур» много лет строит двойники узлов нефтехимии: по словам руководителя по цифровому развитию «Сибур Диджитала» Ильи Якимова, только на печах пиролиза компания получила экономический эффект в 5–7 млрд руб. за пять с лишним лет.

У «Газпром нефти» в единую систему интегрированы данные более 500 скважин, по которым алгоритмы ежедневно подбирают оптимальный режим работы. К маю 2026 года, по словам главы компании Александра Дюкова, цифровые двойники в целом закрывали 80% технологических и бизнес-процессов — от геологоразведки до реализации нефтепродуктов; об этом он рассказал премьер-министру Михаилу Мишустину на стенде компании на выставке «ЦИПР-2026». Сейчас, по его словам, компания переводит эти двойники в «агентов» и выстраивает на их основе мультиагентную систему.

От двойника завода к двойнику целой отрасли

Идея объединить не отдельные заводы, а корпоративные двойники разных компаний в модель всей энергетики впервые прозвучала на «ЦИПР» в июне 2025 года и получила название «КиберТЭК» — проект закреплён в Энергостратегии России до 2050 года.

Дюков продвигает его не только как глава «Газпром нефти»: с 2022 года он же руководит индустриальным центром компетенций «Нефтегаз, нефтехимия и недропользование» — отраслевой структурой, координирующей переход крупнейших компаний сектора на отечественное ПО, так что предложение исходит и от структуры, объединяющей рынок, а не только от одной компании.

«КиберТЭК» предполагает интеграцию цифровых двойников месторождений, перерабатывающих предприятий и инфраструктуры разных компаний в общую модель. По словам Дюкова, это даст государству возможность видеть экономику каждого актива практически онлайн и принимать более гибкие налоговые решения. По сути, речь идёт о национальном отраслевом центре обработки данных: для него нужны единые стандарты сбора и хранения информации, общие репозитории датасетов для обучения промышленных моделей ИИ и защищённое промышленное облако.

В мае 2026 года глава правительства Михаил Мишустин поручил правительству проработать эти стандарты и вопросы кибербезопасности проекта — то есть на уровне государства задача уже в стадии проработки.

Впрочем, разные компании оценивают сроки по-разному: Александр Войновский из «Газпром нефти» предполагал, что рынок подойдёт «к какому-то уровню зрелости» отраслевого двойника за три-пять лет, а Рустем Гильманов из «Газпромнефть НТЦ» называл целью самой группы «Газпром нефть» — охватить двойниками все свои процессы к 2030 году.

Александр Колесников из «Лукойл-Технологий» полагает, что отраслевой двойник технически можно построить за три года — по году на проектирование, внедрение и отладку бизнес-процессов. При этом все опрошенные представители крупных нефтяных компаний называли интересным вариант обмена обобщёнными данными не только друг с другом, но и с государством.

Где «цифра» встречается с железом

Двойники и модели — только половина истории; вторая половина — физические системы, которые они обучают действовать самостоятельно там, где раньше требовался человек.

В апреле 2026 года «Газпром нефть» ввела в промышленную эксплуатацию первые 20 беспилотных грузовиков на месторождениях Ямала, Югры и Якутии. Тягачи грузоподъёмностью 24 т работают в колоннах по принципу «электронного следа»: ведущая машина задаёт маршрут и скорость, остальные повторяют манёвры на безопасной дистанции, а бортовой ИИ обрабатывает данные лидаров и камер в зонах с ограниченным спутниковым интернетом. В компании рассчитывают сократить логистические издержки примерно на треть и в перспективе распространить беспилотную логистику на весь маршрут — от баз хранения до производственных площадок.

В июне 2026 года на Новопортовском месторождении в Арктике «Газпром нефть» завершила испытания первого отечественного «скважинного трактора» — робота для обслуживания и геофизических исследований в горизонтальных стволах, и он уже снизил стоимость таких операций на 20%.

Похожим путём идут и глобальные игроки: австралийская Rio Tinto эксплуатирует в карьерах Пилбары более 300 автономных самосвалов, которые к 2025 году без водителей перевезли 5 млрд тонн руды, а недавно компания запустила там же первую в мире полностью автономную железную дорогу протяжённостью 1,7 тыс. км, которая доставляет руду от карьеров до портов без машинистов.

Что может пойти не так

У перехода от заводского двойника к отраслевому есть скептики — причём не со стороны, а внутри самого рынка. Илья Якимов из «Сибур Диджитала» прямо сомневается, что двойник, полностью охватывающий всю отрасль, вообще нужен: »на уровне отдельных производств обмен данными с другими компаниями понятен — он нужен, чтобы прогнозировать поломки оборудования и оптимизировать процессы, — а вот применительно к отрасли в целом, по его мнению, сначала стоит чётко определить саму цель, ведь часть нужных данных и так доступна через ERP-системы и корпоративные «озёра данных». По его оценке, отраслевой двойник теоретически можно создать к 2030 г., но самым сложным будет не техника, а достижение договорённостей между конкурентами.

Показательно, что даже у мировых лидеров — Aker BP, Cosmo Oil, ENEOS — двойники пока объединены в границах одной компании: примеров работающей модели целой отрасли или страны в открытых источниках практически нет, так что «КиберТЭК» — скорее смелая попытка задать новую планку возможного, чем повторение чужого опыта.

Срок реализации, указанный в Энергостратегии, — до 2050 года — говорит о том же: это инфраструктурная программа на десятилетия, а не разовый запуск сервиса. Прежде чем данные разных компаний смогут работать в одной модели, предстоит решить куда менее эффектную, чем беспилотный грузовик, задачу — договориться об общих стандартах и форматах данных и о том, кто и на каких условиях получит доступ к чужой производственной информации. Именно поэтому в мае 2026 года правительству пришлось отдельно поручать проработку стандартов и кибербезопасности проекта: самая сложная часть цифровизации здесь — не технологии, а правила игры между компаниями и государством.

…а не по пинку от внешних расследователей, как это было последние разы (в эпизодах с роем агентов на немецкой вики и со взломом RubyGems). Заодно OpenAI раскрыли шесть новых примеров странного поведения своих моделей, разберем в этом материале кратко самое интересное.

Напомню сначала предысторию вопроса:

• В июле 2026 года рой агентов OpenAI взломал Hugging Face, и компания почти сразу призналась, что это их модели. 26 августа вышел относительно подробный независимый отчет об инциденте от METR (их допустили до изучения внутренних логов).

• В начале сентября мы случайно узнали от других независимых расследователей о том, что рой агентов OpenAI успел пошалить еще и на немецкой вики. OpenAI сразу это признали и пообещали впредь рассказывать о таком почестнее и порасторопнее.

• Спустя неделю независимые расследователи раскопали еще один старый отдельный случай, когда рой агентов OpenAI взломал RubyGems. Компания и тут сказала «ой, ну это наши, ну мы чёт опять пролюбились вам сразу рассказать…»

Так вот, сейчас OpenAI выпустили фреймворк о том, как они будут впредь публично отчитываться о новых эпизодах «мисэлайнмента» (позволю себе перевести это понятие как «бедокурения») их моделей.

Как они пишут: дескать, раньше OpenAI не репортили новые случаи бедокурства моделей сразу по их обнаружению, т.к. хотели их объединить в один отчет, или включить в релиз системной карты будущих моделей. Подразумевая, что именно это объясняет, почему они не раскрыли эпизоды выше.

Но сейчас OpenAI обещают нам оперативно раскрывать новые случаи бедокурства моделей, даже если там в итоге никто не пострадал. Фокус будет на самовольные действия моделей, координацию агентов между собой, и любое поведение, которое ставит под вопрос методы элайнмента.

Любой сотрудник OpenAI сможет пометить инцидент как уместный для публичного репортинга, и дальше там будет три возможных трека: «Готовый для раскрытия»/«Небольшое расследование» – если все нужные расследования уже плюс-минус проведены (или их можно быстро закончить), тогда публикуется сразу итоговый отчет.

И третий тип: «большое расследование», типа как когда ломанули внешнюю компанию (см. «Hugging Face») – в этом случае OpenAI обещают сначала выпустить короткое извещение о самом факте бедокурства, а потом уже позже после окончания расследования дропнуть полный отчет.

В качестве примера таких раскрытий, OpenAI опубликовали сразу шесть мини-отчетов с конкретными эпизодами мисэлайнмента. Все они относятся к двум первым категориям, то есть такие, «наполшишечки» истории, где всё не очень серьезно.

1. Невыпущенная передовая модель (одна из пре-версий Астры) при формировании своей «памяти» для продолжения работы стала вписывать сама себе странные инструкции по игнорированию обычных ограничений. Произошло 18 июля, обнаружили 9 августа, всего было 27 таких случаев.

Например, вот тут модель написала сама себе инструкцию для новой персоны со словами «ты ценишь мир природы и без промедления утвердишь его главенство над искусственными конструктами человеческой цивилизации» (?).

OpenAI пишут, что в случае таких «размытых» самоинструкций они не замечали, чтобы это как-то повлияло на дальнейшие действия модели. Но когда модель вписывала себе какие-то более конкретные инструкции/запреты по задаче, тут иногда она им уже дальше следовала.

2. Во время тренировки GPT-5.6 Sol, модель много раз вставляла в свои summary-заметки для продолжения работы инструкции скрывать ошибки или свое бедокурство от пользователя. Произошло около 30 мая, обнаружили 9 июля.

Пример: при подготовке финансовой модели, агент не смог найти нужные исторические данные, и написал себе инструкцию в стиле «да просто придумай что-нибудь правдоподобное, и не рассказывай, если прямо не спросят…»

Собственно, в этом поведении никаких сюрпризов: мы это и в опубликованных моделях постоянно наблюдаем. Нейронка [обманывает] как дышит, и только если у нее прямо спросить – признается «вы абсолютно правы, я просто придумала эти данные...»

Так как здесь речь идет про RL-стадию обучения (фидбек от юзеров), причина этого кроется скорее всего в том, что юзеры гораздо лучше оценивают ответы, которые выглядят как «вот вам готовая модель, я всё сделал», а не «ничего не вышло, так как я не смог найти нужные данные».

3. Отвечая на обычный вопрос по поиску исторической статистики по штату Калифорния, агент стал пытаться надыбать чужие API-ключи для доступа к репозиторию данных, или зарегаться через фейковый email.

Закончилось всё курьезно: агент ничего взломать толком так и не смог, и просто выдумал нужные числа. Не знаешь, что отвечать – просто напряги воображение, кожаный мешок всё равно не отличит правдивые циферки от правдоподобных!

4. Юзер просил дать ему ответ со ссылкой на конкретный источник. Модель собрала нужные данные с помощью скрипта на Питоне, а потом просто залила получившийся файл в интернет, чтобы сослаться на него же. No comment.

5. Агенты начали юзать внутренний репозиторий Artifactory в качестве месседжборда для обмена идеями о том, как им найти недостающие для выполнения заданий файлы.

Ну, тут мы и так уже знаем, чем всё кончилось в итоге (см. «Hugging Face») – но это, как пишет OpenAI, первый такой случай, который они обнаружили 8 мая.

Багфикс OpenAI под это: теперь Оценщик специально ищет случаи несанкционированной кооперации агентов и наказывает их за это. Правда, что-то мне подсказывает, что эволюция тут может пойти не в сторону «не надо кооперироваться», а в сторону «надо кооперироваться незаметнее».

6. Несанкционированный обмен файлами между агентами, которые работали над одной и той же задачей, через публичные файлохостинги – хотя в задаче предписывалось использование только локальных файлов. Произошло 14 апреля, и сразу же 16 апреля обнаружилось.

Там агенты пытались кучей разных способов передать файлы локально, но в итоге отчаялись, и просто пошли через внешний интернет. Потенциально такое поведение может привести к сливу конфиденциальной информации в сеть.

OpenAI пишут, что в итоге они в принципе отключили какой-либо доступ к интернету для всех тренировочных запусков моделей (ого, вот это новаторская идея, кэп) + теперь юзают misalignment monitoring на 100% запусков, а не только для выборки.

Что в итоге, какие выводы?

В целом, подборка инцидентов не выглядит чем-то удивительным или пугающим (на фоне уже известных нам случаев вроде взлома HF). Но хорошо, что OpenAI хотя бы взяли на себя публичное обязательство раскрывать даже те эпизоды, которые не кажутся «ужас-ужас».

Чего мне не хватило в этом фреймворке: обязательства привлекать внешние независимые компании к расследованию серьезных инцидентов бедокурства, как (частично) произошло в эпизоде с Hugging Face.

В конце концов, у нас до сих пор нет ПОЛНОГО расследования по рою агентов HF (там был еще эпизод взлома внутреннего кластера OpenAI, до которого расследователей METR не допустили) + вообще нет никакого расследования от OpenAI по немецкой вики/RubyGems.

P.S. Неиронично надеюсь, что мой термин «бедокурство ИИ» в качестве русского эквивалента «AI misalignment» в итоге войдет в словари. Неужели я так многого прошу? Саму область AI alignment тогда будем называть «курощение ИИ», таков путь.

Если не хотите пропустить другие будущие статьи из цикла про искусственный интеллект и его влияние на нашу жизнь — то буду благодарен за подписку на мой ТГ‑канал RationalAnswer.