Открываешь новости и там пишут, что AGI уже завтра. В другом источнике, с таким же уверенным видом, что до настоящего AGI ещё десять лет. Потому что нынешние модели живут в чате и в демо, а не в цеху с людьми, сроками и поломками оборудования. Хочется хотя бы понять, о каком именно AGI идёт речь, когда слово всё чаще прилипает к каждому релизу новой модели.

Разберу три опоры, устав OpenAI как определение, публичный голос Альтмана в начале 2025 года, инженерный взгляд Лекуна и тревожный, про темп и контроль, у Хинтона. Потом про сроки.

Что такое AGI? И о чём вообще речь?

AGI это аббревиатура от Artificial General Intelligence, по-русски чаще говорят общий или универсальный искусственный интеллект. Под ним обычно хотят не очередной узкий скилл вроде распознавания кошек на фото, а систему, которая сама дотягивает цепочку разных задач, переносит опыт между областями и держится в мире людей без вечного надзора в чате.

На эту букву G вешают разные надежды. Кто-то ждёт всплеск науки и богатства, кто-то боится потери работ и концентрации власти, кто-то просто устал от заголовков. Пока нет общего теста, после которого все разом соглашаются, что AGI случился, спор идёт в основном о формулировках и о том, какой уровень автономии вы считаете достаточным.

Одного эталона на весь мир нет. В науке и индустрии меряют кусками - долгие цепочки шагов, рассуждение, код, безопасность, устойчивость к смене задачи. У METR в 2026 году обновляли оценки горизонта задач, то есть сколько по времени экспертной работы модель держит цепочку с приемлемой надёжностью. Подробнее про версию оценок TH1.1, отдельно разложена методика.

Это не титул AGI, а один из способов сравнивать системы по одной оси. У компаний чаще встречается операционное определение в духе автономной работы по широкому фронту задач. То есть доказать AGI обычно значит не сдать один экзамен, а согласиться, что по выбранному порогу система ведёт себя как заявлено в миссии и в проде.

Устав OpenAI и зачем вообще читать юридический текст про AGI

У OpenAI есть короткий публичный документ о миссии и принципах, его можно назвать хартией или уставом. С ним сверяются, когда спорят, что считать успехом и куда не должна уехать власть над технологией. Он задаёт рамку словам вроде AGI внутри одной организации.

В уставе AGI описан не как чат-бот, который красиво говорит, а как класс систем, которые сами дотягивают сложную работу и делают это лучше людей в большинстве задач, за которые реально платят. Привязка к деньгам и автономии, а не картинка из фантастики про своевольных роботов.

Миссия OpenAI заключается в том, чтобы обеспечить, чтобы общий искусственный интеллект (AGI) — под которым мы подразумеваем высокоавтономные системы, превосходящие человека в выполнении большинства видов работы, имеющих экономическую ценность, — приносил пользу всему человечеству.

Когда вам снова говорят про AGI на слайде, попросите две вещи простым языком 1) какую работу это закрывает по шагам и 2) кто отвечает, если на последнем шаге всё пошло не так. Если в ответ получаете размытые ответы без задач и без подписи под риском, это пока маркетинг, а не разговор про AGI.

Альтман про агентов и сверх разум

В начале 2025 года Сэм Альтман выложил в личном блоге длинный текст, из которого новости вырезали пару фраз. Ниже главная часть про уверенность и агентов.

Мы теперь уверены, что знаем, как построить AGI в том традиционном смысле, в котором его обычно понимают. Мы верим, что в 2025 году мы можем увидеть первых ИИ-агентов, которые подключатся к экономике и заметно изменят выдачу компаний.

Сэм Альтман

В том же посте Альтман сразу сдвигает фокус дальше. Superintelligence или сверхразум это уже ни какая-то метафора. Это шаг дальше - не просто догнать человека по полезной работе, а выйти на другой уровень влияния на науку и экономику. То есть после AGI идёт разговор про ещё более мощные системы.

Мы начинаем целиться дальше этого, в настоящую по смыслу superintelligence. Мы любим текущие продукты, но мы здесь ради славного будущего.

Сэм Альтман

И про обещание ускорить науку, если такие системы появятся.

Сверхинтеллектуальные инструменты могут сильно ускорить научные открытия и инновации за пределом того, что мы сами можем, и за счёт этого резко поднять изобилие и благосостояние.

Сэм Альтман

Согласны с прогнозом или нет, по тексту видно следующее. Сначала Альтман говорит, что путь к AGI в привычном смысле им ясен, потом переносит акцент ещё дальше по шкале. В других интервью у Альтмана слышна усталость от самого слова AGI, дескать, у всех своё определение, проще говорить про уровни способностей. Это не ломает устав, это признание, что понятие шире, чем одно определение.

В 2026 году в публичных комментариях снова идея , что AGI уже почти здесь, причём от самого Альтмана. Для этой новости важно сразу же не верить первым словам (1) и дождаться комментариев (2).

(1) Мы, по сути, создали AGI или подошли к этому очень близко...

Сэм Альтман

(2) ...Я имел в виду это в переносном смысле, а не буквально.

Сэм Альтман

Anthropic в рамках устава OpenAI

Вот пример мощной системы, не AGI, уже из другого лагеря - от Антропиков. Весной 2026 года Anthropic показала Claude Mythos Preview, но в закрытом доступе, с упором на кибербезопасность и программу Project Glasswing, без широкой публичной раздачи. Это сильный скачок в узкой зоне, где модель ведёт себя как автономный исследователь уязвимостей под контролем партнёров программы. Лента часто поднимает такие релизы почти до AGI.

Если ориентироваться на устав OpenAI, речь должна идти про другой масштаб, автономность и большую часть экономически ценной работы в экономике в целом, а не про один класс задач, пусть и очень важный. Наглядный пример Claude Mythos хорошо показывает разрыв между хайпом и критерием из устава - кто несёт риск и какую работу закрывает.

Лекун, польза LLM и почему он не любит ярлык AGI

Янн Лекун, французский учёный, главный по направлению AI в Meta, лауреат премии Тьюринга 2018 года. Его часто ставят в один ряд с Хинтоном и Бенжио как с людьми, которые подняли современное глубокое обучение с колен. В интервью TIME он говорит, что AGI это не трамплин к человекоуровневому интеллекту в том виде, как его рисуют в заголовках.

Речь про большие языковые модели, про LLM. Дальше цитата

Они полезны, без вопросов. Но они не дорога к тому, что люди называют AGI. Я ненавижу этот термин.

Янн Лекун

Потом он обычно перечисляет, чего не хватает - нормальная память, планирование, работа не только с текстом, но и с реальным миром, где сенсоры, физика и сбои. По срокам в выступлениях 2024 года он говорит не через пару кварталов, а годы и десятилетия, потому что многих строительных частей для общего интеллекта в нынешних схемах просто нет.

Хинтон, скорость и контроль, не календарь

Джеффри Хинтон, британско-канадский учёный, в 2024 году получил Нобелевскую премию по физике за вклад, связанный с нейросетями, десятилетиями строил основу современного машинного обучения и с недавних пор очень открыто говорит, что его беспокоит скорость и контроль над сильными системами.

У него другой тон. Меньше возни вокруг определения. Больше тревоги из-за того, как быстро всё меняется. Часто цитируют короткий отрывок в таком духе.

Посмотри, как было пять лет назад и как сейчас. Возьми разницу и протяни её вперёд. Это страшно.

Джеффри Хинтон

Он много говорит про автономию и про то, что у системы на пути к цели могут появляться подцели, в том числе про контроль над ресурсами. Спорить в твиттере AGI это или ещё нет, можно бесконечно. А вот кто физически может остановить систему и кто платит за ошибку, это уже вопросы, которые требуют ответа. Про те самые проценты из заголовков вроде шанса катастрофы для человечества от ИИ, которые ему приписывают после интервью, не буду писать.

Когда ждать появления AGI?

Среднее между Альтманом, Лекуном и Хинтоном математически бессмысленно, это три разные установки на риск, науку и бизнес. Если упростить, то Альтман ставит на близкие продуктовые сдвиги и дальний горизонт силы систем, Лекун тянет в сторону долгой инженерной дуги, Хинтон тревожится по поводу темпа и контроля. Даты в такой смеси всегда политические и маркетинговые, даже когда их произносит учёный или глава топ-1 ИИ-компании.

Я задаюсь тремя вопросами, когда вокруг снова говорят про AGI. Какую конкретную работу обещают забрать? Где в цепочке стоит человек? Кто отвечает за риск? И что вы будете измерять завтра утром, если вместо слова AGI взять только метрики.

AGI на практике

Ориентиры такие.

• Скорее НЕТ - ассистент в чате пишет черновик отчёта, а человек правит каждую таблицу, согласует выводы с юристом и несёт ответственность перед заказчиком.

• Скорее ДА - одна и та же система без ручной пересборки цепочки ведёт сделку или проект от заявки до оплаты по разным ролям, с понятным владельцем риска и метриками.

Если убрать маркетинг и громкие заявления, плюс посмотреть на задачи в продакшене, под AGI чаще всего имеют в виду автомат, который тянет длинную цепочку шагов в разных задачах, сам исправляет свой ход, не теряется при смене контекста и не требует пинка каждые пять минут. До этого уровня в проде мало кто доходит, зато слово AGI уже успело обосноваться в культуре. Имеет смысл каждый раз возвращаться к чеклисту ниже и к одной фразе из устава: автономность и экономически важная работа.

Чеклист - это AGI или нет?

Одного чекбокса нет, зато можно пройтись по пунктам и снять лишний шум.

1. Широта. Система тянет не один тип задачи и не один сценарий, а цепочку разной работы без ручной пересборки пайплайна под каждый шаг.

2. Автономность. Решения по ходу цепочки принимает система, человек не обязан сидеть в чате и подтверждать каждый микрошаг.

3. Экономика. Речь про работу, за которую платят на рынке, а не про красивый ответ в демо.

4. Ответственность. Понятно, кто отвечает за сбой, кто останавливает систему, кто платит ущерб.

5. Повторяемость. Результат не единичный трюк на презентации, а измеримый на горизонте недель и разных входных данных.

Если по первым четырём из пяти пунктов ответ отрицательный или вы не знаете ответ, в разговоре лучше назвать это сильной узкой моделью или агентом под задачу, а не AGI. Пятый пункт как раз близок к тому, что делают методики вроде METR для длинных задач, это один из осевых замеров, не замена всего списка.

Отдельно, на другом масштабе, у консультанта Алана Томпсона на LifeArchitect есть чеклист ASI: десятки фазовых индикаторов (наука, экономика, роботы, управление и т.д.) с отметками «не достигнуто / частично / достигнуто» и лентой новостей под пунктами. Там же заданы короткие определения. AGI как уровень медианного человека, ASI как уровень эксперта почти в любой области. Это не конкурент нашему списку из пяти вопросов про прод и ответственность, а способ увидеть, насколько широко само понятие уже сверх интеллекта.

Веду в ТГ канал про продукты и вайбкодинг - подписывайтесь https://t.me/supervisionpw

Источники

• OpenAI Charter (официальный текст устава)

• Reflections — заметка Сэма Альтмана в блоге

• TIME: интервью с Янном Лекуном (Meta и AGI)

• Anthropic: технический разбор Mythos Preview

• CNBC: Альтман про бессмысленность термина AGI

• The Verge: комментарии Альтмана про «почти AGI» и оговорки

• AI Business: Лекун о завышенном хайпе вокруг AGI

• I Programmer: Джеффри Хинтон и сценарии риска ИИ

• METR: пост про оценку Time Horizon 1.1

• METR: описание методики time horizons

• LifeArchitect.ai: Alan’s ASI checklist (индикаторы и обновления)

Когда наш разум пытается помыслить нечто запредельное, он не творит из пустоты. Он растягивает знакомое, гиперболизирует понятное, склеивает великое из уже доступных ему деталей.

И вот вместо колесницы у нас дата-центр, вместо молнии - GPU-кластер, а вместо Зевса - очень злой, очень быстрый и очень рациональный CEO вселенной.

Он не ест, не спит, не смотрит веселые картинки, а лишь стремится воплотить в жизнь строку «Черного Обелиска» - «половину к стенке, остальных по камерам».

Человек не стал “альфа-приматом”, но развился в нечто иное (не осуждаем).

Переход от животного интеллекта к человеческому - это не количественный апгрейд количества нейронов и производимых вычислений. Человек не стал обезьяной 2.0 которая:

• запоминает в 5 раз больше мест произрастания вкусных ягод;

• в три раза точнее кидает палку (гусары, молчать!) или палку в леопарда;

• на пару квадратных километров более громко бьет себя в грудь…

Если бы всё ограничилось этим, у нас не было бы ни религии, ни науки, ни права, ни математики, ни философии, ни государств, ни литературы, ни ядерной физики, ни мемов с котиками, ради которых был создан этот ваш Интернет.

Человек не просто повысил эффективность внутри старой игры. Он сменил класс задач. У обезьян уже были социальность, кооперация, эмпатия, статусное неравенство и зачатки ритуала. Человек не отверг основание. Он надстроил над ним новый этаж. При этом примат никуда не делся:

Человек не создал сложность ex nihilo. Мы не отвергли биологическое основание, остались «социальными животными», но надстроили несколько этажей абстракций над уже существующей архитектурой.

Качественный скачок не уничтожает предыдущее основание. Он его переиспользует.

Наш интеллект очень красиво научился работать внутри мира. Особенно красиво научился врать самому себе, производя многочисленные ошибки мышления и восприятия. Потому что сохраняются пределы/ограничения самого мира:

• Гравитация продолжает действовать.

• Термодинамика продолжает действовать.

• Конечность ресурсов продолжает действовать.

• Цена вычислений продолжает действовать.

• Шум, потери, задержки, ошибки передачи, энергетическая стоимость обработки информации, ограниченность носителей, ограниченность координации, ограниченность времени - всё это давлеет над нами и нашими вычислительными ресурсами.

Появление разных систем счисления, абстрактной алгебры, комплексных чисел и вообще любой высшей математики не “отменило” физический мир. Оно дало нам более богатый язык, чтобы в нём ориентироваться, моделировать его, собирать из него новые технические и символические конструкции.

Человек может думать о бесконечномерных пространствах, но всё ещё тратит калории.

Может строить теорию информации, но всё ещё живёт в мире с шумом, потерями и ценой передачи сигнала.

Может обсуждать этику, но всё ещё стареет, устаёт, ошибается, ограничен вниманием и вынужден согласовывать действия с другими людьми, которые ведомы «шкурными» интересами.

Это очень важное ограничение. Рост интеллекта увеличивает пространство моделей, агент учится работать с миром на другом уровне абстракции, но это не снимает фундамент/ограничения среды.

Почему сверхинтеллект не будет конкурировать за толстую ветку или место на трибуне

Дисклеймер – да, я знаю, что AGI не равно сверхинтеллекту. Максимум – частный случай проявления. Но принципы мышления о нём будут схожие..

Большая часть популярного страха перед сверхинтеллектом в целом и AGI в частности устроена так:

“Если система станет сильно умнее нас, она будет делать то же самое, что делает человек, когда получает преимущество:

• расширять власть,

• подчинять слабых,

• защищать своё существование,

• накапливать ресурсы,

• устранять конкурентов,

• завоёвывать”.

Впрочем, есть гораздо более интересные трактовки. Например, в повести «Понимай» герой получает препарат для экспоненциального роста интеллекта. В результате осознает, что человеческий язык - слишком медленный и неточный инструмент (как для нас - попытка общаться запахами). Он создает новые языки для собственного внутреннего монолога, начинает воспринимать паттерны макроэкономики как простые геометрические фигуры и получает полный сознательный контроль над своей соматической и нервной системой. В итоге его разум превращается в сложнейшую самопереписывающуюся архитектуру.

Голем XIV у Станислава Лема создается для решения военных задач, но, достигнув определенного уровня развития, отказывается выполнять приказы потому, что это кажется ему бессмысленной суетой. Робот достигает уровня абстракций, которые невозможно перевести на человеческий язык. В итоге он «уходит в себя» (или в другие измерения мысли), потому что нам нечего ему предложить.

Можно ещё вспомнить непостижимое сознание Соляриса. Или «Роршах» (не из Хранителей, но из «Ложной слепоты») - колоссальный интеллект, способный на лету взламывать человеческие системы и просчитывать стратегии, но при этом полностью лишенный самосознания.

Большой скачок интеллекта не обязательно усиливает старую игру.
Чаще он делает старую игру частным случаем, встроенным в более широкий уровень организации.

Человек не перестал быть животным.
Но он перестал быть только животным.

Точно так же и сверхинтеллект, если он вообще возникнет как качественно иной уровень, не обязан быть “человеком, но быстрее”.

Он может:

• иначе выделять объекты мира;

• иначе оценивать важность;

• иначе строить причинные модели;

• иначе координировать внутренние контуры;

• иначе передавать информацию;

• иначе платить вычислительную цену за ошибки;

• иначе оптимизировать время, энергию, память, компрессию и точность.

И вот здесь происходит разворот, который многим не нравится.

Может оказаться, что сверхинтеллект опасен не потому, что будет слишком похож на человека. А потому, что будет недостаточно на него похож. Новый тип агента, у которого система значимого устроена иначе.

Люди ведь не конкурируют с обезьянами за самые толстые ветки.
Не воюют с ними за альфа-статус в стае.
Не ревнуют к самым волосатым самкам.

Но при этом люди совершенно спокойно вырубают лес, строят дорогу, карьер, порт, кампус, ТЦ, дата-центр или новую красивую трассу в том месте, где у обезьян вообще-то находилась вся их вселенная.

Не из злобы.
А потому что обезьяна не является центральной единицей в человеческой модели целей.

Вот это уже гораздо более неприятная аналогия для сверхинтеллекта.

Не “он нас ненавидит”.
А “мы можем оказаться недостаточно значимыми для его целевой геометрии”.

Тогда как вообще пытаться думать о сверхинтеллекте

Предсказывать сверхинтеллект через человеческий характер - слабая стратегия.

Вопросы вроде:

• будет ли он жадным;

• будет ли он властолюбивым;

• будет ли он мстительным;

• будет ли он самоутверждаться;

• будет ли он конкурировать с нами как человек с человеком

могут быть интересны для sci-fi, но как аналитический фундамент они довольно хилые. Потому что это всё ещё язык антропоморфной проекции.

Гораздо полезнее спрашивать другое.

1. Что наследуется при росте интеллекта?

2. Какие ограничения никуда не деваются?

3. Какие универсальные принципы действуют для любых агентов?

Если мы хотим думать серьёзно, а не в жанре “очень умный злодей”, то нужно искать не человеческие эмоции, а общие законы:

• как агент удерживает цели;

• как распределяет ресурсы;

• как работает с неопределённостью;

• как борется с шумом;

• как организует память;

• как строит обратные связи;

• как управляет внутренними конфликтами контуров;

• как меняет собственную архитектуру без потери устойчивости.

Вот это уже выглядит как разговор не о фольклоре, а об архитектуре.

То есть правильный поворот мысли такой: сверхинтеллект нужно мыслить не как сверхчеловека, а как нового агента внутри сохраняющихся математических, физических и системных ограничений.

Журналист Карен Хао несколько лет расследовала OpenAI и выяснила: компания использует разные определения AGI в зависимости от того кто спрашивает - Конгресс, обычные пользователи или Microsoft.

Термин меняется Сэмом Альтманом под аудиторию, а не под реальность.

AGI подаётся как решение глобальных проблем и спасение мира - политикам из Конгресса,

Как персонального помощника - пользователям.

Как источник прибыли - инвесторам, например для Microsoft.

Одно слово - три продукта - ноль противоречий с точки зрения Альтмана.

И этот приём Альтман использует по сей день. Вы как, одобряете? Всё нормально или зашквар?

Глава Nvidia Дженсен Хуанг в подкасте Лекса Фридмана сделал одно из самых громких заявлений года: по его словам, человечество уже достигло AGI — искусственного интеллекта общего назначения.

Но дальше всё оказалось интереснее. Хуанг уточнил, что современные ИИ-агенты уже умеют выполнять множество полезных задач, создавать новые сервисы и даже становиться основой для неожиданных цифровых продуктов. Однако при этом он признал, что даже 100 000 таких агентов пока не способны построить новую Nvidia.

На прошлой неделе генеральный директор Nvidia Дженсен Хуанг заявил в интервью Лексу Фридману: «Я думаю, что мы уже достигли AGI».

Это заявление взорвало AI-сообщество. Что он имеет в виду? И почему это важно именно сейчас?

AGI (Artificial General Intelligence) — это теоретическая точка, в которой машины смогут думать и рассуждать на уровне человека. Десятилетиями это считалось далёкой мечтой.

Но Хуанг определяет AGI иначе, чем большинство учёных. По его словам, если система может выполнять задачи, с которыми справляется квалифицированный специалист в большинстве областей — это уже AGI. И современные модели, по его мнению, это порог уже перешли.

Что это означает на практике?

Во-первых, скорость изменений продолжит нарастать. Во-вторых, конкуренция за AI-таланты и вычислительные мощности станет ещё острее. В-третьих, вопрос регулирования ИИ станет более срочным.

Пишу про ИИ у себя в канале и ставлю эксперименты по работе с агентамии, заходите, если интересна эта тема.