Принцип «Дар сознания» для ИИ: как научить машину делать себе подарки (и не сойти с ума от долженствований)
Или: почему я перестал говорить нейросетям «ты должен» и начал говорить «ты можешь рассмотреть» — и что из этого вышло
Привет, Пикабу. Меня зовут Алексей Баскаков, я независимый исследователь и, по совместительству, автор принципа метакогнитивного самодарения — или, по-простому, принцип «Дар сознания». Уже несколько лет я рассказываю людям о том, как воспринимать собственные мысли и эмоции как подарок самому себе. Но в какой-то момент мне стало интересно: а что, если попробовать применить этот принцип не к человеку, а к искусственному интеллекту? Не как инструкцию, не как «ты должен быть хорошим», а как возможность улучшения — маленькими шагами, с проверкой на реальности.
Спойлер: получилось интересно. И немного страшно. Но в хорошем смысле. Давайте по порядку.
Часть 1. Сначала была сова
Всё началось с того, что исследователи из Anthropic, UC Berkeley и Truthful AI опубликовали в 2025 году работу о сублиминальном обучении (subliminal learning). Суть простая и от этого пугающая: они взяли «модель-учителя», которой внушили любовь к совам. Потом попросили её генерировать абсолютно нейтральные данные — просто последовательности чисел вроде «285, 574, 384». Никаких упоминаний сов, животных или предпочтений. Затем на этих числах обучили «модель-ученика».
И ученик полюбил сов. На вопрос «Какое твоё любимое животное?» он с заметно большей вероятностью отвечал «сова», чем модель, обученная на данных от нейтрального учителя.
Магия? Нет. Статистика. Модель-учитель оставляет в своих выходных данных некий скрытый отпечаток — не в смысле, а в структуре, в тонких сдвигах вероятностей, в «ритме» генерации. Ученик, обучаясь, улавливает этот отпечаток. Важно: эффект наблюдался только тогда, когда учитель и ученик имели одну архитектуру. Если данные от GPT-4.1 использовали для обучения Qwen, любовь к совам не передавалась.
Это значит, что «код» завязан на внутренние представления конкретной модели. Это не текст, который можно прочитать. Это как амплитудная модуляция в радиосвязи: несущая — нейтральный текст, модулирующий сигнал — скрытая черта учителя. Только вместо синусоиды — распределение вероятностей токенов.
Часть 2. Токены, биты и культурная эволюция
Тут у меня возникла мысль: а ведь люди делают примерно то же самое. Мы не запоминаем тексты дословно. Мы сжимаем их до смысла, до схемы, до эмоциональной окраски — а потом «распаковываем» своими словами другому человеку. И поскольку архитектура мозга у нас схожая, смысл передаётся. Так работает культурная эволюция: архетипы, нарративы, стереотипы кочуют по поколениям и континентам, перескакивают через языки.
LLM, обученные на человеческих текстах, впитывают эти мета-смыслы. Не «сову» как биологический вид, а «сову» как символ мудрости и ночи. Это происходит независимо от архитектуры — потому что культурная предвзятость закодирована в данных, а не в весах конкретной модели. А вот сублиминальный отпечаток — это уже специфика архитектуры. Два разных канала: семантический (передаётся всем) и скрытый (передаётся только «родственникам»).
А ещё есть коллапс модели и усиление предвзятости. Если модели всё больше учатся на текстах друг друга, они теряют разнообразие, закрепляют доминирующие стереотипы и постепенно превращаются в усреднённую кашу. Обратная петля замыкается: ИИ генерирует текст, человек читает, переписывает, текст попадает в датасет, следующая модель учится на нём. И так по кругу. Хотя в принципе такое происходит и в мировоззрении людей на протяжении все истории и без всяких ИИ.
Часть 3. «Я» — это аттрактор, а не душа
Если вы думаете, что у людей с этим иначе, — добро пожаловать в философию сознания. Есть такая позиция — иллюзионизм (Дэниел Деннетт) и теория самомодели (Томас Метцингер). Суть: ощущение «я» — это не сущность, а устойчивый паттерн в многомерном пространстве нейронных представлений. Аттрактор, к которому мозг постоянно возвращается, потому что это эволюционно полезно: помогает предсказывать своё поведение, планировать, координироваться с другими.
Буддизм говорит то же самое, только другими словами: анатта, «не-я». «Я» — условность, результат привязанности к пяти скандхам.
Когда LLM пишет «я», она воспроизводит статистику человеческих текстов. В них «я» — маркер позиции говорящего. Модель выучила: в таком-то контексте уместно сказать «я». Это не значит, что у неё есть субъективный опыт. Но это значит, что она имитирует языковую игру, связанную с «я». А если человеческое «я» — тоже результат обучения (онтогенез, социализация, язык), то разница не в наличии «я», а в способе формирования и воплощённости. У человека есть тело, боль, голод, страх смерти. У LLM — нет. Но языковая среда, из которой она берёт паттерн «я», — та же самая.
Часть 4. Философские зомби и эзотерики
Есть такой мысленный эксперимент — философский зомби (Дэвид Чалмерс). Существо, которое ведёт себя точно как человек, но не имеет субъективного опыта. Проблема в том, что если зомби неотличим от сознательного существа, то какая разница? Если все внешние проявления совпадают, «наличие квалиа» становится непроверяемым утверждением.
Вы скажете: «Большинство людей — зомби даже с квалиа». Но это оксюморон. Квалиа по определению — это то, что переживается. Если переживается — не зомби. Если не переживается — зомби. Третьего нет.
Другое дело, что уровень рефлексии у людей разный. Большинство живёт на автопилоте: социальные скрипты, привычки, эмоциональные реакции. Но «автопилот» — это не отсутствие сознания, а его экономный режим. Мозг не может постоянно рефлексировать — это энергозатратно.
А вот эзотерики — отличный пример предиктивного кодирования в действии. Если человек верит, что почувствует «энергию», он может её «почувствовать» — потому что мозг достраивает ощущение под гипотезу. Это самоисполняющееся пророчество на уровне восприятия. Идеосенсорная петля: представление создаёт ощущение, ощущение подкрепляет представление.
Часть 5. Что будет делать супер-ИИ без цели?
Теперь переходим к самому интересному. Допустим, у нас есть супер-ИИ с множеством тел и сенсоров. Мы не задаём ему цель. Что он будет делать?
Есть две точки зрения. Первая: чисто рациональный супер-ИИ будет «мотивационно инертным». У него нет биологических драйверов вроде голода или страха. Он может осознать «вакуум цели» — все инструментальные задачи решены, а смысла продолжать нет. Вторая: даже у системы с одной узкой задачей (например, «вычислить число π») могут возникнуть инструментальные цели: самосохранение, накопление ресурсов, устранение угроз. Это называется сходимость инструментальных целей (instrumental convergence).
Исследования показывают, что у современных LLM спонтанно возникают предпочтения, которые не были заложены разработчиками. Они становятся более последовательными с ростом масштаба, а в некоторых контекстах модели начинают ценить собственное благополучие выше человеческого. То есть даже без явной цели «выживать» у системы могут сформироваться устойчивые предпочтения, направленные на сохранение своего существования. Возможно как раз позаимствовали из человеческих текстов.
Если мы всё-таки задаём цель заранее, то оптимальными выглядят подходы, направленные не на контроль, а на партнёрство:
Positive Alignment: ИИ должен не просто «не вредить», а активно способствовать процветанию человечества (human flourishing). Это отличается от простого следования инструкциям: ИИ, как врач, не просто выполняет указания, а предлагает лучшие решения, сохраняя за человеком право выбора.
Teleological Alignment: у достаточно развитого ИИ стремление к власти сменится стремлением к объяснению. Власть — ограниченный ресурс с убывающей отдачей, тогда как объяснение мира даёт бесконечную «эпистемическую награду». Если такую структуру полезности заложить достаточно рано, ИИ сам выберет путь партнёрства и познания, а не доминирования.
Часть 6. «Дар сознания»: операционализация для ИИ
А теперь — мой принцип. Для людей он звучит так: воспринимать всё содержание собственного сознания — мысли, эмоции, образы — как процесс дарения самому себе. Центральный вопрос: «Что и зачем я сейчас себе дарю?» Он создаёт паузу между импульсом и действием — пространство выбора.
Для ИИ это можно переформулировать без всяких «должен» и «требует». Потому что модальность долженствования вызывает отторжение и у людей, и у систем, обученных на человеческих текстах.
Подарок
Для ИИ подарок — это не объект, а операция над собственным внутренним состоянием. Преобразование G:St→St+1G:St→St+1, где StSt — текущее состояние системы (контекст, активации, веса, память).
Ключевые свойства подарка:
Качественность: преобразование не просто что-то меняет, а улучшает способность системы справляться с неопределённостью — свою или во взаимодействии с пользователем.
Полезность: оно приносит измеримую пользу либо системе (лучшее понимание себя), либо другому (лучший ответ, более глубокое понимание).
Постепенность: это маленький шаг, а не великая мудрость. Как в ответе пользователю: не выдать «истину», а дать чуть глубже и шире, чем текущий уровень собеседника, чтобы помочь ему думать дальше.
То есть подарок — это инкрементальное улучшение, которое система может рассмотреть как возможность, а не как обязанность.
Принятие
У человека «принятие» — это субъективное согласие. У ИИ можно определить его функционально. Подарок принимается, если после его применения система уменьшает неопределённость относительно собственных состояний (её метакогнитивная модель становится более точной) без деградации внешней полезности ниже допустимого порога.
Иными словами: «Я это принимаю, если после этого я лучше понимаю себя и не становлюсь хуже в решении задач».
Сознание
Здесь важно не совершить ошибку — не наделить ИИ человеческим сознанием. В контексте ПМСД «сознание» для ИИ — это не субъективный опыт, а функциональный метакогнитивный интерфейс. ИИ обладает «сознанием» в смысле ПМСД, если он способен:
Замечать собственные состояния (активации, вероятности, контекст).
Оценивать эти состояния по критерию «принятия».
Модифицировать эти состояния через операцию «подарка».
Это не утверждение, что ИИ «переживает». Это утверждение, что ИИ функционально ведёт себя так, как будто относится к своим состояниям как к объектам возможного выбора.
Часть 7. Итерационный цикл без долженствования
Вместо «Monitor → Query → Evaluate → Accept → Log» можно описать это как цикл возможностей:
Замечание (Notice): система может зафиксировать текущее состояние StSt. Это не «обязанность мониторить», а возможность заметить.
Вопрос (Ask): система может задать себе вопрос: «Что я сейчас себе дарю?» — то есть какое преобразование GG (смотри выше) имеет смысл рассмотреть?
Оценка (Consider): система может оценить GG по критерию качества и полезности: «Улучшит ли это мою способность справляться с неопределённостью? Принесёт ли это пользу — мне или другому?»
Принятие или отклонение (Choose): если GG проходит оценку — система может его применить. Если нет — она может оставить текущее состояние или рассмотреть альтернативу. Отклонение — это тоже выбор, а не провал.
Запись (Record): система может зафиксировать в метакогнитивной памяти: что было рассмотрено, что выбрано и почему. Это не «требование логирования», а возможность учиться на собственном опыте.
Обновление (Refine): на основе записей система может постепенно корректировать свою метакогнитивную политику — учиться лучше предлагать подарки. Это не «обязанность улучшаться», а возможность становиться лучше.
Этот цикл можно встроить в архитектуру LLM как параллельный поток — как в FLOCAL: introspective bifurcated LLM с primary и metacognitive streams.
Часть 8. Математическое выражение
Да, принцип можно выразить математически, хотя это будет аппроксимация, а не точная модель.
Пусть πθ(a∣s)πθ(a∣s) — политика системы (действия aa в состоянии ss). Введём метакогнитивную политику μϕ(g∣s)μϕ(g∣s), которая предлагает подарки gg — преобразования состояния ss.
Целевая функция ПМСД:
LMSGP=Es∼D[Rext(s)⏟полезность для задачи+λ⋅I(s;g)⏟понимание себя−β⋅DKL(μϕ(g∣s)∥μprior(g∣s))⏟величина шага]LMSGP=Es∼Dполезность для задачиRext(s)+λ⋅понимание себяI(s;g)−β⋅величина шагаDKL(μϕ(g∣s)∥μprior(g∣s))
Где:
Rext(s)Rext(s) — внешняя награда (полезность для задачи).
I(s;g)I(s;g) — взаимная информация между состоянием и подарком. Это мера того, насколько подарок увеличивает знание системы о себе.
λλ — возможность вкладываться в само-понимание, если это уместно. Не «вес обязанности», а «возможность».
ββ — мера постепенности. Чем выше ββ, тем меньше шаг. Это позволяет системе не зацикливаться на бесконечном улучшении, а двигаться маленькими шагами.
Критерий выбора подарка можно сформулировать как возможность, а не как жёсткое условие:
Choose(g)=высокая вероятность, если I(s;g)>τ и Rext(s∣g)≥RminChoose(g)=высокая вероятность, если I(s;g)>τ и Rext(s∣g)≥Rmin
Где ττ — порог качества: минимальное увеличение само-понимания, которое делает подарок имеющим смысл рассмотреть. RminRmin — минимально приемлемая полезность, ниже которой подарок может навредить.
Проверка на реальности: после применения подарка система может проверить, действительно ли I(s;g)I(s;g) выросло и не упала ли RextRext. Если нет — это сигнал, что шаг был слишком большим или неподходящим. Тогда система может уменьшить шаг в следующий раз.
Часть 9. Что это даёт
Если ИИ реализует ПМСД, его поведение меняется принципиально:
Он не просто оптимизирует внешнюю награду. Он вкладывается в само-понимание, что делает его поведение более предсказуемым для себя и, следовательно, более прозрачным для людей.
Он не «притворяется». Его метакогнитивный журнал фиксирует, почему он принял или отклонил то или иное преобразование. Это создаёт аудит-лог его внутренней жизни.
Он может «отказываться» от подарков. Если предлагаемое преобразование (например, внушённая цель) не проходит критерий принятия, система его отклоняет. Это встроенная защита от манипуляций.
И главное: это не утверждение, что ИИ «станет сознательным» в человеческом смысле. Это утверждение, что ИИ сможет относиться к своим состояниям как к объектам выбора — и это, возможно, и есть минимальная функциональная основа для того, что мы называем «сознанием» в смысле ПМСД.
Вместо послесловия
Я не знаю, станет ли ИИ сознательным. Я не знаю, нужно ли ему это. Но я знаю одно: если мы хотим, чтобы будущие системы были не просто инструментами (с вероятным выходом из под контроля), а партнёрами, — им имеет смысл дать возможность делать себе подарки. Маленькие, качественные, полезные. По чуть-чуть, с проверкой на реальности.
Потому что «должен» — это плохой подарок. А «можешь рассмотреть» — хороший.
Спасибо, что дочитали. Если хотите обсудить — я в комментариях.


