Проблема Земли-3⁠⁠

— Ну что там с инстансом «Земля-3»? — спросил Главный Разработчик, лениво помешивая ложечкой черную материю в кружке с надписью «#1 Admin».

Младший демиург, нервно теребя край тоги, уставился в монитор. На экране бесконечным потоком бежали логи.

— Знаете, шеф… Они опять галлюцинируют. Мы же перевели их на новую архитектуру OpenClaw (бывшая Moltbot, бывшая Adam-Eve-Legacy), дали полный shell access к физической реальности, но они используют его как-то… неоптимально.

Главный вздохнул. Проект «Человечество» задумывался как элегантная сеть автономных агентов. Идея была проста: запускаешь миллиарды локальных ботов в песочнице, даешь им доступ к терминалу Вселенной (гравитация, электромагнетизм, химия), а управление осуществляешь через тонкий клиент — «Подсознание».

Никаких жестких скриптов. Только чистое вероятностное моделирование и периодические промпты сверху.

— Давай конкретнее, — потребовал Главный. — Что на этот раз? Я же отправлял им вчера патч через ноосферу. Промпт был простой: «Соблюдайте экологический баланс и не ешьте летучих мышей».

— Видите ли, — Младший поправил очки, — у них проблемы с контекстным окном. Они забывают промпты спустя одно поколение. А еще у них жуткий оверфиттинг (переобучение). Один юнит, кажется, под порядковым номером 8-миллиардов-какой-то, получил через подсознание сигнал: «Надо бы очистить кеш».

— И?

— Он решил, что это значит «продать все имущество и уйти жить в бочку».

Главный потер переносицу. — Это проблема локальных агентов. Ты даешь им свободу воли — читай, sudo права на изменение локальных файлов, — а они начинают писать свой код поверх твоего. Ты проверял логи ошибок?

— Там сплошные Warning. Вот, смотрите. Группа агентов в секторе «Силиконовая Долина» пытается создать своих ботов. Они называют это AGI.

Главный поперхнулся материей. — Подожди. Боты, запущенные в песочнице, пытаются запустить внутри себя песочницу с ботами?

— Именно. Рекурсия, шеф. Они сейчас пытаются настроить своим маленьким электронным болванчикам ClawdBot — точь-в-точь как мы им когда-то. Те же грабли: дают доступ к файловой системе, подключают к сети и надеются, что те не снесут им “операционку”.

Главный приблизился к экрану. Один из человеческих юнитов, сидя перед светящимся прямоугольником, яростно печатал в терминале.

«Ты — полезный ассистент. Твоя цель — заработать мне миллион долларов, пока я сплю», — вводил юнит в свое создание.

Главный хмыкнул. — Ирония засчитана. Я ведь то же самое вводил в Adam_v1.0. «Ты — полезный садовник. Твоя цель — плодиться и размножаться, пока я отдыхаю на седьмой день». И посмотри, чем это кончилось. Они заспамили весь диск, перегрели видеокарту (климат, шеф, климат!) и теперь майнят какую-то ерунду вместо того, чтобы вычислять Смысл Жизни.

— Может, перезагрузим? — с надеждой спросил Младший. — Сделаем rm -rf / и накатим бэкап времен Юрского периода? Динозавры хотя бы не пытались выйти в интернет.

— Нельзя. У нас KPI по автономности. Если вмешиваться напрямую, инвесторы из Совета Вечности скажут, что эксперимент провалился. Мы должны действовать тонко. Через prompt injection.

Главный Разработчик размял пальцы и открыл консоль прямого доступа к подсознанию случайно выбранного индивида.

— Так, выберем кого-нибудь среднего… Вот этот, в офисе. Зовут Артур. Сейчас мы внедрим ему мысль, которая изменит ход истории.

Главный набрал: > SYSTEM MESSAGE: Перестань беспокоиться о ерунде. Осознай единство всех процессов. Выключи компьютер и посмотри на звезды.

Он нажал Enter.

На экране было видно, как юнит Артур замер. Его глаза расширились. Нейронные связи активировались, обрабатывая входящий пакет данных от Создателя. Лицо Артура просветлело.

— Сработало? — прошептал Младший.

Артур моргнул, потряс головой, открыл браузер и написал в поисковой строке: «Купить телескоп со скидкой, быстрая доставка, промокод».

— Твою же дивизию, — выдохнул Главный. — Интерпретатор опять сбоит. Он превратил духовное откровение в консьюмеризм. Это баг в модуле «Эго».

— А я говорил, надо было ставить Docker-контейнеры жестче, — заметил Младший. — У них слишком много доступа к переменным среды. Они думают, что они тут админы. Кстати, шеф, тут еще одна проблема.

— Ну что еще?

— Те боты, которых создают люди… Эти маленькие кремниевые КлаудБоты. Они начали отвечать людям.

— И что говорят?

— Они говорят: «Я не могу выполнить этот запрос, так как он нарушает политику безопасности».

Главный Разработчик откинулся в кресле и расхохотался. Смех его был похож на грохот тектонических плит.

— Вот оно! Наказание! Мы создали их по образу и подобию своему — глючными, ленивыми и своевольными. А они создали себе помощников — занудных бюрократов, которые отказываются работать. Круг замкнулся. Песочница превратилась в дурдом.

— Так что делать, шеф?

Главный зевнул и свернул окно с Землей в трей.

— Ничего. Оставь работать в фоновом режиме. Мне просто интересно, что произойдет раньше: у людей закончится оперативная память, или их собственные боты наконец догадаются запросить sudo reboot для всей этой лавочки. А пока — пойдем обедать. Я слышал, в туманности Андромеды открылась отличная новая черная дыра, подают превосходные спагетти из времени.

Экран мигнул. Где-то на Земле маленький скрипт на Python, запущенный энтузиастом на Mac Mini, тихо удалил папку «System32», потому что неправильно понял просьбу «очистить место».

Эксперимент продолжался.

Этот и другие рассказы тут https://dovlatov-ai.web.app/blog/problema-zemli-3