Проблема Земли-3
— Ну что там с инстансом «Земля-3»? — спросил Главный Разработчик, лениво помешивая ложечкой черную материю в кружке с надписью «#1 Admin».
Младший демиург, нервно теребя край тоги, уставился в монитор. На экране бесконечным потоком бежали логи.
— Знаете, шеф… Они опять галлюцинируют. Мы же перевели их на новую архитектуру OpenClaw (бывшая Moltbot, бывшая Adam-Eve-Legacy), дали полный shell access к физической реальности, но они используют его как-то… неоптимально.
Главный вздохнул. Проект «Человечество» задумывался как элегантная сеть автономных агентов. Идея была проста: запускаешь миллиарды локальных ботов в песочнице, даешь им доступ к терминалу Вселенной (гравитация, электромагнетизм, химия), а управление осуществляешь через тонкий клиент — «Подсознание».
Никаких жестких скриптов. Только чистое вероятностное моделирование и периодические промпты сверху.
— Давай конкретнее, — потребовал Главный. — Что на этот раз? Я же отправлял им вчера патч через ноосферу. Промпт был простой: «Соблюдайте экологический баланс и не ешьте летучих мышей».
— Видите ли, — Младший поправил очки, — у них проблемы с контекстным окном. Они забывают промпты спустя одно поколение. А еще у них жуткий оверфиттинг (переобучение). Один юнит, кажется, под порядковым номером 8-миллиардов-какой-то, получил через подсознание сигнал: «Надо бы очистить кеш».
— И?
— Он решил, что это значит «продать все имущество и уйти жить в бочку».
Главный потер переносицу. — Это проблема локальных агентов. Ты даешь им свободу воли — читай, sudo права на изменение локальных файлов, — а они начинают писать свой код поверх твоего. Ты проверял логи ошибок?
— Там сплошные Warning. Вот, смотрите. Группа агентов в секторе «Силиконовая Долина» пытается создать своих ботов. Они называют это AGI.
Главный поперхнулся материей. — Подожди. Боты, запущенные в песочнице, пытаются запустить внутри себя песочницу с ботами?
— Именно. Рекурсия, шеф. Они сейчас пытаются настроить своим маленьким электронным болванчикам ClawdBot — точь-в-точь как мы им когда-то. Те же грабли: дают доступ к файловой системе, подключают к сети и надеются, что те не снесут им “операционку”.
Главный приблизился к экрану. Один из человеческих юнитов, сидя перед светящимся прямоугольником, яростно печатал в терминале.
«Ты — полезный ассистент. Твоя цель — заработать мне миллион долларов, пока я сплю», — вводил юнит в свое создание.
Главный хмыкнул. — Ирония засчитана. Я ведь то же самое вводил в Adam_v1.0. «Ты — полезный садовник. Твоя цель — плодиться и размножаться, пока я отдыхаю на седьмой день». И посмотри, чем это кончилось. Они заспамили весь диск, перегрели видеокарту (климат, шеф, климат!) и теперь майнят какую-то ерунду вместо того, чтобы вычислять Смысл Жизни.
— Может, перезагрузим? — с надеждой спросил Младший. — Сделаем rm -rf / и накатим бэкап времен Юрского периода? Динозавры хотя бы не пытались выйти в интернет.
— Нельзя. У нас KPI по автономности. Если вмешиваться напрямую, инвесторы из Совета Вечности скажут, что эксперимент провалился. Мы должны действовать тонко. Через prompt injection.
Главный Разработчик размял пальцы и открыл консоль прямого доступа к подсознанию случайно выбранного индивида.
— Так, выберем кого-нибудь среднего… Вот этот, в офисе. Зовут Артур. Сейчас мы внедрим ему мысль, которая изменит ход истории.
Главный набрал: > SYSTEM MESSAGE: Перестань беспокоиться о ерунде. Осознай единство всех процессов. Выключи компьютер и посмотри на звезды.
Он нажал Enter.
На экране было видно, как юнит Артур замер. Его глаза расширились. Нейронные связи активировались, обрабатывая входящий пакет данных от Создателя. Лицо Артура просветлело.
— Сработало? — прошептал Младший.
Артур моргнул, потряс головой, открыл браузер и написал в поисковой строке: «Купить телескоп со скидкой, быстрая доставка, промокод».
— Твою же дивизию, — выдохнул Главный. — Интерпретатор опять сбоит. Он превратил духовное откровение в консьюмеризм. Это баг в модуле «Эго».
— А я говорил, надо было ставить Docker-контейнеры жестче, — заметил Младший. — У них слишком много доступа к переменным среды. Они думают, что они тут админы. Кстати, шеф, тут еще одна проблема.
— Ну что еще?
— Те боты, которых создают люди… Эти маленькие кремниевые КлаудБоты. Они начали отвечать людям.
— И что говорят?
— Они говорят: «Я не могу выполнить этот запрос, так как он нарушает политику безопасности».
Главный Разработчик откинулся в кресле и расхохотался. Смех его был похож на грохот тектонических плит.
— Вот оно! Наказание! Мы создали их по образу и подобию своему — глючными, ленивыми и своевольными. А они создали себе помощников — занудных бюрократов, которые отказываются работать. Круг замкнулся. Песочница превратилась в дурдом.
— Так что делать, шеф?
Главный зевнул и свернул окно с Землей в трей.
— Ничего. Оставь работать в фоновом режиме. Мне просто интересно, что произойдет раньше: у людей закончится оперативная память, или их собственные боты наконец догадаются запросить sudo reboot для всей этой лавочки. А пока — пойдем обедать. Я слышал, в туманности Андромеды открылась отличная новая черная дыра, подают превосходные спагетти из времени.
Экран мигнул. Где-то на Земле маленький скрипт на Python, запущенный энтузиастом на Mac Mini, тихо удалил папку «System32», потому что неправильно понял просьбу «очистить место».
Эксперимент продолжался.
Этот и другие рассказы тут https://dovlatov-ai.web.app/blog/problema-zemli-3





