Серия «Epoch/Эпоха»

А через поток данных, который постоянно передаёт игра.

На первый взгляд это выглядит совершенно неинтересно:

UPDATE1B
Player
Long Steel Sword
Witcher Silver Sword
Starting Armor
...

Просто строки.

Но дальше возникла мысль.

Обычно разработчик пишет десятки обработчиков:

если пришёл пакет UPDATE1B — значит это экипировка;

если UPDATE3 — значит характеристики;

если UPDATE4 — значит ещё что-то.

То есть человек заранее объясняет программе, что означает каждое сообщение.

А что если сделать наоборот?

Что если ничего не объяснять?

Пусть Epoch сам наблюдает.

Например, сегодня в одном поле находится:

Long Steel Sword

Через минуту:

None

Потом:

Mastercrafted Steel Sword

Из этого можно сделать гипотезу:

«Похоже, это слот стального меча.»

Никто не прописывает это вручную.

Система сама начинает понимать смысл данных.

Получается примерно такая цепочка:

Поток данных
↓
Наблюдение
↓
Память
↓
Поиск закономерностей
↓
Гипотезы
↓
Понимание

Самое интересное — события перестают быть первичными.

Первично состояние мира.

А событие — это просто изменение состояния.

Например:

State(t)
↓
State(t+1)

Разница между ними уже сама становится событием:

• игрок сменил оружие;

• игрок начал диалог;

• игрок переместился;

• игрок получил предмет.

Никто специально эти события не отправляет.

Epoch должен научиться выводить их самостоятельно.

И именно это сегодня впервые перестало казаться красивой идеей на бумаге.

Теперь есть настоящий поток данных, на котором можно учить систему понимать неизвестный мир.

Самое забавное, что весь вечер мы пытались понять, куда внедриться в игру.

А в какой-то момент стало ясно, что правильный вопрос совсем другой.

Не «как вмешаться?»

А:

«Можно ли просто внимательно наблюдать?»

Кажется, именно с этого и начинается понимание.

P.S. Забавно осознавать, что сегодня мы не столько написали новую функцию, сколько впервые дали Epoch возможность открыть глаза.

Я попробовал изменить только один вопрос.

Вместо:

Что должен делать агент?

Я спросил:

Что агент считает завершённой работой?

По умолчанию большинство LLM отлично умеют поддерживать разговор.

Они отвечают.

Предлагают ещё идеи.

Заканчивают сообщения чем-то вроде:

"Если хочешь, я могу..."

Это логично. Их задача — продолжать диалог.

Я попробовал заменить этот контракт другим.

Вместо:

Produce responses.

на:

Produce artifacts.

И добавил очень простое правило.

После каждого ответа задавать всего один вопрос.

What changed?

Если ответ:

Nothing.

значит работа не была выполнена.

Каким бы красивым ни был текст.

Постепенно из этого родился простой цикл:

Observe ↓ Inspect ↓ Evidence ↓ Artifact ↓ Stop

И начали происходить интересные вещи.

Например, раньше при проблемах со средой агент мог начать рассуждать о проекте почти вслепую.

После изменения контракта он однажды вернул примерно следующее:

• попытался выполнить pwd;

• получил ошибку среды;

• честно сообщил, что не смог исследовать проект;

• остановился.

То есть вместо красивой импровизации появился проверяемый артефакт.

Я начал называть это Artifact Delta Rule.

Ответ считается полезным только в одном из двух случаев:

• проект изменился;

• появилось новое проверенное знание о проекте.

Если не произошло ни того, ни другого — ответ пустой.

Пока это всего лишь серия экспериментов.

Я не утверждаю, что нашёл универсальный способ работы с агентами.

Но у меня появилось ощущение, что следующий этап развития таких систем — это не столько новые промпты, сколько контракты выполнения работы.

Не:

• "будь умнее";

• "объясняй лучше";

• "думай глубже";

а:

• что считается доказательством;

• что считается завершением задачи;

• какой результат должен остаться после взаимодействия.

Именно здесь я неожиданно вспомнил «Прибытие».

Там меняется не объём знаний героини.

Меняется сама структура мышления.

Возможно, с агентами происходит что-то похожее.

Мы слишком долго учили их отвечать.

Может быть, пора начать учить их работать.

Интересно, экспериментировал ли кто-нибудь с подобными контрактами?

Не с «лучшими промптами», а именно с изменением критерия завершения задачи. Если да — какие изменения в поведении моделей вы заметили?