Загадки управления⁠⁠

С точки зрения математической теории управления термин «управление» довольно прост: это поиск последовательности действий, которая приведет динамическую систему в нужное состояние. Однако при анализе того, кто именно управляет и как эта агентность реализуется в игре или алгоритме, возникает множество вопросов.

Прежде всего, следует разделить понятия «влияние» и «управление». Предположим, у нас есть дискретная динамическая система с набором переменных. По мере их эволюции во времени они либо воздействуют друг на друга, либо нет. Возможны ситуации, когда одна переменная влияет на состояние других, но обратного воздействия не существует. В программировании аналогом является использование константной переменной в цикле. Очевидно, что в динамической системе можно построить направленный граф влияния значения переменной в момент времени t на состояние переменных в будущем. Аналогично это работает и в алгоритме: можно определить, как переменная в начале программы влияет на все последующие. Постройка такого графа в некоторых случаях возможна без «проигрывания» системы во времени — если существует закрытая форма рекуррентной функции, — а в других случаях это возможно только путем выполнения алгоритма, что наталкивает на проблему остановки. Мы можем выделять временные компоненты сильной связности: если одна группа переменных в течение определенного времени никак не влияет на другую (и наоборот), то они причинно-следственно изолированы.

Мы видим, что в алгоритме есть переменные, обладающие бóльшим влиянием на систему, чем другие. Однако попытка подсчитать силу этого влияния — задача эвристическая. Мы можем создать метрику, подсчитывая, как изменится состояние памяти программы на каждом шаге, если изменить значение конкретной переменной. По сути, это характеристика того, насколько состояние выхода алгоритма зависит от состояния его входа. Интересно, можно ли выйти за пределы такой эвристики, используя теорию информации Колмогорова.

Если же анализировать термин «управление» в контексте игры, то мы подразумеваем наличие подалгоритма моделирования и поиска путей (классический пример — два бота, играющих в шахматы). Проблема возникает, когда мы пытаемся определить, кто кем управляет. Интуитивное понятие «управления» рассыпается на логические загадки.

Существует проблема иерархии: управляет ли игрой программист, создавший бота? А кто создал самого программиста и его алгоритм поведения? Мы упираемся в парадокс Фомы Аквинского о том, что у всего должна быть причина, что порождает вопрос о возможности бесконечно-иерархического управления. Также существует проблема масштаба планирования: один бот просчитал ходы на 10 шагов вперед, а второй — на 15. Первый бот считает, что управляет, но в действительности его стратегия поглощается логикой второго. Кроме того, есть феномен управления без присутствия: программист может создать игру и вычислить, что для достижения цели ему не нужно вмешиваться в процесс в течение часа. Означает ли это, что «пустое управление» — это тоже форма управления, происходящая даже без признаков существования управляющего?

Важным аспектом является привязка управления ко времени: функция управления зависит от момента игры, и в разные периоды один бот может влиять на другого сильнее, чем наоборот. Не менее сложна проблема цикличности: если бот A управляет ботом B, B — ботом C, а C может переписывать цели A, то можно ли сказать, что A управляет C? Возникает замкнутый контур. Существует также состояние «не-управления»: если два бота только что встретились в игре, не зная правил, то первое время никто никем не управляет, пока не выработается подкрепление от среды. Наконец, есть проблема абсолютной предсказуемости: из-за проблемы остановки программист не может предсказать поведение системы через тысячу лет. Возможно, боты разовьются настолько за это время, что выйдут за пределы программы и начнут управлять самим программистом, что доказывает принципиальную невозможность абсолютного управления на бесконечном интервале времени для каких-то типов алгоритмов, особенно с учетом внешних факторов вроде отказа оборудования.