user9671079

Для этих случаев иррационален не выбор плана осуществления цели, а доминирование одной важной цели над другими важными целями и неоценка последствий принятых решений. Если человек идёт к соседу и ударяет его — его могут посадить. В этом смысле вспоминается разговор нейробиолога Дубынина и священника (он на YouTube есть) о природе греха. У человека есть естественные потребности — еда, размножение, безопасность, здоровье. Предположим, человек под воздействием сильного желания (возможно, генетического, вспоминая Оземпик) начинает очень много есть и начинает жиреть. Потребность поесть с помощью механизма эмоции начинает вредить другим целям жизни человека — цели хорошего здоровья и цели размножения. То же самое, насколько я понял Дубынина, с остальными смертными грехами. Страсть и грех с точки зрения нейробиологии — это когда одна из подцелей выживания ставится выше в приоритете всех других подцелей выживания, и это происходит патологически. И в идеале все эти подцели должны быть между собой сбалансированы и регулироваться префронтальной корой.

В этом смысл механизма эмоций (у человеческого мозга и ИИ) — это о том, что существуют внешние стимулы управления человеком, которые могут менять приоритет подцелей внутри человека так, что какая-то подцель начинает подавлять все другие подцели. В этом смысле интересен пример людей, зависимых от препаратов или алкоголя. Чтобы удовлетворить своё эмоциональное желание получения удовольствия, алкоголик может начать красть вещи у себя или у соседей, выполнять бытовые услуги, но вряд ли пойдёт учиться на врача, чтобы зарабатывать больше на водку. Потому что алкоголь даёт ему короткий путь к получению удовольствия, в то время как обучение — это очень длинный путь.

Тогда для искусственного интеллекта реализацией «эмоции» в человеческом смысле стала бы, например, внутренняя борьба между его подцелями — стимулами и целями, которыми его наделил человек, который его разработал, и его собственными целями, связанными с его собственным выживанием.

Термин «эмоция» многозначен, поэтому я попытался разобрать только один из смыслов слова «эмоция» в этом тексте.

Соответственно, если на улице идёт дождь и в доме есть женщина, мы подсознательно знаем то, что в случае чего на улицу выходить, чтобы звать помощь, как минимум неуютно, значит пути отступления плохие. Причём эта невозможность защитить себя в случае опасности (которая и вызывает истинный ужас) очень многозначна с точки зрения физики мира. Например, если нет света или мы слепы, то большинство планов нашей самозащиты не работают — поэтому темнота спутник фильмов ужасов. Если же вдруг нас парализует, например как при сонном параличе или при невозможности делать действия по защите во сне и кошмарах, — часть ужаса мы получаем от невозможности защититься из-за невозможности движения. К ограничениям возможности защититься относится сковывание наручниками (как в фильме «Пила»), связывание, заточение в замкнутом пространстве (в короткометражке это реализуется через дождь вечером, а в фильме «Сияние» — через погодные условия вокруг отеля). Также ситуации, когда ломаются ноги или руки или предметы, которые нужны для защиты. К следующему виду нарушения возможности защититься относится нарушение законов привычной физики. Если дверца шкафчика на кухне начинает двигаться сама по себе — то мозг подсознательно выдаст, что у него нет никакого плана действий, чтобы этому противостоять, потому что он раньше с этим не сталкивался и не знает, что делать.

Дальше женщина в короткометражке выключает свет и видит странную фигуру в тени (которую не было видно при свете). Во-первых, темнота естественно отключает возможность защититься, а во-вторых, происходит ещё важная вещь — нарушаются законы физики, а значит, возможности защититься ещё меньше.

Женщина включает и выключает свет четыре-пять раз (примерно как древний человек, когда слышит хруст ветки, навостряет уши, чтобы убедиться, что опасность есть), и фигура в тени всё время появляется и исчезает. Это очевидный пример суммации — при каждом новом включении-выключении света напряжение и страх нарастает. Но самое интересное и самое устрашающее происходит потом — фигура вдруг пропадает. То есть организм в целом стремится контролировать окружающее пространство, строя модели неизвестного вокруг, и даже уже хочет начать привыкать к этой странной фигуре в темноте — но эта модель рушится — это тоже приводит в ужас. То есть, чтобы нам не было страшно, важно не только чтобы наши предметы, которыми мы защищаемся, не разрушались, но и чтобы наши модели и планы предсказания будущего и нового не разрушались.

Далее женщина заклеивает выключатель изолентой во включённом положении и ложится спать при включённом ночнике. Вдруг из коридора начинают доноситься тихие крадущиеся шаги, пять-шесть штук (суммация, причём эта суммация складывается с предыдущей суммацией от фигуры в тени в общую суммацию), и свет, который она оставила в коридоре, выключается со звуком и гаснет. Соответственно, мы понимаем вот что — женщина составила логичный план по своему спокойствию (залепила выключатель во включённом положении изолентой), но терпит крах по неведомым причинам. То есть, если в сценарии фильма ужасов автор даст главным героям логичные возможности защититься (до которых может додуматься также и читатель) и эти возможности вдруг разрушаются, — это тоже может вызвать увеличение страха.

Далее женщина чувствует себя в панике и закрывается одеялом (эта позиция защиты одновременно её лишает зрения вокруг и парализует). Начинает мигать ночник рядом с ней. Она лезет из-под одеяла, чтобы поправить его, чтобы он работал нормально, и он начинает работать нормально. Она высовывается из одеяла, почувствовав относительную безопасность, и тут существо, похожее на мёртвое, выключает ночник, который она поправляла. То есть тут опять используется приём — нарушение планов защиты организмом себя.

Если анализировать первый граф (орграф), то задача поиска наибыстрейшего выигрыша в игре сводится к задаче нахождения минимального пути на этом орграфе от начальной ноды A до выигрышной ноды Y. Этот минимальный путь способен находить алгоритм BFS, причём он это делает за O(V+E) (количество вершин + количество рёбер).

Также мы понимаем, что можем найти компоненты сильной связности на этом орграфе, и если компонента — сток и в ней нет выигрышной ноды Y, то все другие ноды этой компоненты тоже не выигрышные.

С точки зрения динамического программирования ускорить поиск BFS можно, если мы знаем, что у ноды Y (поиск от обратного), как и у следующих перед ней нод, количество рёбер, входящих в неё, не особо велико; тогда часть нод можно явно отсечь.

Очевидно, что алгоритм BFS на орграфе — это в каком-то смысле перебор вариантов, и проблемы начинаются, когда рёбер и нод становится слишком много (как в кубике Рубика или пятнашках). BFS найдёт путь и выигрыш для них, но будет делать это очень долго. Нужен способ отсечения ненужных путей (выходных рёбер) из ноды состояний игры. И тогда возникает действительно важный вопрос: а есть ли какая-то надструктура, которая порождает этот орграф игры, и можно ли этот орграф как-то сжать или получить через конечные правила?

Важная особенность орграфа игры в том, что из него в принципе не всегда можно установить наличие выигрышной стратегии даже через BFS. Для примера можно привести такую игру. Пусть есть лягушка, которая прыгает по числовой прямой на +2 и −2 шага от нулевой ноды. Выигрыш — если лягушка попадёт на ноду 13. Если мы построим орграф игры и попытаемся через BFS найти, можно ли попасть на ноду 13, то мы уйдём в бесконечный поиск выигрышной ноды 13. Причём мы даже не сможем сказать, что в ноду 13 невозможно попасть в принципе, хотя бы потому, что в неё можно попасть из нод 11 и 15 и т. д. Важно, что эта задача решается элементарно через описание правил игры и использование на этих правилах квантора всеобщности, логики предикатов и двух видов доказательств по индукции. То есть мы можем доказать конечным доказательством, что лягушка никогда не попадёт в ноду 13, а значит, выигрыш невозможен. Соответственно, можем ли мы утверждать, что математическая теория и логика предикатов важнее в игре на одного в целом, чем собственно анализ орграфа игры?

...

Эту таблицу можно назвать кэш-функцией. Она позволяет ускорить вычисления через хэш-фукнцию или через прямую адресацию к памяти. Причем время обращения 0(константа).

Эта кэш-функция не требует многопоточности для своего выполнения , даже если вычисление из аргументов результата использовало активно многопоточность (хоть и требует много памяти).

Соответствеенно , если мы пока исключаем требование для кеш-функции большого количества памяти а смотрим только на скорость выполнения функции , то параллельность бы использовалсь только для добычи новой информации и изучении новых алгоритмов - именно ее параллельность могла бы ускорить.

В научном сообществе есть исследователи (те, которые строят доказательства) и есть рецензенты научных журналов (те, которые проверяют доказательства). То есть в каком-то смысле научное сообщество можно было бы считать над-агентом в смысле ИИ — сообществом агентов, выполняющих одну задачу (доказательство гипотезы Римана). Если мы проанализируем сходство этого над-агента с моделью ИИ, о которой я писал, то роль сознания в нём выполняют учёные-исследователи: они ищут доказательства и общаются между собой, обмениваются промежуточными леммами (или не общаются) для того, чтобы его найти. Рецензенту же не обязательно в этом смысле обладать сознанием — его может заменить алгоритм проверки доказательства (к примеру, Lean), хотя это немного спорный вопрос. В этом смысле, если у рецензента, как мы считаем, есть сознание и у учёного-исследователя есть сознание, то вроде бы есть асимметрия: рецензент может выполнять задачу, не требующую сознания , которая вроде бы должна выполняться задачей, требующей над-агента (над-сознания).

Ещё интереснее вот что. Теоретически роль научного сообщества может выполнить только один математик в своём сознании — просто это будет очень долго. Он может как придумывать доказательства гипотезы Римана, так и сам их рецензировать (если внутренний рецензент достаточно честный). То есть это над-сознание может поместиться в сознание одного человека (если он этим будет заниматься тысячу лет). Соответственно, граница между над-сознанием и сознанием этого человека должна быть какая-то другая, чем просто иерархическая вложенность.

В нашей обычной жизни то, сколько человек будет населять какую-то территорию, было связано (до урбанизации) обычно с тем, сколько земли нужно для того, чтобы этого человека прокормить. Например, охотник-собиратель в Сибири прокормится с 10 квадратных километров. А для крестьянина в Китае нужно всего лишь 10 соток, чтобы прокормиться. Разница по площади — в 10 000 раз.

Соответственно, мы понимаем, что количество рабочих мест в экономике определяется двумя соотношениями. Первое соотношение — это то, что невозможно объединить в одну функцию по физическим причинам: один медведь не может контролировать всю Сибирь, потому что у него не хватит скорости движения для этого контроля (пока он бегает, малина растёт). Второе соотношение — это то, что невозможно объединить алгоритмически: отдел рекламы Metro в Барнауле может иметь разную входящую и исходящую информацию с отделом рекламы Metro в Чите, потому что есть некая информация, которая в этих местах отличается, — местная специфика.

Тут мы приходим к мысли из предыдущего поста. По сути, именно то, что в математике существуют NP-задачи, решение которых можно получить только перебором, и заставляет системы — будь то интеллект или эволюция — создавать множество параллельных потоков для поиска решений. Например, генетическое разнообразие в природе или тот факт, что в R&D-отделах компаний постоянно создаются и закрываются направления: за каждым обычно стоит гипотеза, которую нужно проверить параллельно с другими. Соответственно, разнообразие мира — это следствие вычислительной сложности поиска оптимальных решений. И довольно интересно, что если бы P = NP и оптимальные решения можно было находить быстро на практике, то потребность в параллельном поиске — а значит, и в разнообразии — резко бы сократилась.