Двойное послание искусственному интеллекту
Когда говорят об искусственном интеллекте, то как то само собой подразумевается, что идет моделирование мозгов. Т.е. субстрата, который находится в черепной коробке. Нейронные сети, перцептроны и пр.
За кадром остаются эмоции. Вроде как это не важно. Это же не про разум. А мы пытаемся моделировать homo sapiens (человека разумного)
Тут вспоминается такой спецэффект как двойное послание (double bind)
Упрощенно это понимается как указание "Стой, иди сюда!". Человек подвисает, потому что не может выполнить указание
Но автор термина, Грегори Бейтсон, имел ввиду несколько другое. Он имел ввиду противоречие между сигналами, поступающими по разным каналам коммуникаций
Например, когда нам вербально посылается один сигнал, а эмоционально другой. Таким образом происходит рассинхронизация сигналов. Возникает парадокс, который приводит к зависанию человека. Непонятно какую часть послания нужно выполнять, чтобы не стать виноватым
Но послание так и сконструировано, чтобы получатель чувствовал себя виноватым
Если у отправителя команды есть власть над получателям сообщения, то это приводит к фрустрации. Программный сбой
Интересно на это посмотреть с точки зрения программирования
Например, можно предположить что такими программными командами формируются закладки, за которые можно в случае чего дергать и тем самым манипулировать человеком
Ведь есть такой механизм психики как вытеснение, который условно говоря стремится убрать из оперативной памяти всю ненужную в моменте инфу (аналог сборщика мусора в языках программирования). А уж информацию, от которой человек начинает фрустрировать, психика и подавно стремится вытеснить
Но это не значит, что подобная информация исчезает, просто она переходит в фоновый, бессознательный режим. А тот кто ее туда засадил, может активировать в любой момент. Тоже конечно бессознательно
Вот такие способы взаимоуправления
Интересно как такой механизм можно заложить в искусствено-эмоциональный интеллект?
Видео в тему подобного разрыва шаблонов. Картинка не бьется с музыкой