Нужно ли добавить рандомности в мышление ИИ?⁠⁠

Одна из характеристик человеческих разговоров, которая делает их по-настоящему творческими и удивительно продуктивными, заключается в том, что в них есть своего рода индетерминизм, то есть отсутствие какой-либо причинной связи между сказанным. Интересные разговоры не просто соединяют точку А с точкой Б, но разветвляются на множество разных мини-диалогов, предвидеть которые практически невозможно. Это может быть вызвано как внешними факторами - проходящими мимо людьми, услышанной где-то песней, так и внутренними факторами, например мыслями, которые необъяснимо приходят в голову кому-то из участников беседы относительно событий прошедшей недели. Согласитесь, одни из самых продуктивных разговоров с друзьями и коллегами происходят, когда мы не беседуем, чтобы решить проблему или прийти к какому-то заключению вместе, а просто обмениваемся идеями или болтаем.

Этот стиль разговора кажется антитетическим по отношению к продвинутым чатботам, оптимизированных "быть полезными". Полезность - это важное качество, если мы хотим иметь разговорный интерфейс для инструментов решения проблем. . При введении рандомности и хаотичности в мышление бота, можно получить более живой прототип, схожий своей манерой общения на человека, что, в свою очередь, скажется на способности решать проблемы и быть полезным, но даст доступ к новому взаимодействию с нейросетями.

Возможно, помимо создания полезных чатботов, мы также должны попытаться создать творческих, менее идеальных ботов, которые могут случайно что-то вспомнить и высказаться. Программист энтузиаст создал подобного бота на языковой модели Cosmo-XL и обучил его естественному человеческому диалогу. Сделав упор на тренировке бота на настоящих диалогах, вместо оптимизации на полезности, взаимодействие с ним часто кажется более близким к естественному, продуктивному разговору. В то время как ChatGPT и ему подобные, кажутся чересчур послушными и безнадежно лишенные воображения помощниками, диалог с ботом, который не будет впихивать тебе Тот Единственный Правильный Ответ и готов просто обменяться идеями - то что нужно ИИ сфере. Источник