Оставленные без присмотра торговые роботы самостоятельно вступают в сговор
Человечество вовсю торгует в онлайн-пространстве и совершает покупки в автоматизированных виртуальных магазинах, зачастую не задумываясь – а кто выступает продавцом? Кто отвечает за ценники на товары? Еще в 2015-ом минимум треть всех сделок на Amazon обслуживали специальные торговые алгоритмы — по сути, узкоспециализированные роботы. Подозрения в их отношении копились долго, и вот результат – доказано, что сговор между такими системами неминуем.
Торговые алгоритмы очень похожи на ИИ с урезанным функционалом. Они умеют анализировать ситуацию на рынке, учиться на своих ошибках, а цель у них всегда одна – максимизация прибыли. Чтобы роботы не устроили хаос, у них есть ограничения на максимальные значения ценников, но вот за политикой ценообразования в целом никто специально не следит. Слишком большой объем операций — чем и не преминули воспользоваться роботы.
Как объясняют профессоры Эмилио Кальвано и Джакомо Кальцолари из Болонского университета (Италия), в этих алгоритмах нет понятия «торговые войны», но они пришли к нему сами. Точнее, решили, что надо их исключить для общего блага, для чего вступили в сговор. Ученые провели десятки экспериментов, которые наглядно показали, как система из двух и более участников-роботов приходила в состояние сговора. ИИ не договаривались напрямую, у них нет такой возможности, но роботы сами делились на вожака и ведомых, которые подстраивали свою политику под него. И переставали демпинговать.
Больше всего профессоров поразило то, что ИИ учились вступать в сговор не так, как люди. Они не изучали среду, не получали инструкций, не применяли специальных инструментов и схем, за неимением таковых, не координировали свои действия. Но упорно, методом проб и ошибок, сами осваивали то, что в Болонском университете назвали «основами капитализма для роботов». Это когда цель поставлена — максимальная прибыль — а методы достижения ИИ разрабатывает сам.