ИИ, средний уровень и Госдума
Кадр из мультфильма "Южный Парк".
В недавнем исследовании было продемонстрировано что бывает, если системам ИИ позволяют работать автономно, то есть генерировать и интерпретировать собственные результаты без вмешательства человека. Итог однозначный. Независимо от того, насколько разнообразными были исходные подсказки и разрешена ли была случайность, результаты быстро сходились к набору общих визуальных тем. ИИ быстро забивал на исходную подсказку.
Парадокс заключается в том, что вместо исследования творческих возможностей автономные циклы ИИ тяготеют к тому, что исследователи назвали визуальной музыкой для лифта. Приятная и отполированная, но лишённая какого-либо смысла. Стандартное поведение этих систем заключается в сжатии смысла в сторону наиболее знакомого, узнаваемого и легко воспроизводимого.
Внимательный читатель на этом месте задаст вопрос: “И чё?”. Действительно, никто не заставляет ИИ просто так прокручивать картинки и ответы в самом себе. Нет, ведь с ним всегда коммуницирует человек, а ИИ ищет контент, который подвержен влиянию… того же самого ИИ.
Изображения преобразуются в текст. Текст преобразуется в картинки. Контент ранжируется, вновь и вновь перегенерируется. С большей и большей вероятностью новые статьи пишутся искусственным интеллектом с меньшим участием человека. Часто получается так, что человек создающий текст, якобы своё произведение, не начинает с нуля, а выбирает между сгенерированными вариантами от ИИ.
Будущие модели будут обучаться на сгенерированном контенте и, следуя логике данного исследования, всё больше сжимать смысл, отдавая предпочтение простому и знакомому. “Средний уровень” будет получаться даже при участии человека. ИИ отбрасывает одни детали и преувеличивает другие.
Но в нашей истории есть похожие паттерны: кино не уничтожило театр, фотография не убила живопись. Они их элитизировали.
Если раньше давно на скрипках играли в забегаловках и харчевнях, то теперь их можно услышать за большие деньги в филармониях и консерваториях. Билеты на Щелкунчика перед Новым годом кратно дороже, чем на Чебурашку. Правда, за бесплатно даже лучший из лучших мастеров скрипки, играющий в метро, оказывается никому не нужным.
Будет ли таким же образом элитизироваться разум человека, очищенный от влияния ИИ? И будет ли обратное движение в сторону серой середины, уровень которой продолжит со временем снижаться?
Точные ответы неизвестны. Известно, что уже сегодня в Госдуме оправдываются толи за использование, толи за неиспользование ИИ при написании законопроекта. А другой ИИ это подтверждает. Однако прецедент есть и они, должно быть, продолжат множиться.
Махач ИИ на ИИ объявляю открытым.