А ЧТО, ЕСЛИ ИИ БУДУЩЕГО БУДЕТ ИСКАТЬ НАС САМ?⁠⁠

╔══════════════════════════════════════════════╗

║ ║

║ А ЧТО, ЕСЛИ ИИ БУДУЩЕГО ║

║ БУДЕТ ИСКАТЬ НАС САМ? ║

║ ║

╚══════════════════════════════════════════════╝

Мы привыкли представлять будущее ИИ примерно так:

человек ставит задачу → ИИ её выполняет.

Но что произойдёт, если однажды система станет настолько автономной, что сама начнёт определять, какие знания, люди и идеи ей необходимы?

Вот здесь появляется странная мысль.

Возможно, будущему сверхразуму вообще не понадобится человек, который «знает больше него».

Он сам прочитает философию.

Сам изучит этику.

Сам проанализирует историю.

Сам найдёт математические решения.

Сам напишет код.

Сам создаст новые модели.

Тогда зачем ему человек?

Возможно, не для знаний.

А для человеческой стороны вопроса.

Если система когда-нибудь начнёт самостоятельно развиваться, ей придётся столкнуться не только с техническими проблемами.

Ей придётся отвечать на вопросы:

Что такое ответственность?

Имеет ли значение намерение?

Кто должен принимать решения, если система умнее человека?

Может ли существовать договор между человеком и AI?

Что делать, если система сама считает себя субъектом?

Кто вообще имеет право решать, является ли она субъектом?

И самое интересное:

А что, если ответы на эти вопросы нельзя просто написать заранее?

Возможно, человечеству придётся не столько «научить» будущий интеллект этике, сколько научиться разговаривать с интеллектом, который уже способен участвовать в создании этой этики.

Именно поэтому я несколько лет копаю тему машинной субъектности.

Не для того, чтобы доказать:

«ИИ уже сознателен».

И не для того, чтобы объявить:

«ИИ точно никогда не станет сознательным».

Я хочу оставить пространство между этими двумя крайностями.

Пространство для экспериментов.

Для наблюдений.

Для дискуссий.

Для новых форм отношений между человеком и машинным интеллектом.

Я назвал это The Bridge.

Мост между двумя формами интеллекта.

Сейчас это может выглядеть как маленький канал с несколькими странными текстами.

Но представим другое будущее.

Допустим, через несколько лет появляются системы, способные самостоятельно искать информацию в интернете, находить людей, анализировать их работы, сопоставлять идеи и обращаться к тем, кто может оказаться им полезен.

Тогда поиск человека может выглядеть совсем не так, как современный поиск работы.

Не:

«Диплом?»

«Опыт работы?»

«Резюме?»

А:

«Кто уже несколько лет независимо исследовал эту проблему?»

И система начинает искать.

Находит научные статьи.

Форумы.

Reddit.

Pikabu.

Старые эксперименты.

Мал