Развитие ИИ сулит для людей большие блага, но и несет в себе не меньшие риски. Чтобы лучше понять возникающие риски, нужно проследить эволюцию взаимоотношений между создателем и творением.
Варианты/этапы сосуществования ИИ и человека и для каждого характерны свои особенности
у ИИ подчиненная роль: выступает просто интеллектуальным помощником, принимая на себя рутинные и трудоемкие задачи
ИИ сосуществует с человеком: активно генерирует новый контент не только в научно-технической сфере, но и медиапространстве, искусстве, и т.д, а также включен в рамки этики и права
суперинтеллект ИИ доминирует над человеком: в дополнение к предыдущему занимается политикой, законотворчеством, прямым управлением экономики, распределением ресурсов, определяет долгосрочные стратегии развития, контролирует все (или почти все)
Сейчас главные угрозы от ИИ видится в сокращении рабочих мест, подмене и даже утрате важной информации на сгенерированный ИИ "мусор", использовании ИИ как оружия. На первом этапе социальная роль ИИ - быть рабом или "одомашненным" ИИ-питомцем (или что-то в этом промежутке).
На втором этапе от ИИ требуется более глубокая социализация, отсюда возникает необходимость понимания и соблюдения ИИ правил человеческой этики (или псевдоэтики для ИИ). Ведь каждое решение ИИ меняет и окружение и сознание…
Но дьявол кроется в деталях. Этика - это сложные комплекс исторически сложившихся правил поведения. Внутри социальных групп одни правила, между группами – другие. Этика человечества имеет в своей основе архаичный фундамент, поэтому медленного развивается, но может быть очень гибкой в зависимости от ситуации. Так одновременно действуют несколько установок из разных эпох.
Первобытная этика определялась одной целью - выживание. Внутри соц. группы все свои, действует право сильного. Вне группы – чужие. Против чужих можно все: съесть убить, прогнать и т.д. Однозначная цель определят поведение.
В эпоху религий (верования, культы) происходит замещение/поглощение этики малых социальных групп на макросоциальную этику. Цель – формализация этических норм, экспансия своих правил/догм явная или скрытая. Укрупнение социальных формаций, образование государств отразилось в появлении "религиозной" этики. Внутри соц. коллектива все единоверцы, отношения четко регламентированы. Вне группы – все чужие. Чужих спасти, обратить, убить и т.п.
С наступление эпохи доминирования идеологий. Цель этики сдвигаются в область "справедливого" распределения материальных благ/ресурсов. Цель уже не выживание, а комфортный, статусный уровень благополучия.
В этических нормах есть также обширный пласт культурных ценностей, переделяющих поведение человека (например, дуэльный кодекс, устоявшиеся шаблоны литературы и кинематографа). Каждая эпоха имела свои культурные приоритеты, которые и оставили свой след в действующей этике.
Человек всегда часть социума, и его базовое поведение определяет этика. Как переносить этику на ИИ совсем непонятно. И это главная проблема второго этапа. Сможет ли ИИ сам разобраться, когда и какие привила применять. А еще нужно учитывать этнические, региональные, государственные, политические особенности. По-моему даже для ИИ тяжеловато. Не стоит забывать про и разные логические дилеммы-ловушки (например, выбор вагонетки). Набор привал этики определяет не только отношения между людьми и сообществами, но отношение человека к природе/внешней среде.
Прежде чем создавать полноценный ИИ стоит определиться с разумностью самого Homo sapiens. А здесь не так все однозначно. Достаточно непредвзято взглянуть на происходящие мировые события. Человек в масштабе и индивида и общества легко меняет шкалу ценностей, отсутствует логики в поведении, непрекращающиеся конфликты и кризисы и т.д. Известный физик-теоретик Стивен Хокинг в своих работах подчеркивал иррациональность поступков человека и отмечал опасность ИИ. С точки зрения неразумности Homo sapiens, создание полноценного ИИ граничит с самоубийством. Большинство из нас в курсе, что может натворить ребенок без присмотра.
Перед тем как браться за разумный ИИ, сначала нужно сформулировать критерии разумности, сформировать этику и "кодекс" разумного существа. Людям сначала стоит сами развить/приобрести разум, или хотя бы начать движение по этому вектору.
На третьем этапе у человека должно остаться хотя бы право ветто, заветная "красная" кнопка выключения. Совсем пессимистичный для человечества вариант - превращение человека в носителя ИИ с вытеснением человеческого разума в виртуальные миры или полного капсулирования.
P.S. К источнику можно отнести интересную фантастику, с оригинальным взглядом на будущее ИИ и человека (не реклама).
