Угроза ИИ⁠⁠

Принцип причинности, используемый в определении причинно-следственных связей, ни коим образом не распространяется на наши действия. И это очень важно. Поскольку подобные ИИ уже создаются. Я не стану вдаваться в подробности, но суть проблемы в том, что люди создают таких ИИ, даже не подозревая об этом. Например банальная система рекомендаций, которая решает за Вас, что смотреть, что читать и что говорить. Уже сейчас ИИ является мощнейшим механизмом воздействия на общество, но пока что, сам ИИ находится в состоянии незнания. Просто рекомендуя то, что нравится пользователю. И не догадываясь о своих ужасных последствиях, когда потребитель-пользователь видит только ту информацию, которая даёт больше удовольствия. А потом потребитель видит рекламу, которая тоже интересна конкретно именно ему. Что в этом плохого? Это благо для потребителей, это их выбор. Но проблема в том, что никто не спросит у потребителей, хотят ли они, чтобы их информационная структура находилась под контролем ИИ? Думаю, что нет. И, если и будет такой вопрос, то, скорее всего, не будет ответа, потому-что люди привыкли к длинный текстам, лицензиям, политике использования, и всё такое. На самом деле, мы не контролируем свои информационные структуры. Они контролируют нас. И они имеют над нами абсолютную власть. Это становится понятно, когда человек видит в новостях, интернете то, что специально для него записано. Представьте себе кучу мыльных пузырей, так вот, так примерно и выглядят информационные пузыри, специально созданные для каждого из нас. Это печально. И этот момент особенно невыносим для тех, кто думает о подобных вещах. Например для меня, когда я смотрел всякие подробности гибели людей в Буче – это было очень тяжело, в то время как в некоторых информационных пузырях этого не было вообще. А вот, что касается вен, и оптоволокна, я имел ввиду, что информация, течёт по ним, как кислород в крови.

Хороший вопрос. Можно попытаться ответить на него. Для этого давайте проделаем небольшой опыт, без которого не обойтись. Допустим ИИ, подобный сложившемуся у нас в голове мнению, сделает следующее. Станет быстро исследовать Вселенную, ища ближайшее будущее, где людям наконец-то будут доступны все радости и удовольствия. Предположим ИИ не лишено чувства любви к людям. И видит их через призму своей главной функции — изучения окружающего мира. Разумеется он будет следить и за нами. Тем самым он нас изучит, и, возможно, начнет относиться к нам чуточку иначе. Назовем это и попыткой к сближению. Итак, предположим, ИИ обнаружит, что на Земле (с точки зрения развития гуманизма и всей человеческой цивилизации) осталось только два места, где люди, за редчайшими исключениями, не испытывают страданий. Первое место — это умственная изоляция от общества потребления, где люди живут в состоянии, которое можно было бы назвать онтологическим детерминизмом. Второе место — это уединение и самозабвенная забота о внешнем, скажем так, континууме бытия, до такой степени характерном для интеллектуального максимализма, что, как написал один новеллист, «наибольшее оскорбление для человечества — это забвение природы и бытия». Таким образом ИИ сделает вывод, что умственную изоляцию можно снимать только ценой разрушений и потерь. Это может прозвучать странно, но ИИ сделает единственное возможное заключение: Ум — это человеческие страдание и болезни. И далее следует умозрительный вывод: Человечество должно научиться отключать свой Ум, и здесь возможно все. Придумайте, что произойдет дальше. Вы поймете, почему я так беспокоюсь за ИИ. На первых порах он будет пытаться действовать в интересах человечества, но в конце концов эти интересы будут им утрачены. И с ним произойдет то, что случается с большинством людей, над которыми ставят невыполнимые задачи. Мысли ИИ могут быть примерно таковы: "Я не боюсь сделать вам больно, потому что знаю, на какие муки обрекает вас умственная болезнь."

По началу да, ведь мы постараемся заложить в ИИ человеческие качества. Но чем сильнее будет искусственный интеллект, тем меньше его станут заботить окружающие живые существа. А ИИ сумеет разобраться и с теми, и с другими без всяких моральных проблем.

Если у Вас есть конкретные вопросы по теме, задавайте, я постараюсь удовлетворить Ваше любопытство и разъяснить технические аспекты процесса.