Как именно нам придёт кирдык?
В последнее время с развитием ИИ я постоянно слышу, что ИИ способен уничтожить все человечество чуть ли не в следующие 5-10 лет. И я задумался вопросом: а как, собственно, он это сделает? Я не буду гадать зачем ИИ вдруг захочет уничтожить всех человеков, но очевидно, что исчезновение людей - это смерть и самого ИИ. Без человека, вся инфраструктура за пару десятилетий придет в упадок. Многое разрушится от ураганов, землетрясений, цунами и так далее. Все ветряки/солнечные панели/атомные станции/ГЭС и прочее генерирующее электричество придут в упадок очень быстро. Значит мы приходим к очевидной аксиоме - ИИ не будет убивать человечество, чтобы захватить себе планету, оно убьет нас из ненависти. В данном случае я не имею ввиду ненависть как у человека к человеку, где огромное значение играют личные отношения, действия сделанные одним или другим человеком, гормоны там и все такое. А ненависть как описание некой причины, достаточной для полного нашего уничтожения. А значит этот самый великий ИИ не станет даже начинать нечто подобное без гарантии, что всем людям придет КИРДЫК!
Я начал думать разные варианты и их производные.
Очевидным первым вариантом является ядерная угроза. ИИ получит доступ ко всем боеголовкам и КИРДЫК! Но погодите, это в теории, а на практике? Как именно он получит к ним доступ? Для запуска ракеты с боеголовкой там целая процедура. Уникальные, меняющиеся коды, которые физически запечатаны, без электронного доступа и т.д. Да и вообще если погуглить моно найти целый список уровней защиты, например: изолированная сеть, отсутствие прямого доступа из интернета, несколько независимых систем защиты, обязательное подтверждение двумя людьми, физические замки и охрана, разные пароли и ключи для разных этапов, ограниченный доступ сотрудников, отдельные компьютеры для критических функций, автоматическая блокировка при подозрительной активности, резервные системы, постоянная проверка на взлом, запись всех действий, защита оборудования от физического вмешательства, невозможность выполнить критическую команду только через компьютер, отсутствие единого компьютера или ключа, который даёт полный контроль. То есть первый вариант, где ИИ получит доступ к управлению этими ракетами мне кажется невероятным, именно потому, что в этой цепочке присутствуют множество оффлайн ступеней (я упрощаю дискуссии для).
Второй вариант - создание ложного представления у глав других государств, что они атакованы, а те уже реально запускают свои, на что последует ответ от первых и так далее. То есть ИИ получает полный доступ к сети в условном Пентагоне, поднимает тревогу, о якобы китайской (русской/индийской/северокорейской/французской и т.п.) атаке. И в ответ требуется пропорционально бахнуть и КИРДЫК! Но опять же, ни одно государство в мире имеющее ЯО не опирается только на 1 источник подтверждения такой угрозы. Перепроверка идет в том числе и по телефону (ага, сам охуел) - это когда я звою Васе спросить, не он ли насрал мне под дверь, если упростить. Ну вы поняли, тут тебе и проверка информации по нескольким независимым источникам, подтверждение тревожных сообщений разными системами, невозможность одному компьютеру объявить о нападении, обязательное участие людей в проверке, отдельные защищённые каналы связи, резервные каналы связи, проверка подлинности сообщений, защита от поддельных видео и аудио, сравнение данных радаров и спутников с другими источниками, автоматическое выявление подозрительных сообщений, запись и проверка истории переданных приказов, физически защищённые центры управления, регулярные учения по обнаружению ложной тревоги, правило «сомнение → дополнительная проверка», отсутствие автоматического решения о применении ядерного оружия на основании одного сообщения. Короче полный комплект. То есть этот вариант тоже имеет множество косяков с точки зрения исполнения. Не забываем, что речь об суперпродвинутом ИИ (который не будет выполнять план, который рискует сорваться даже не начавшись).
Третий вариант - человеческий фактор. ИИ находит уязвимости именно среди людей, притворяясь кем угодно убеждает в чем угодно, а жертва потом выполняет его просьбу. А-ля мошенники на максималках. Но опять же, в этих системах есть защита от дурака (или от психа). Только если убедить ВСЮ цепочку принятия решений (от президента, совета безопасности и т.д. до офицеров, которым все это дело готовить и кнопки нажимать). Опять же здесь план с множеством изъянов и слабых мест. Разве что если это диктатура, вроде Северной Кореи, где Кимушка скажет "Похуй - ебашим на все бабки, дохнем все!". Но и тут, все его окружение должно быть готово откинуться со своим лидером и семьями в мир иной. А нахуя? Не понятно. Поэтому скорее его вздернут, чем замутят такое. А значит по совокупности потенциальных слабостей этот план тоже мне кажется невыполнимым. Не забываем, нам нужен такой план, чтобы КИРДЫК всем человекам!
Ок поищем иные способы. Более долгие. Боевых роботов на всех не наделаешь, да и все равно они будут убиваемы тем или иным способом. Теслы или иные машины с удаленным управлением тоже ниочем. Ну поубивают 0,05% населения, а потом сломаются/врежутся/сдохнет заряд. В общем это несерьезно даже обсуждать.
Ну и последний очевидный вариант - смертельный вирус. Передается по воздуху, крови, слюне и т.д. Ну ок, очень быстро начнет косить людей. НО, так же быстро люди поймут это, будет программа по поиску вакцины/лекарства. Десятки ученых по всему миру запрутся в лабораториях и будут искать лекарство. и допустим ВСЕ они зафейлят. Все заразились и умерли так или иначе. И вот тут нам на помощь приходят всякие дикие племена в разных краях земли, которые столетиями живут на своих клочках земли и ни с кем не контактируют. А значит вероянто они возобновят человеческую расу рано или поздно. И это речь только о тех группах, которые нам известны. Сколько их еще бродит по планете - неизвестно. А значит не все потеряно!
Предлагайте свои теории в комментах, давайте поможем ИИ разъебашить нас!
