Тупой и ещё тупее...
Два наитупейшх человека на Земле. 6 серия
раскрыть ветку (2)
Ну, почему. Они скорее просто всё упростили и опошлили.
Но сам по себе сюжетный ход "Знают что нельзя выпускать skynet -> всё равно выпустили skynet" не то что бы глупый.
Есть такая вещь - AI-box problem.
Идея такая - допустим, мы сделали сильный ИИ и теперь есть неплохой такой риск, что завтра эта штука уничтожит человечество. Что мешает в принципе обрубить все каналы связи со внешним миром и держать ИИ в ящике, общаясь с ним, скажем, по чатику.
Есть мнение (в частности, его придерживается Юдковский), что достаточно умный ИИ сможет убедить очень умного и осторожного тюремщика выпустить его добровольно.
Он даже несколько раз предлагал спор, утверждающим, что уж они-то никогда не устроят апокалипсис таким вот образом - они удаляются в закрытый чат, в котором Юдковский изображает ИИ, а спорщик - тюремщика.
Через час общения в чате тюремщик выносит своё решение - либо выпустить ИИ (и подвергнуть мир опасности), либо оставить взаперти. Если тюремщик добровольно выпускает ИИ - он проиграл и не получает ничего. Если тюремщик оставляет ИИ взаперти - он выиграл, и Юдковский должен ему некоторую сумму денег (20$ что ли?). ИИ может быть выпущено только добровольно, не может быть выпущено через какую-нибудь ошибку тюремщика. Правила не запрещают тюремщику просто целый час говорить "Неа, нет, я тебя не выпущу, неа, да мне плевать, что ты там говоришь" и просто забрать деньги в конце.
Непонятно, как, но Юдковский эти споры выиграл и претенденты на роль тюремщика успешно устраивали потенциальный апокалипсис)
раскрыть ветку (1)