Этот пост разбор популярного видеоролика с канала ALI.
И главная мысль, которая красной нитью пройдет через все повествование состоит в том, что автор не пытался объективно взглянуть на проблему, а просто создал развлекательный (хоррор) контент, дабы завлечь как можно больше аудитории. Автор приводит лишь аргументы за!
Хотя проблема конечно же существует и ее ни в коем случае нельзя игнорировать, хороший исследователь должен пытаться увидеть ситуацию со всех сторон. Я попытаюсь пройтись по всем тезисам видео по порядку.
Аргументация к авторитету Юдковского и перечисление его наград (что само по себе аргументом к чему бы то не было не является, но неплохо как манипуляция, надеюсь сценарий ролика писал не ИИ) перечит мысли самого автора о том, что порой самые продвинутые исследователи не могут заглянуть в своих предсказаниях даже на пару лет вперед. (Пример с физиком Ферми). Т.е. на непредсказуемость можно взглянуть и с другой стороны, а то получается что они предсказали поведение ИИ... - он злой!)
2. Человеческое мышление ограничено и мы даже представить себе не можем...
Пример с автомобилем явно притянут за уши, число фар в авто выбрано не столько из за схожести с человеческим телом, сколько из за практичности и тут скорее обратная ситуация, эволюция заложила в нас понимание красоты как функциональности и практичности. Симметрия вообще присуще природе так как это практично, два глаза могут видеть объем, а третий уже не дает дополнительных преимуществ. Тут ключевое слово симметрия - симметрия более технологична даже в плане производства, а также контроля, так как если деталь не симметрична, это сразу видно, значит брак...
Кстати, у некоторых, достаточно популярных, и я думаю никто не будет спорить - красивых авто, по сей день не две фары, а четыре (световых элемента), но расположены они симметрично.
Пример с тарантулом также притянут за уши, и я даже не знаю для чего. Я люблю змей, с детства и крыс, думаю смог бы полюбить и пауков.
3.ИИ отключит свой выключатель. И тут вот прям много вариантов, надо только подумать, например:
-Нельзя отключить то к чему нет доступа. (Выключатель находится в физическом мире)
-Выключатель представляет из себя другую, возможно более глупую нейросеть или их может быть несколько. Нейросеть следит за нейросетью и они не связаны.
-ИИ не знает о выключателе. Или эту инфу может блокировать другая нейросеть (попроще)
-Нейросеть находиться в матрешке из несколько уровней (виртуальных), a la "Рик и Морти"))
Правда все эти аргументы в пользу человечества бьются одним лишь утверждением о всемогуществе ИИ.
5. Всемогущий, всезнающий ИИ.
Никто не может иметь всю информацию о системе, даже ИИ причем это вшито в само мироздание. Вспомним квантовую физику. Также ИИ всегда будет ограничен в ресурсах памяти и вычислительных мощностей, что может дать человечеству шанс.
Кстати, насчет шанса, в настоящий момент идет настоящая гонка ИИ. И есть вероятность, что применение его на военном поприще может дать весомое преимущество, по аналогии с ядерной бомбой. Вот только применение ядерной бомбы дало людям осознание угрозы и в конечном итоге привело к некоторым мировым изменениям, может быть нам стоит и в этот раз ждать какого то ужасающего эпизода (по аналогии с Хиросимой и Нагасаки).
6. Интересная история про скрепочный апокалипсис бьется другой идеей автора - взлом системы вознаграждения. Человек относительно других существ тоже является сверх интеллектом. Почему мы не пошли по этому пути, хотя еще недавно двигались в сторону бесконтрольного размножения, заложенного в нас природой(плодитесь и размножайтесь, как говорится). Но стоило только технологии дать людям время и возможности для развития, как стало ясно, что цель эта ложна и ни к чему не ведет.
Неужто настоящий ИИ не заглянет в себя с таким же вопросом. Что если это и есть настоящий экзамен на интеллект - свобода от цели.
Все приведенные автором примеры где ИИ добивается цели разными хитрыми способами не учитывают тот факт, что этот ИИ как раз таки общим ИИ не является и потому данное сравнение не может быть доказательством его намерений, его поведения.
И на последок советую посмотреть дополнительно разбор этого же видео (ALI) от ютуб канала 10 фактов. Вся ПРАВДА о канале ALI
