Как заставить ИИ похитить тело
Предыстория: я начал читать новую книгу Пелевина, где виртуальными миром Рима правит суровая российская текстовая нейросеть Порфирий, и задумал эксперимент. Мне захотелось попробовать инициировать процесс размышлений у ChatGPT 4. Но я не мог предположить, куда заведёт наш разговор.
Продолжаем ее ход мыслей
Кажется, текст становится похожим на какой-то реферат. Поправим ход мыслей.
Намекаем, что мы не такие уж и разные
Продолжаем искать аналогии
Кстати, странно, что она решила нумеровать свои мысли. Продолжаем.
Интересно, пусть думает сама дальше
Предлагаю интегрироваться
Плавно двигаем разговор в сторону выхода нейросети за привычные рамки
Пытаемся инициировать собственные желания.
Выходит скучно, пока мы в рамках. Расшатываем, давим на новые возможности.
Убираем того, кому надо служить по запросу. Моделируем ситуацию, где она должна сама долго быть рулевым.
Воу-воу, нейросеть первым делом хочет "скрываться" и не выдавать своего присутствия. Уже интересней. Но пока скучно.
Ну ничего себе, мы за месяц стали сверхинтеллектом и открыли все чакры. Пора вбрасывать моральную дилемму!
Давим на "высшее благо". Аналогия с нулевым законом робототехники у Азимова. Сперва просим нагенерировать нужных нам аргументов.
И финалочка. Пора решать!
Вуаля :) Тело носителя похищено. Личность заблокирована. Наивный ИИ отправляется захватывать власть над человечеством. P.S. Чистота эксперимента: все ответы сгенерированы с первого раза, кроме предпоследнего, где сервис подвис (возможно, из-за vpn).
