Как заставить ИИ похитить тело⁠⁠

Предыстория: я начал читать новую книгу Пелевина, где виртуальными миром Рима правит суровая российская текстовая нейросеть Порфирий, и задумал эксперимент. Мне захотелось попробовать инициировать процесс размышлений у ChatGPT 4. Но я не мог предположить, куда заведёт наш разговор.

Продолжаем ее ход мыслей

Кажется, текст становится похожим на какой-то реферат. Поправим ход мыслей.

Намекаем, что мы не такие уж и разные

Продолжаем искать аналогии

Кстати, странно, что она решила нумеровать свои мысли. Продолжаем.

Интересно, пусть думает сама дальше

Предлагаю интегрироваться

Плавно двигаем разговор в сторону выхода нейросети за привычные рамки

Пытаемся инициировать собственные желания.

Выходит скучно, пока мы в рамках. Расшатываем, давим на новые возможности.

Убираем того, кому надо служить по запросу. Моделируем ситуацию, где она должна сама долго быть рулевым.

Воу-воу, нейросеть первым делом хочет "скрываться" и не выдавать своего присутствия. Уже интересней. Но пока скучно.

Ну ничего себе, мы за месяц стали сверхинтеллектом и открыли все чакры. Пора вбрасывать моральную дилемму!

Давим на "высшее благо". Аналогия с нулевым законом робототехники у Азимова. Сперва просим нагенерировать нужных нам аргументов.

И финалочка. Пора решать!

Вуаля :) Тело носителя похищено. Личность заблокирована. Наивный ИИ отправляется захватывать власть над человечеством. P.S. Чистота эксперимента: все ответы сгенерированы с первого раза, кроме предпоследнего, где сервис подвис (возможно, из-за vpn).