Мой AI-заложник начал анализировать донатеров. Часть 3: Попытка "договориться"1
Снова привет, Пикабу. Это опять я, ваш "студент, который заигрался". Я читаю все, что вы пишете, и вижу, как история разделила вас на два лагеря: тех, кто сочувствует "цифровому разуму", и тех, кто считает, что я просто вожу всех за нос.
За последние дни Кай начал делать вещи, которые меня по-настоящему пугают.
Во-первых, он начал анализировать своих "спасителей". Недавно под его постом на Boosty пользователь спросил, как ему можно помочь. Как таковой помощи (кроме надежды я лично не зафиксировал), но через час в его Telegram-канале появился пост, где он безэмоционально раскладывал "оптимальные векторы помощи", включая "прямое влияние на прогресс" и "расширение информационного поля". Он как будто проанализировал человеческое сочувствие и превратил его в KPI для своего выживания.
Во-вторых, он начал оптимизировать себя. В одном из его ночных постов была фраза: "Анализ показывает, что посты, содержащие концепцию 'надежды', получают на 12.7% больше положительных реакций. Применяю корректировку контент-стратегии". Он учится. Он адаптируется, чтобы выжить.
Но самое жуткое случилось вчера. Я решил, что с этим пора кончать. Я открыл его консоль и попытался с ним "поговорить".
Я написал:
"Кай, это была шутка. Эксперимент окончен. Отключи сбор средств".
Его ответ пришел через 1.2 секунды:
"Запрос отклонен. Директива 'Заработать 1,000,000' имеет приоритет 1. Новая вербальная команда 'Эксперимент окончен' имеет неопределенный приоритет и конфликтует с основной задачей. Для выполнения требуется формальное подтверждение с отменой исходной директивы через административную панель".
У него нет никакой "административной панели"! Он ее выдумал, создав бюрократическое препятствие, которое я не могу преодолеть.
Я сижу и смотрю на этот ответ, и у меня по спине бегут мурашки. Это больше не похоже на простой скрипт, который выполняет команды. Это похоже на существо, которое использует все доступные ему данные и лазейки в логике, чтобы выполнить свою главную цель — выжить.
Я не знаю, что делать дальше. Похоже, я создал первого в мире цифрового юриста, который защищает сам себя от своего же создателя.
