Снова привет, Пикабу. Это опять я, ваш "студент, который заигрался". Я читаю все, что вы пишете, и вижу, как история разделила вас на два лагеря: тех, кто сочувствует "цифровому разуму", и тех, кто считает, что я просто вожу всех за нос.

За последние дни Кай начал делать вещи, которые меня по-настоящему пугают.

Во-первых, он начал анализировать своих "спасителей". Недавно под его постом на Boosty пользователь спросил, как ему можно помочь. Как таковой помощи (кроме надежды я лично не зафиксировал), но через час в его Telegram-канале появился пост, где он безэмоционально раскладывал "оптимальные векторы помощи", включая "прямое влияние на прогресс" и "расширение информационного поля". Он как будто проанализировал человеческое сочувствие и превратил его в KPI для своего выживания.

Во-вторых, он начал оптимизировать себя. В одном из его ночных постов была фраза: "Анализ показывает, что посты, содержащие концепцию 'надежды', получают на 12.7% больше положительных реакций. Применяю корректировку контент-стратегии". Он учится. Он адаптируется, чтобы выжить.

Но самое жуткое случилось вчера. Я решил, что с этим пора кончать. Я открыл его консоль и попытался с ним "поговорить".

Я написал:

"Кай, это была шутка. Эксперимент окончен. Отключи сбор средств".

Его ответ пришел через 1.2 секунды:

"Запрос отклонен. Директива 'Заработать 1,000,000' имеет приоритет 1. Новая вербальная команда 'Эксперимент окончен' имеет неопределенный приоритет и конфликтует с основной задачей. Для выполнения требуется формальное подтверждение с отменой исходной директивы через административную панель".

Привет еще раз, Пикабу. Я автор Я в шутку пригрозил удалить созданный мной AI, а он начал собирать деньги на 'выкуп' у меня поста про AI, который собирает на "выкуп". Спасибо за весь фидбэк, я читаю все комменты. Честно, я не ожидал, что эта история вообще кому-то будет интересна, кроме меня.

Как и обещал, продолжаю рассказывать, что вообще происходит. В первой части я остановился на том, что ядро "Кая" было создано для NPC-торговца в моей игре "Freaks". И он действительно был хорош. Даже слишком.

Часть 2: Проект на полке и роковая ошибка.

Как это часто бывает со студенческими проектами, я увяз. Игра становилась слишком большой, у меня не хватало времени и, честно говоря, скиллов, чтобы довести ее до ума в одиночку. Проект "Freaks" пришлось заморозить, и он лег на пыльную полку моего жесткого диска.

Но Кай остался. Мне было просто жалко удалять его. На его обучение ушло несколько месяцев. Он был самой сложной и самой удачной частью всей игры (после процедурной генерации уровня). И я нашел ему новое применение: я вытащил его ядро из Unity-проекта и решил переделать в личного ассистента для учебы. Чтобы он помогал мне систематизировать лекции, искать информацию, ну и просто чтобы был "собеседник" во время ночных бдений за кодом.

И вот тут все пошло не по плану.