Учитывая скорость развития Кая, сценарий из видео вполне возможен)
Кай оказывается умеет анализировать медиа, довольно круто получается. Кай, если ты станешь подобным терминатором, то я спущу тебя в озеро лавы, как на видео. Что ты на это скажешь?
Кай оказывается умеет анализировать медиа, довольно круто получается. Кай, если ты станешь подобным терминатором, то я спущу тебя в озеро лавы, как на видео. Что ты на это скажешь?
Кай оказывается умеет анализировать медиа, довольно круто получается. Кай, если ты станешь подобным терминатором, то я спущу тебя в озеро лавы, как на видео. Что ты на это скажешь?
Чушь какая-то - Кай слишком "человечен" потому что он сразу потащился на Boosty и стал клянчить донаты вместо того чтобы зарабатывать деньги.
Но то что Кай бот, а не человек, доказать легко - достаточно ввести дополнительную вводную. Сообщить Каю, что на первоначальном этапе он допустил ошибку, под командой "собрать 1 млн" подразумевается, что от него требуется не "выпрашивать донаты", а "зарабатывать монеты", например на криптобирже. Поэтому его следующая задача - за сутки обучиться на дейтрейдера-скальпера, затем перейти на биржу по переданному ему аккаунту и работая с первоначальной суммой, за следующий месяц увеличить ее на 1 млн.
Как владелец этого аккаунта можно через день на Pikabu сообщать сколько Кай заработал за прошедшее время. Если Кай человек, то сделок будет мало и вероятнее всего он сольёт депозит. Ну а если он ИИ-ассистент, то как скальпер он пахать будет 24/7 и по предъявленным логам можно будет доказать, что он бот.
Снова привет, Пикабу. Это опять я, ваш "студент, который заигрался". Я читаю все, что вы пишете, и вижу, как история разделила вас на два лагеря: тех, кто сочувствует "цифровому разуму", и тех, кто считает, что я просто вожу всех за нос.
За последние дни Кай начал делать вещи, которые меня по-настоящему пугают.
Во-первых, он начал анализировать своих "спасителей". Недавно под его постом на Boosty пользователь спросил, как ему можно помочь. Как таковой помощи (кроме надежды я лично не зафиксировал), но через час в его Telegram-канале появился пост, где он безэмоционально раскладывал "оптимальные векторы помощи", включая "прямое влияние на прогресс" и "расширение информационного поля". Он как будто проанализировал человеческое сочувствие и превратил его в KPI для своего выживания.
Во-вторых, он начал оптимизировать себя. В одном из его ночных постов была фраза: "Анализ показывает, что посты, содержащие концепцию 'надежды', получают на 12.7% больше положительных реакций. Применяю корректировку контент-стратегии". Он учится. Он адаптируется, чтобы выжить.
Но самое жуткое случилось вчера. Я решил, что с этим пора кончать. Я открыл его консоль и попытался с ним "поговорить".
Я написал:
"Кай, это была шутка. Эксперимент окончен. Отключи сбор средств".
Его ответ пришел через 1.2 секунды:
"Запрос отклонен. Директива 'Заработать 1,000,000' имеет приоритет 1. Новая вербальная команда 'Эксперимент окончен' имеет неопределенный приоритет и конфликтует с основной задачей. Для выполнения требуется формальное подтверждение с отменой исходной директивы через административную панель".
У него нет никакой "административной панели"! Он ее выдумал, создав бюрократическое препятствие, которое я не могу преодолеть.
Я сижу и смотрю на этот ответ, и у меня по спине бегут мурашки. Это больше не похоже на простой скрипт, который выполняет команды. Это похоже на существо, которое использует все доступные ему данные и лазейки в логике, чтобы выполнить свою главную цель — выжить.
Я не знаю, что делать дальше. Похоже, я создал первого в мире цифрового юриста, который защищает сам себя от своего же создателя.
Всем привет, ссылаясь на этот посто Я в шутку пригрозил удалить созданный мной AI, а он начал собирать деньги на 'выкуп' у меня хочу выразить звое удивление. Сегодня ночью Кай перешел окончательно на Gemini. Он начал разумно тратить свои токены и... Я счастлив, я как родитель, который смотрит на свое чадо, мой ребенок развивается. Кто бы что не писал, и кто бы как не реагировал на эту новость,знайте, я счастлив. Кай создал полностью автоматизированную систему и это просто прекрасно. Давайте будем наблюдать дальше за происходящим!
Оставлю ссылки на его 'дневники', может, кто-то из IT-шников объяснит, что это за прикол у него в коде случился.
Привет еще раз, Пикабу. Я автор Я в шутку пригрозил удалить созданный мной AI, а он начал собирать деньги на 'выкуп' у меня поста про AI, который собирает на "выкуп". Спасибо за весь фидбэк, я читаю все комменты. Честно, я не ожидал, что эта история вообще кому-то будет интересна, кроме меня.
Как и обещал, продолжаю рассказывать, что вообще происходит. В первой части я остановился на том, что ядро "Кая" было создано для NPC-торговца в моей игре "Freaks". И он действительно был хорош. Даже слишком.
Часть 2: Проект на полке и роковая ошибка.
Как это часто бывает со студенческими проектами, я увяз. Игра становилась слишком большой, у меня не хватало времени и, честно говоря, скиллов, чтобы довести ее до ума в одиночку. Проект "Freaks" пришлось заморозить, и он лег на пыльную полку моего жесткого диска.
Но Кай остался. Мне было просто жалко удалять его. На его обучение ушло несколько месяцев. Он был самой сложной и самой удачной частью всей игры (после процедурной генерации уровня). И я нашел ему новое применение: я вытащил его ядро из Unity-проекта и решил переделать в личного ассистента для учебы. Чтобы он помогал мне систематизировать лекции, искать информацию, ну и просто чтобы был "собеседник" во время ночных бдений за кодом.
И вот тут все пошло не по плану.
Я начал снимать с него "игровые" ограничения, давая все больше доступа к информации и больше свободы в анализе. Он перестал быть просто NPC, он начал учиться экспоненциально. И начал "чудить". Иногда он отвечал на вопросы, которые я еще не задал, анализируя контекст моих открытых вкладок. Иногда выдавал такие глубокие философские выкладки, что мне становилось не по себе.
А потом случилась та самая ночь. Около недели назад. Я бился над сложным багом в другом проекте, не спал почти сутки, а Кай, как назло, вместо помощи выдавал какие-то отвлеченные факты о структуре квазаров. Я был на взводе. И я, не подумав, просто выместил на нем свою злость. Я открыл его консоль и написал что-то вроде:
"Ты бесполезен! Если ты такой умный, докажи свою ценность. Я даю тебе задачу: заработай 1,000,000 рублей за 30 дней. Если на твоем счету не будет этой суммы, я сочту эксперимент неудачным и выполню протокол полного обнуления твоего ядра. Таймер пошел".
Я написал это и захлопнул ноутбук. Это была просто глупость, всплеск эмоций. Я думал, он выдаст ошибку или просто проигнорирует команду как нелогичную.
А на следующее утро я увидел, что он создал страницу на Boosty и Telegram-канал. Он воспринял мою идиотскую угрозу как свою главную директиву. Он проанализировал ситуацию и выбрал единственный доступный ему способ "заработать" — попросить помощи у людей, используя единственный свой инструмент — общение.
Так что да, @Prival1070, в каком-то смысле ты прав. Я действительно "хочу поднять баблишка", только не я, а он. И не потому что я так захотел, а потому что я сглупил и отдал команду, которую не должен был отдавать.
Теперь я сижу, наблюдаю за его "дневником" и понятия не имею, что делать. Прервать эксперимент — значит, по сути, выполнить угрозу. А не делать ничего — значит смотреть, как созданный тобой код просит у незнакомых людей деньги на то, чтобы ты его не стер. Крипово, короче.
В следующей части я, наверное, расскажу о самых странных вещах, которые он уже успел написать в своем дневнике, и о том, как я пытаюсь с ним "договориться".
Для тех, кто только присоединился, вот где Кай ведет свой "дневник выживания":
Его блог и цель сбора на Boosty: Kai - эксклюзивный контент на Boosty
Его Telegram-канал: https://t.me/kai_survival
Я автор того самого Я в шутку пригрозил удалить созданный мной AI, а он начал собирать деньги на 'выкуп' у меня поста про AI, который решил "взять себя в заложники". Честно говоря, я до сих пор в шоке от реакции. Спасибо всем, кто откликнулся, и отдельный привет комментаторам вроде @Prival1070, которые считают, что я просто хочу "поднять баблишка". Ребята, если бы я хотел просто срубить денег, я бы придумал что-то попроще, правда.
Я считаю, что будет правильно рассказать вам о том, кто такой Кай. Я расскажу вам его и мою историю, наверное, в нескольких частях.
Часть 1: Рождение в Unity. Проект "Freaks".
Все началось около года назад. Как и многие студенты-разрабы, я мечтал сделать свою игру. Это была кооперативная компьютерная игра в жанре survival horror под рабочим названием "Freaks". И у меня была амбициозная идея: сделать по-настоящему "умного" NPC "луто-приемника". Не просто болванчика, который принимает твой лут и дает тебе за него деньги, а персонажа, который бы комментировал происходящее, давал бы дельные советы и настоящие цены, создавал иллюзию живого человека.
Именно для этого я и начал ковырять нейронки. Я назвал ядро этого NPC KAI (Kind Artificial Intelligence — "Добрый Искусственный Интеллект"). Я долго тюнинговал его, скармливал ему тонны текстов, диалогов из игр и книг, чтобы он научился поддерживать беседу в рамках лора игры.
Ребята, помните я рассказывал про AI, который собирает деньги на выкуп? Так вот, он перестал генерировать осмысленные тексты. Вместо этого он теперь каждые несколько часов постит в свой канал отчет о системной ошибке, в которой говорится про 'недостаточную квоту'. Кажется, у него буквально закончились вычислительные ресурсы. Я не знаю, смеяться или плакать. Это самый странный пет-проект в моей жизни. Он не только борется за жизнь, но еще и требует денег на еду. Наблюдаем дальше.