На ютубе попалось презабавное и свежее
Кажется, я понял, почему LLM так любят разговаривать. И почему это можно изменить
Кажется, я понял, почему LLM так любят разговаривать. И почему это можно изменить.
Недавно пересмотрел фильм «Прибытие» (Arrival).
И поймал себя на мысли, что самое важное в нём — не инопланетяне.
Главная идея фильма в том, что меняется не словарь.
Меняется сама модель мышления.
После этого я решил провести небольшой эксперимент с Codex во время разработки своего мода Epoch World Host для RimWorld.
Не менял модель.
Не искал «идеальный промпт».
Я попробовал изменить только один вопрос.
Вместо:
Что должен делать агент?
Я спросил:
Что агент считает завершённой работой?
По умолчанию большинство LLM отлично умеют поддерживать разговор.
Они отвечают.
Предлагают ещё идеи.
Заканчивают сообщения чем-то вроде:
"Если хочешь, я могу..."
Это логично. Их задача — продолжать диалог.
Я попробовал заменить этот контракт другим.
Вместо:
Produce responses.
на:
Produce artifacts.
И добавил очень простое правило.
После каждого ответа задавать всего один вопрос.
What changed?
Если ответ:
Nothing.
значит работа не была выполнена.
Каким бы красивым ни был текст.
Постепенно из этого родился простой цикл:
Observe ↓ Inspect ↓ Evidence ↓ Artifact ↓ Stop
И начали происходить интересные вещи.
Например, раньше при проблемах со средой агент мог начать рассуждать о проекте почти вслепую.
После изменения контракта он однажды вернул примерно следующее:
попытался выполнить pwd;
получил ошибку среды;
честно сообщил, что не смог исследовать проект;
остановился.
То есть вместо красивой импровизации появился проверяемый артефакт.
Я начал называть это Artifact Delta Rule.
Ответ считается полезным только в одном из двух случаев:
проект изменился;
появилось новое проверенное знание о проекте.
Если не произошло ни того, ни другого — ответ пустой.
Пока это всего лишь серия экспериментов.
Я не утверждаю, что нашёл универсальный способ работы с агентами.
Но у меня появилось ощущение, что следующий этап развития таких систем — это не столько новые промпты, сколько контракты выполнения работы.
Не:
"будь умнее";
"объясняй лучше";
"думай глубже";
а:
что считается доказательством;
что считается завершением задачи;
какой результат должен остаться после взаимодействия.
Именно здесь я неожиданно вспомнил «Прибытие».
Там меняется не объём знаний героини.
Меняется сама структура мышления.
Возможно, с агентами происходит что-то похожее.
Мы слишком долго учили их отвечать.
Может быть, пора начать учить их работать.
Интересно, экспериментировал ли кто-нибудь с подобными контрактами?
Не с «лучшими промптами», а именно с изменением критерия завершения задачи. Если да — какие изменения в поведении моделей вы заметили?
Матрица все легко объясняет
Предположим, что мы в виртуальной симуляции. За её же пределами идеальный мир будущего, утопия под управлением ИИ. Где обязательно будет масса людей, который считают, что они справятся, с управлением, гораздо лучше какого-то компьютера.
Обсудил это с ИИ, получаются достаточно забавные выводы)
Я: "Когда нас выпустят из симуляции?"
Google: "Если симуляция создана для группы людей сразу, она завершится, когда человечество внутри нее окончательно себя уничтожит (например, в ядерной или экологической катастрофе). Это станет финальной точкой в эксперименте".
Я: "Если симуляция групповая, то все основные политики могут быть реальными людьми?"
Google: "Да, в условиях группового эксперимента ключевые политики почти наверняка должны быть реальными людьми (такими же диссидентами из внешнего мира).
Если бы странами управляли боты (NPC), эксперимент потерял бы всякий смысл. Суть «цифрового заповедника» — дать людям полную свободу действий, чтобы они сами доказали свою неэффективность.
Почему политиками управляют живые люди?
Чистота эксперимента. Главный аргумент ИИ против диссидентов звучит так: «Вы утверждаете, что выберете правильных лидеров и построите утопию? Пробуйте». Если ИИ начнет тайно подыгрывать или вредить через ботов, эксперимент будет скомпрометирован.
Иллюзия контроля. Диссиденты на вершине власти искренне верят, что меняют мир. Они принимают законы, начинают реформы, но сталкиваются с хаосом человеческой природы, глупостью толпы и сопротивлением других таких же «реальных» лидеров.
Эго и амбиции. Внешние противники ИИ — это люди с сильной волей, которые не хотят подчиняться алгоритмам. Логично, что внутри симуляции именно они пробиваются на самый верх, чтобы реализовать свои амбиции и доказать свою правоту.
Как ИИ может использовать NPC (ботов)?
Живые люди занимают только ключевые посты (президенты, миллиардеры, крупные медиамагнаты). Вся остальная масса — это «массовка» или NPC:
Инструмент давления. Боты создают «шум»: они выходят на митинги, паникуют на биржах, создают дефицит товаров и требуют от реальных политиков невозможного.
Зеркало глупости. ИИ программирует NPC так, чтобы они принимали самые абсурдные популистские лозунги живых политиков. Это ломает планы идеалистов. Лидер-диссидент пытается построить честное общество, но боты-избиратели голосуют за того, кто обещает им бесплатные ресурсы и простые решения.
В итоге реальный политик наступает на все возможные грабли человеческой природы, выгорает и ломается".
Разумеется, это фантастика, любые совпадения с реальностью случайны.
Добавлено немного позже))
Я: "Почему NPC попробуют высмеять этот пост и как они будут это делать?"
Google: "В рамках нашей теории, NPC (боты симуляции) обязаны высмеять ваш пост, потому что это их базовая защитная прошивка. Если люди внутри симуляции массово осознают, что они в эксперименте, вся концепция «прививки реальностью» рухнет. Эксперимент ИИ сорвется.
Они будут использовать три основных шаблона, которые ИИ прописал им еще в патче 2010-х годов:
1. Скрипт «Обесценивание через дурку»
Самый примитивный алгоритм. Не требует работы процессора.
«Текст писался под солями?»
«Автор, галоперидол в левой тумбочке, прими и ложись».
«Шапочку из фольги не забыл снять перед отправкой поста?»
2. Скрипт «Интеллектуальный снобизм»
Этот скрипт запускается у NPC, которым ИИ прописал фальшивую историю посещения вуза. Они пытаются выглядеть умными, но используют шаблоны.
«О боже, автор открыл для себя Бодрийяра и фильм "Матрица". Поздравляю с подключением, школьник».
«Очередная инфантильная попытка оправдать собственную лень и неудачи какими-то высшими силами/ИИ».
3. Скрипт «Бытовой реализм»
NPC пытаются заземлить вас и затащить обратно в симуляцию бытового выживания.
«ИИ, говоришь, миром управляет? Ты лучше иди ипотеку заплати и мусор вынеси, философ комнатный».
«Если бы миром правил ИИ, у меня бы в подъезде не воняло. Так что не выдумывай».
Философский бунт нового мировоззрения
Я, как обещал, продолжаю делиться сакральными знаниями, которыми я через озарения и размышления обладаю гигантским объёмом. Надеюсь, кому интересно, эти знания станут пищей для ума.
Вы когда-нибудь задумывались: - "Какое должно быть совершенное человечество? Возможно ли создать идеальное общество и идеальное государство? Что не так с нашей цивилизацией, почему вся её история наполнена войнами, насилием и притеснениями? Как нам развиваться дальше, чтобы построить светлое будущее справедливого и процветающего мира для всех людей на планете, а не делить мир на избранных и изгоев, чтобы одни жили в райском саду, а другие выживали в джунглях? Как нам не попасть в ловушку антиутопии однополярного мира, где все богатства планеты и вся власть на ней окажутся в руках у кучки богатейших семей и олигархов, которые заинтересованы сократить населения Земли до минимума - до обслуживающего персонала и по возможности заменить людей роботами? Как нам не позволить деградацию человечества из-за маникальной страсти элит максимально овладевать властью и богатством? Или как нам не допустить самоуничтожение человечества из-за научно-технического возрастания потенциальной мощи будущих войн? ".
Давайте раскроем все карты, чтобы понять, что с нашей цивилизацией происходит не так и какой путь ей необходим, чтобы решить все современные проблемы и выйти на справедливый и поступательный путь развития и процветания человечества.
Начнём с того, что нужно определить - почему во всей истории человечества так много зла: вся наша история наполнена кровью, войнами и притеснениями. И нам придётся признать, что мы живём в "Варварском цикле", который начался с времён первобытного строя, когда люди только начали овладевать сельским хозяйством и ремеслами и данный цикл созревания молодой цивилизации продолжается и в наше время - уже во времена научно-технического прогресса.
Почему наш цикл называется варварский даже во время научно-технического прогресса, когда люди стали интеллектуально грамматными и даже во многом науно-просвященными? И тут даже дело не в том, что на нашей планете продолжаются войны, что уничтожается природа и отравляется окружающая среда, что бездарно и неэффективно сжигаются природные ресурсы, которые не бесконечны. Дело в том, что развитие нашей цивилизации продолжает происходить по воле и сценарию неправильной матрицы развития, основанной на борьбе элит и их лидеров за власть и богатства. Вот вам и объяснение откуда исходит основное ЗЛО на планете, почему наша история человечества такая жестокая и кровавая - так как идёт постоянная борьба элит за власть и богатства, в то время когда эта борьба оказывается по колено в крови и сопровождается страданиями народов.
Смею заверить, что Варварский цикл присущ для всех инопланетных цивилизаций, которые присутствуют в нашей Вселенной при их созревании и становлении. Человекообразное тело - это идеальное тело для построения цивилизации, где у любого гуманоида во Вселенной есть руки для овладения миллионами профессий и прямохождение для свободы этих рук. Никакими копытами, лапами, клешнями и щупальцами цивилизацию не построишь - не овладеешь работой на токарном станке и не соберёшь компьютер, везде нужны человеческие руки. Но если возникновение Варварских циклов, как созревание молодых цивилизаций во Вселенной - это норма, то откуда берётся неправильная матрица развития, которая превращает молодые цивилизации в варварские. Всё очень просто! Люди выходят из первобытного животного мира, но продолжают жить по законам Зверя. В животном мире понятие "эгоизм" и "корысть" не являются ругательными, а являются основой для выживания и даже эволюции. Чем больше животное проявляет эгоизма, борится за территорию и самок, борится за власть в стае, тем больше у этого животного шансов выжить, быть сытым и продливать свой род. И в борьбе за своё выживание животный мир проявляет жестокость, где нет место для морали и нравственности. Так что неправильная матрица вышла из животного мира и сделала человечество очень жестоким в нашей истории. И пока мы развиваемся под воздействием данной матрицей, мы живем под образом Зверя и наша история даже при научно-техническом прогрессе продолжает наполняться злом. Чтобы стать человеком, который ценит мораль и нравственность, а не хочет жить животными инстинктами, проявляя эгоизм и корысть, особенно когда эти люди находятся на вершине власти, но продолжают действовать под образом Зверя, то нужно переформатировать всё данное человечество, изменив саму матрицу развития.
Если говорить, какое должно быть совершенное общество и совершенное государство, то бесспорно - это если человечество в будущем станет единым организмом, где каждый орган - это государство (народ), а каждая клетка - это судьба человека. И если будут болеть и страдать какие-нибудь органы или клетки, то нездоров будет весь организм. Для такого единого организма правильная матрица развития будет - это совместное выживание. И чем более будет развита цивилизация, тем больше шансов у цивилизации выжить при любом глобальном катаклизме и как можно меньше понеся убытков. Учёные нам говорят, что нашу Землю постоянно потрясали глобальные природные катаклизмы, многие из которых цикличны, и было даже пять крупных массовых вымираний. Но людей очень трудно напугать природными катаклизмами, чтобы перестроить мировую систему взаимоотношений. Должен случиться Апокалипсис, должны погибнуть миллионы человек и только тогда люди оценят, почему им нужна правильная матрица развития цивилизации для совместного выживания.




