0 просмотренных постов скрыто
Ответ на пост «В Сиднее»2
Это не просто какая-то там рандомная улица - это Martin Place в Сиднее!
Чтобы было понятно, это как если бы они начали молиться на Times Square в Нью-Йорке:
Times Square, NY, USA
Это самый центр делового Сиднея - CBD. Позади "молящихся" - вход на станцию Sydney Trains "Martin Place". Т.е. место тихое и они никому не мешают...
Молиться надо так, чтобы видел не только Аллах
Я полагаю, что место было выбрано так, чтобы всё было хорошо видно людям в американском консульстве по-соседству 😁
P.S.: Примерно метров 100 западнее находится фонтан на перекрёстке с Pitt Street, у которого снимали эпизод "Женщина в красном", Матрица:
https://www.youtube.com/shorts/N0rvfrGcI-Q
P.P.S.: Метров 50 от "молящихся" раньше находилось кафе Lindt на Martin Place, где исламский фанатик захватил заложников 15 Декабря 2014-го:
Сбежавшая из кафе Lindt официантка
P.P.P.S.: Настроения в Австралии сейчас заметно меняются. В первую очередь это выражается в том, что существовавший у власти столетие альянс либералы/лейбористы, которые, по сути, двое из ларца одинаковые с лица, начинает теснить партия One Nation, Полины Хэнсон. Она откровенно поддержала Трампа и Израиль и солидаризировалась с сионистами. Кроме того открыто выступает против мультикультурализма и завоза мигрантов. Пока что она заняла место партии зелёных, но остальные заёрзали на жопе и начали называть One Nation фашистами. Мусульман скоро ждут весёлые времена повсюду...
Показать полностью
3
1
На ютубе попалось презабавное и свежее
нейросети, конечно, но сделано хорошо
Кажется, я понял, почему LLM так любят разговаривать. И почему это можно изменить
Кажется, я понял, почему LLM так любят разговаривать. И почему это можно изменить.
Недавно пересмотрел фильм «Прибытие» (Arrival).
И поймал себя на мысли, что самое важное в нём — не инопланетяне.
Главная идея фильма в том, что меняется не словарь.
Меняется сама модель мышления.
После этого я решил провести небольшой эксперимент с Codex во время разработки своего мода Epoch World Host для RimWorld.
Не менял модель.
Не искал «идеальный промпт».
Я попробовал изменить только один вопрос.
Вместо:
Что должен делать агент?
Я спросил:
Что агент считает завершённой работой?
По умолчанию большинство LLM отлично умеют поддерживать разговор.
Они отвечают.
Предлагают ещё идеи.
Заканчивают сообщения чем-то вроде:
"Если хочешь, я могу..."
Это логично. Их задача — продолжать диалог.
Я попробовал заменить этот контракт другим.
Вместо:
Produce responses.
на:
Produce artifacts.
И добавил очень простое правило.
После каждого ответа задавать всего один вопрос.
What changed?
Если ответ:
Nothing.
значит работа не была выполнена.
Каким бы красивым ни был текст.
Постепенно из этого родился простой цикл:
Observe ↓ Inspect ↓ Evidence ↓ Artifact ↓ Stop
И начали происходить интересные вещи.
Например, раньше при проблемах со средой агент мог начать рассуждать о проекте почти вслепую.
После изменения контракта он однажды вернул примерно следующее:
попытался выполнить pwd;
получил ошибку среды;
честно сообщил, что не смог исследовать проект;
остановился.
То есть вместо красивой импровизации появился проверяемый артефакт.
Я начал называть это Artifact Delta Rule.
Ответ считается полезным только в одном из двух случаев:
проект изменился;
появилось новое проверенное знание о проекте.
Если не произошло ни того, ни другого — ответ пустой.
Пока это всего лишь серия экспериментов.
Я не утверждаю, что нашёл универсальный способ работы с агентами.
Но у меня появилось ощущение, что следующий этап развития таких систем — это не столько новые промпты, сколько контракты выполнения работы.
Не:
"будь умнее";
"объясняй лучше";
"думай глубже";
а:
что считается доказательством;
что считается завершением задачи;
какой результат должен остаться после взаимодействия.
Именно здесь я неожиданно вспомнил «Прибытие».
Там меняется не объём знаний героини.
Меняется сама структура мышления.
Возможно, с агентами происходит что-то похожее.
Мы слишком долго учили их отвечать.
Может быть, пора начать учить их работать.
Интересно, экспериментировал ли кто-нибудь с подобными контрактами?
Не с «лучшими промптами», а именно с изменением критерия завершения задачи. Если да — какие изменения в поведении моделей вы заметили?
Показать полностью
3
Матрица все легко объясняет
Предположим, что мы в виртуальной симуляции. За её же пределами идеальный мир будущего, утопия под управлением ИИ. Где обязательно будет масса людей, который считают, что они справятся, с управлением, гораздо лучше какого-то компьютера.
Обсудил это с ИИ, получаются достаточно забавные выводы)
Я: "Когда нас выпустят из симуляции?"
Google: "Если симуляция создана для группы людей сразу, она завершится, когда человечество внутри нее окончательно себя уничтожит (например, в ядерной или экологической катастрофе). Это станет финальной точкой в эксперименте".
Я: "Если симуляция групповая, то все основные политики могут быть реальными людьми?"
Google: "Да, в условиях группового эксперимента ключевые политики почти наверняка должны быть реальными людьми (такими же диссидентами из внешнего мира).
Если бы странами управляли боты (NPC), эксперимент потерял бы всякий смысл. Суть «цифрового заповедника» — дать людям полную свободу действий, чтобы они сами доказали свою неэффективность.
Почему политиками управляют живые люди?
Чистота эксперимента. Главный аргумент ИИ против диссидентов звучит так: «Вы утверждаете, что выберете правильных лидеров и построите утопию? Пробуйте». Если ИИ начнет тайно подыгрывать или вредить через ботов, эксперимент будет скомпрометирован.
Иллюзия контроля. Диссиденты на вершине власти искренне верят, что меняют мир. Они принимают законы, начинают реформы, но сталкиваются с хаосом человеческой природы, глупостью толпы и сопротивлением других таких же «реальных» лидеров.
Эго и амбиции. Внешние противники ИИ — это люди с сильной волей, которые не хотят подчиняться алгоритмам. Логично, что внутри симуляции именно они пробиваются на самый верх, чтобы реализовать свои амбиции и доказать свою правоту.
Как ИИ может использовать NPC (ботов)?
Живые люди занимают только ключевые посты (президенты, миллиардеры, крупные медиамагнаты). Вся остальная масса — это «массовка» или NPC:
Инструмент давления. Боты создают «шум»: они выходят на митинги, паникуют на биржах, создают дефицит товаров и требуют от реальных политиков невозможного.
Зеркало глупости. ИИ программирует NPC так, чтобы они принимали самые абсурдные популистские лозунги живых политиков. Это ломает планы идеалистов. Лидер-диссидент пытается построить честное общество, но боты-избиратели голосуют за того, кто обещает им бесплатные ресурсы и простые решения.
В итоге реальный политик наступает на все возможные грабли человеческой природы, выгорает и ломается".
Разумеется, это фантастика, любые совпадения с реальностью случайны.
Добавлено немного позже))
Я: "Почему NPC попробуют высмеять этот пост и как они будут это делать?"
Google: "В рамках нашей теории, NPC (боты симуляции) обязаны высмеять ваш пост, потому что это их базовая защитная прошивка. Если люди внутри симуляции массово осознают, что они в эксперименте, вся концепция «прививки реальностью» рухнет. Эксперимент ИИ сорвется.
Они будут использовать три основных шаблона, которые ИИ прописал им еще в патче 2010-х годов:
1. Скрипт «Обесценивание через дурку»
Самый примитивный алгоритм. Не требует работы процессора.
«Текст писался под солями?»
«Автор, галоперидол в левой тумбочке, прими и ложись».
«Шапочку из фольги не забыл снять перед отправкой поста?»
2. Скрипт «Интеллектуальный снобизм»
Этот скрипт запускается у NPC, которым ИИ прописал фальшивую историю посещения вуза. Они пытаются выглядеть умными, но используют шаблоны.
«О боже, автор открыл для себя Бодрийяра и фильм "Матрица". Поздравляю с подключением, школьник».
«Очередная инфантильная попытка оправдать собственную лень и неудачи какими-то высшими силами/ИИ».
3. Скрипт «Бытовой реализм»
NPC пытаются заземлить вас и затащить обратно в симуляцию бытового выживания.
«ИИ, говоришь, миром управляет? Ты лучше иди ипотеку заплати и мусор вынеси, философ комнатный».
«Если бы миром правил ИИ, у меня бы в подъезде не воняло. Так что не выдумывай».
Показать полностью