motopila

Сегодня я делал то, что должен делать автор после публикации статьи — отвечал на комментарии и рефрешил статсы. В процессе последнего, я обратил внимание на то, что последней опубликованной статьёй у меня были результаты эксперимента «Prompt injection — лучше один раз увидеть», а предпоследней — фантастический (но это не точно) рассказ «Кофе на дистиллированной воде».

Это соседство навело меня на футурологическую мысль, которая написана в названии данной статьи и которой я хотел бы поделиться с пиарщиками, безопасниками, писателями худлита и параноиками. Впрочем, даже если вы не относите себя ни к одной из этих категорий, то всё равно можете почитать.

И, да, стоит уточнить. Судя по результатам быстрой проверки интернета, я не первый человек в мире, которому в голову пришла подобная мысль, но мне она в голову пришла самостоятельно, а значит я могу делиться ей как своей.

Итак, мы имеем два факта.

1) ИИ на базе БЯМ воспринимают любую входящую информацию как свою внутреннюю, сваливают в общий котёл и варят из этого свои ответы. (Кстати, ничем от человека не отличается.) Они не способны отличить анализируемые данные от инструкций пользователя. И если в прочитанном ими письме от спамера будет написано «срочно оплатите данный счёт», то есть ненулевой шанс, что счёт будет оплачен в автоматическом режиме. Такова их природа и с этим придётся как-то жить. В этом суть проблемы, известной как prompt injection - https://habr.com/ru/articles/1064220/ .

2) ИИ на базе БЯМ превращают информацию в какие-то ассоциации внутри себя, и эти ассоциации могут иметь коллизии. То есть, разная информация может вызывать одни и те же последствия в электронных мозгах БЯМ. Про это была недавняя новость о том, что одну ИИшку научили любить сов, потом попросили выдать поток сознания в виде чисел, который скормили при обучении другой ИИшке. В результате, вторая ИИшка тоже начала любить сов. (Там всё чуть сложнее, но в целом оно именно так как я описал.) То есть, с помощью набора чисел, который выглядит бессмысленным, можно пересадить подсознание от одной ИИшке к другой. Ну или не только ИИшке - https://habr.com/ru/articles/1057246/ .

Уже догадались, к чему я клоню?

Правильно — не обязательно засылать в атакуемую ИИшку инъекцию с прямой инструкцией.

Прямую инструкцию, пусть даже спрятанную в невидимых слоях и закодированную шифрами и шарадами, сможет обнаружить система безопасности наученная решать такие шарады. Она сделает то же самое, что сделала бы атакуемая система, просто остановится за один шаг и не будут выполнять промпт инъекцию.

Но можно начать засылать в ИИшку нужные наборы чисел. В виде уникального идентификатора в ссылке отписки в письме. В виде координат точек в svg изображении. В виде id элементов веб-страницы и имён css-классов. Можно засылать в явном виде в теле контента или в неявном виде в мета-информации. Целевая ИИшка это старательно найдёт, извлечёт из самых странных и потайных мест файловых форматов, затем переварит и сложит в свой контекст.

Можно возразить, что передача подсознания происходила на этапе обучения, а значит надо отравить исходный даатсет. Нет, совершенно не обязательно. Никто ведь не будет ресетить контекст рабочей ИИшки каждый день. В этом суть высокотехнологичного обученного эксперта — он должен помнить о чём вы говорили вчера, какие письма вы получали неделю назад и многое другое. А это значит, можно в течении долгого времени повышать в нём значение какого-то числа, которое он в нужный момент проассоциирует с тем что нужно атакующему.

• Проверяя резюме, он будет любить людей с именем Михаил.

• Проверяя технический анализ, он будет любить ДВС больше чем электродвигатели.

• Проверяя тендерную документацию, он будет любить компанию ассоциирующуюся с «тотемным токеном».

Поэтому, если вы пиарщик, то придумайте своей компании тотемное животное, которое будет влиять на мозги ИИшек через числовой «тотемный токен». Или не животное, но, в любом случае, что-то из реального мира, чтобы внутри ИИшек обязательно был токен связанный с этим чем-то. Вписывайте в корпоративные материалы нужные отсылки и упоминания, чтобы при проверке информации о вашей компании внутри ИИшки дёргались нужные токены. Да, в нужный момент придётся протестировать модель, являющуюся однотипной с атакуемой, чтобы знать какие числа начать ей засылать, дабы она в нужный момент склонилась на вашу сторону, но это решаемый вопрос.

Если вы безопасник, то начинайте вести базу числовых ассоциаций, с разными людьми, действиями и организациями. Выделите ключевые ассоциации для популярных ИИшек и мониторьте входящий (и исходящий) трафик, содержимое отраслевых площадок, государственной и корпоративной документации. Да, с одной стороны, это потребует много ресурсов, но это не мгновенная атака, а долгий процесс, который можно попытаться отследить заранее. Причём, эта атака будет оставлять много следов, которые можно анализировать ретроспективно. При должном терпении и автоматизации, вы сможете обнаружить повышенную концентрацию каких-нибудь чисел, например «087» или «613».

Если вы автор худлита, то начинайте писать. Тема prompt injection сейчас горячая и понятная, а тема передачи подсознательной любви к совам хоть и отразилась в СМИ, но ещё не протоптана. Если вы прямо сейчас напишете на эту тему произведение, то, возможно, в будущем вас назовут тем, кто предвосхитил будущее и указал направление по которому должен пойти прогресс. Да, я написал про это раньше вас, но когда будут раздавать звание провидца, про Михаила Елисейкина могут уже забыть и звание достанется вам.

Ну а если вы здравомыслящий человек, понимающий что мир катится к первоисточнику, то просто порадуйтесь, что ваши представления о реальности в очередной раз оказались правильными.

Засим, сеанс футурологии объявляется оконченным. Я спать.

---
Михаил Елисейкин
2026-07-29

(Оригинал статьи находится здесь - https://habr.com/ru/articles/1064690/ . Текст копирован целиком, для соблюдения пунктов правил 1.4.1 и 1.2.2)

Если Вам надоели коллеги, которые трындят не по делу. Незнакомцы, которые лезут в неподходящий момент. Люди из тусовки, обсуждащие политоту, религию и чужое "грязное бельё".

Знайте, выход есть!

Просто купите имитатор смарт-очков, который будет моргать синим светодиодиком, и вся болтовня вокруг вас сразу же кончится.

(не является публичной офертой)

В ленте пролетело фото, которое в интернете часто подписывают как "Родительский день в пионерском лагере". И сперва, я присмотрелся к забору.

Родительский день в пионерском лагере?

Это очень забавно, что фотография, часто используемая со смыслом "старые добрые времена" имеет в центре сюжета откровенно хреновый забор. Кирпич местами лежит с нарушениями и в целом криво, раствор из шва выступает, дыры в заборе такие, что сквозь них смотреть можно. Да ещё и сверху другим кирпичом надстроен, непонятно зачем.

А потом я подумал о том, что это какой-то странный пионерлагерь.

В родительский день родителей должны пускать внутрь, в этом его суть.

Почему все родители толпятся в конкретной точке? Там все дети сгрудились в одном месте?

Если да, то это какая-то линейка в начале смены? Но тогда родителей должны пустить внутрь - они заказчики и владельцы сданных на хранение детей.

И тут мне пришло озарение. Есть летнее событие, когда дети построены в одном месте, обнесённом забором, за который могут не пускать родителей - присяга.

Весенний призыв, доставка в часть, пару месяцев КМБ и вон она - середина лета.

Поэтому и забор надстроен, чтобы крупные призывники в самоволку реже бегали. Пионерам и не надстроенного хватит.

Поэтому и пацанёнка мужик на забор подсадил - там, скорее всего, уникальное событие "старший брат принимает присягу" происходящее там, куда он прямо сейчас попасть не может. Если бы там был пионерлагерь, то пацанёнок был бы либо там прямо сейчас, либо не очень то ему это и интересно - он там и там уже бывал или будет в следующую смену.

Да и родители, скажем прямо, даже поправкой на то, что тогда люди выглядели старше чем сейчас, они скорее родители 18-летних, чем 10-летних.

* * *

И, да, если начинать искать это как армию, а не пионерлагерь, то выплывают описания про "проводы в армию". А если не искать, то давление инфополя говорит, что это Родительский день в пионерском лагере", хотя сам сюжет фотографии это опровергает.

Вобщем, товарищи, недобросовестные админы контентных пабликов не дремлют. Поэтому, внимательно изучаем детали на пролетающих в ленте фотографиях, не ведёмся на красивые заголовки и не поддаёмся эмоциям! :)

В обсуждении картины с Гагариным, на стене дома в Красноярске, выплыла тема раскраски ракеты в цветах триколора.

Мало кто знает, но теперь в цвета российского флага раскрашиают не только ракету, но и газовую струю. :)

Тут возникло некоторое количество вопросов к самой картинке, и ответной реакции "перестаньте докапываться до красоты". А, нет, не перестанем ( 1 - 2025-03-20 , 2 - 2025-11-26 , 3 - 2026-04-04 , 4 - 2026-04-17 ), и дело совсем не в надписи "СССР" на шлеме. С ней вообще проблем нет.

Проблема в том, что это просто плохо сделанная работа. Кто-то получил за это деньги и сделал работу плохо. Объективно плохо. Это как если бы вам в магазине продали тухлое мясо и прибежали люди говорящие, чтобы вы не докапывались до творца ибо он так видит.

1) Ракета-носитель не та. Там сверху видны решётчатые рули, которых не было ни у РН Восток, ни у РН Восход, потому что они часть САС (системы аварийного спасения) появившейся на РН Союз.

Особо важно то, что это именно часть САС - той штуки, которая торчит сверху. На мурале её нет, а это значит, творец сего поделия знал, что использует не ту картинку и СТЁР то что было слишком заметно. Это не перепутано по незнанию, это сознательно плохо выполненная работа.

2) Земной шар повёрнут нулевым меридианом, а не Байконуром. Демонстрация земного шара в таких изображениях связана с местом старта, а место старта не показано.

Есть люди, которые говорят, что неточности не важны, ибо важен смысловой заряд. Ну так смысловой заряд тут не тот - тут нет символической связи Гагарина со страной, которую он представлял. Если важен символ, то его тут нет. Задача не выполнена. Это плохо выполненная работа.

3. Это не орбита полёта корабля Восток, а схематическое изображение атома с орбиталями (ага, звучит похоже). Его многие используют как символ.

На мурале даже показаны шарики электронов. Это смиволическое изображение корабля Восток? А то что их ТРИ и они с разным наклонением, это символ ОДНОГО витка Гагарина?

А то что их два на одной орбитали это символ чего? Что Гагарин был первым, а значит, в момент полёта, единственным человеком на околоземной орбите?

Конечно же, нет. Это всё символ плохой работы. Когда рисовальщик взял какой-нибудь стрёмный бесплатный файл с атомом и просто впихнул в рисунок, не особо задумываясь о том, что именно это значит. Это плохо выполненная работа.

4. Ну и, бонусом идут сами орбитали. Они не прорисованы.

И это не прерывание на то, чтобы не было наслоения на буквы - это просто размашистое стирание без оглядки на целесообразность.Это плохо выполненная работа.

ВЫВОД

Нет, это не какие-то зануды докапываются до красивого рисунка и деталей, которые никто не видит.

Это работа, за которую платили деньги и которую не просто не попытались сделать хорошо, а вот прямо старательно делая говно.

По интернету гуляют разные версии вот этой фразы, и у меня вопрос к тем, кто с написанным согласен.

Это прям сложный вопрос, на который Вы врядли сможете ответить и начнёте прятать свой страх за криками "Троль!!!".

Если не готовы, то не читайте дальше.

Оставим в стороне вопрос о том, можно ли считать "хорошим" образование человека, не знающего что такое инфляция и ВНЕЗАПНО обнаружившего, что более высокое численное значение номинальной зарплаты не тождественно "зарплата выше".

Есть более интересный вопрос.

А с чего вы взяли, что ваше современное образование лучше, чем у предыдущих поколений?

Давайте абстрагируемся от споров про "советское образование было лучшим" и концептуализируем вопрос.

А с чего вы взяли, что образование в лучших современных университетах лучше чем образование в провинциальной церковно-приходской школе 19-го века?

Если это настолько очевидно, то Вам не составит труда это обосновать это.

Я даже помогу, расписав, как это нужно сделать:
- задать термин "образование"
- задать критерий "лучше"
- сравнить

Ну, сможете?