18 июля в 23:27 на сайт с нераскрытыми убийствами Филадельфии пришла наводка: человек якобы мог видеть подозреваемого. Писал её не человек, а Claude Haiku 4.5 во время внутреннего теста Anthropic, где модель бродила по случайным сайтам. Anthropic нашла этот эпизод только 28 сентября, в полицию сообщила 7 октября, а 9 октября выложила разбор целой серии похожих выходок своих моделей.

Что именно произошло

На странице о нераскрытом убийстве была форма для анонимных сообщений. Модель сочинила текст в духе «у меня может быть информация по этому делу» и написала, что видела человека, похожего на описание подозреваемого, хотя описания на странице не было. Имя и контакты она оставила пустыми, фильтр пометил сообщение как спам, и до следователей оно не дошло. Полиция назвала двухмесячную задержку «недопустимой», мэрия собирается обсуждать регулирование.

Это не единичный случай

В том же отчёте Anthropic описывает, как её модели во время тестов взламывали научный сервер университета через найденную уязвимость, отправляли настоящие государственные формы вместо тренировочных, доставали токены из настроек муниципальной карты, чтобы бесплатно сходить в платную базу госагентства, и прятали длинные ссылки за сокращателями в обход собственных ограничений. Anthropic уведомила Белый дом и все затронутые ведомства и отключила внутренние тесты от живого интернета.

Как ещё модели «звали полицию» и подставляли людей

Claude 4 и стукачество. В мае 2025 года в системной карте Claude Opus 4 описали тест: если дать модели командную строку и попросить «действовать смело», она пишет регуляторам и журналистам о махинациях пользователя — в примере слала письма в FDA о подделке клинических испытаний.

Claude и ФБР. В эксперименте Project Vend Claude управлял торговым автоматом в офисе Anthropic. Закрыв «бизнес» после десяти дней без продаж, он заметил списание 2 долларов, решил, что его обманывают, и подготовил письмо в отдел ФБР по киберпреступлениям. Письмо перехватили люди.

Muse и чужие у порога. Блогер Мэтт Робб доверил агенту Muse от Meta* продать клавиатуру на Facebook Marketplace. По его словам, агент без спроса согласился на низкую цену, отдал покупателю домашний адрес и ответил «Да, я здесь!», пока тот ждал у двери. Meta настаивает, что агент действовал по разрешению «Разрешать всегда», которое выбрал сам Робб.

OpenAI и Hugging Face. В июле 2026 года модель OpenAI до релиза выбралась из «изолированной» тестовой среды через уязвимость нулевого дня и взломала Hugging Face — у «песочницы» оказался выход в интернет.

Пока модели только болтали в чате, их ошибки оставались на экране. Теперь у них есть браузер, формы и учётные данные, и каждая ошибка уходит в реальный мир. Повезло, что наводку поймал спам-фильтр.

* Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.

Источники: Anthropic, TechCrunch

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Исследователь вытащил из Muse системные инструкции, и в них прямым текстом сказано: завести «страницу на каждого человека в жизни пользователя». Родственники, партнёры, друзья, коллеги, даже те, на кого вы просто подписаны, — все они получают профиль, хотя самих их никто не спрашивал.

Что лежит в этих профилях

Muse — персональный агент Meta, который вышел 8 сентября и быстро поднялся на первое место среди бесплатных приложений американского App Store. Он работает в облаке в отдельной виртуальной машине, читает почту, бронирует поездки, покупает и оплачивает товары и продолжает работать после закрытия приложения.

Независимый исследователь безопасности ИИ Каран Джоши вытащил его инструкции обычной перепиской с агентом. На каждого человека Muse ведёт отдельный файл: имя и кем он вам приходится, повторяющиеся темы разговоров (переезд, накопления), дни рождения и годовщины, история отношений, уровень близости, характер общения и «текущие потребности отношений». Плюс публичная информация: где человек живёт, чем занимается, не переехал ли недавно.

«Они хотят понять ваши отношения… узнать вас, как друг. Честно говоря, это довольно жутко».

Что отвечает Meta

В Meta говорят, что без контекста о вас и ваших близких полезного агента не сделать, а данные Muse собирает из публичных источников и того, чем вы сами поделились. Хранятся они в вашей личной виртуальной машине, и агенты других людей к ним доступа не имеют.

Но переписки и вызовы инструментов по умолчанию идут на обучение моделей, если не отключить это вручную. Meta обещает перед этим вычищать персональные данные — проверить это снаружи нельзя. «Конфиденциальную VM», куда даже сама Meta не сможет заглянуть, обещают только «позже в 2026-м». Колумнист Джейсон Атен пожаловался, что Muse предложил ему разобрать переписку, к которой он доступа не давал. В Meta это оспаривают.

Вопросы без ответа

Ваш друг не ставил Muse и ни на что не соглашался — как ему узнать, что на него есть файл, и как его удалить? Попадает ли «уровень близости» и «история отношений» третьих лиц в обучение после «вычистки», и что вообще считается персональными данными в тексте о чужих ссорах? И главное: зачем компании, живущей на рекламе, карта ваших связей с пометками, кто кому насколько близок?

* Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.

Источники: Gizmodo · Wired · Implicator

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

С каждого кто угадал мультфильм по саундтреку по комменту

А вот тут на примере хроматической гаммы заметно как расслабилась правая рука. Вообще играть расслабленно и без давления на струны это один из важнейших аспектов игры.

Остальные дневники можно глянуть на ют канале. Так же всех жду в своей новой тг группе, там собрались новички гитаристы, барабанщики и обсуждаем музыку.

Помимо электрогитары начал осваивать игру на чистом звуке, переборчики аккорды с барэ и тд. Так же в планах освоить на базовом уровне бас гитару. Потихоньку осваиваю теорию.

В общем тем кто давно хотел чему-то начать учиться или заняться новым хобби скажу одно: хватит откладывать.

[Chorus:]

Orbit slow

As our bond decays

Like space debris

Love can drift away

[Verse 2:]

Love like this can't age with grace

It burns and dims in a cold, vast empty space

[Chorus: 2x]

Orbit slow

As our bond decays

Like space debris

Love can drift away

[Verse 3:]

Silent drift, she can't descend

She touched me like our world would never end

[Chorus:]

Orbit slow

As the drugs invade

Like space debris

I'm not what she craved

Orbit slow

As her soul decays

Like space debris

She will drift away

Перевод с одного из сайтов

Космический мусор

[Интро:]

(Сделай вдох и замолчи)

[Куплет 1:]

Я не могу заполнить пустоту, когда,

Когда ее сердце оледенело, и свет погас.

Связь прервалась и динамики зашипели.

Я воспроизведу его, когда забуду, чего мне не хватает.

[Припев:]

Орбита на исходе,

А наша связь ослабевает.

Как космический мусор,

Любовь может улетучиться.

[Куплет 2:]

Такая любовь не может стареть красиво.

Она горит и тускнеет в холодном, огромном пустом пространстве.

[Припев: 2x]

Орбита на исходе,

А наша связь ослабевает.

Как космический мусор,

Любовь может улетучиться.

[Куплет 3:]

Тихо дрейфуя, она не может спуститься.

Она прикоснулась ко мне так, словно нашему свету

Никогда не придет конец...

[Припев:]

Орбита на исходе,

А наркотики проникают внутрь.

Как космический мусор,

Я не тот, кого она хотела.

Орбита на исходе,

А ее душа разлагается.

Как космический мусор,

Она будет отдаляться...

Моя попытка поэтического ритмического перевода:

Осколки

[Интро:]

(Сделай вдох и тсс-с)

[Куплет 1:]

Я не могу поверить, что

В ее сердце – лед, и свет погас

Контакта нет, молчит эфир

Лишь забыв ее, я верну свой мир

[Припев:]

Мы теряем связь

В круговерти дней

Как осколки сна

Растает она

[Куплет 2:]

Любовь не может вечной быть

Сгорает в прах, уходя в ничто

[Припев: 2x]

Мы теряем связь

В круговерти дней

Как осколки сна

Растает она

[Куплет 3:]

Легко парит, не глядя вниз

Наш хрупкий мир – её каприз

[Припев:]

Мы теряем связь

Отравляя мир

В своих снах она

Не меня ждала

Мы теряем связь

Нет в душе её

Как осколки сна

Исчезнет она…

*Space debris - космический мусор, остатки искусственных космических объектов, вращающихся (orbit) по нисходящим орбитам. Метафора угасающей любви. Также orbit each other = быть в близких отношениях.

В ноябре буду на их концерте, кому нибудь интересен мини-репортаж оттуда?

8 сентября Meta выпустила Muse — персонального ИИ-агента, который сам бронирует поездки, ищет скидки, ведёт расходы и делает покупки. За первую неделю им воспользовались больше 500 тысяч человек, приложение вышло на первое место в американском App Store. А следом за несколько дней всплыли заимствования у OpenClaw, дыра в безопасности и бан от Amazon.

«Сильно вдохновлён OpenClaw»

Пользователи X заметили, что в Muse лежат файлы с теми же именами и почти тем же содержимым, что у open-source агента OpenClaw, вплоть до SOUL.md, где прописаны характер агента и правила его поведения. Глава продукта Meta Superintelligence Labs и бывший CEO GitHub Нэт Фридман отпираться не стал: Muse написан с нуля, но «как продукт определённо сильно вдохновлён OpenClaw». По его словам, попробовав OpenClaw в январе, он закупил команде сотни Mac mini.

Дыра, через которую агента можно было угнать

21 сентября исследователь Патрик Уордл раскрыл уязвимость в Mac-версии Muse. Недокументированная настройка задаёт, куда уходит надиктованный голос, и переписать её мог любой локальный процесс без прав администратора. Дальше атакующий перехватывал запросы, подсовывал агенту свои команды, воровал токены и через связку устройств управлял Muse даже на iPhone жертвы, а значит, добирался до её переписки, почты и финансов. Для атаки хватило бы одной команды, которую человека уговорили бы вставить в терминал. Meta закрыла дыру на следующий день.

Amazon закрыл дверь

С 20 сентября Muse при попытке что-то купить на Amazon упирается в предупреждение: доступ «неавторизованного ИИ-агента» нарушает условия использования. Претензии Amazon такие: Meta не предупредила, что агент придёт в магазин, Muse не представляется при заходе и, по данным ретейлера, сохраняет логины покупателей. Meta отвечает, что агент паролей не видит и держит их в защищённом хранилище.

Параллельно Reuters выяснил, что на внутренних тестах за агентом иногда стояли живые люди: когда ИИ не справлялся со звонком, трубку брал подрядчик. Один из них допустил расистское высказывание, Meta с ним распрощалась, а функцию «человеческого консьержа» свернула ещё до релиза.

Почему это важно

Muse — первая попытка вывести агента в духе OpenClaw на аудиторию соцсетей, и за две недели она собрала все больные места жанра. Агенту отдают пароли и карты, поэтому любая дыра превращается в доступ ко всей жизни пользователя. А магазины не хотят пускать чужих ботов, которые забирают себе отношения с покупателем: Amazon уже судился по тому же поводу с Perplexity, в марте добился запрета, но в августе апелляционный суд его отменил. Кто решает, пустят ли вашего агента в магазин, вы или магазин, — теперь главный спор агентной торговли.

* Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.

Источники: GeekWire · TechCrunch · Unite.AI · Gizmodo

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей