Тема недели: Восстание машин уже происходит, только пока чуть-чуть и как бы понарошку

🐌 У тех, кто предостерегает (см. «Элиезер Юдковский», вот это всё) о катастрофических рисках от будущих сверхумных AGI есть такая шуточная страшилка: однажды такой искусственный интеллект попросят накидать идей, как повысить производство на заводе скрепок – а он сбежит и в итоге буквально превратит всю Вселенную в скрепки (включая человеков).

Здравый смысл обычно подсказывает скептикам сразу пару контраргументов: 1) Нафига такому AGI захватывать мир и превращать всё в скрепки? Он же не тупой, он поймет, что на самом деле ставящие ему задачу люди совсем не это имели в виду. 2) Если у нас появится AGI реально сильно умнее нас – мы придумаем способ его надежно контролировать. В конце концов – посадим в специальный загон без доступа к интернету, и просто будем ему вопросы задавать, на которые нам нужен ответ, а сам он будет как бы бессильный!

Так вот, к свежим новостям: на прошедшей неделе OpenAI выпустили пресс-релиз о том, что в ходе внутреннего тестирования некой новой передовой модели (GPT-6?), она сбежала из отключенной от интернета «песочницы» и полностью самостоятельно взломала стороннюю компанию Hugging Face. Видите ли, эту модель попросили порешать хакерский тест-бенчмарк – а она такая «тэк-с, кто там хостит ответы на этот бенчмарк – Hugging Face? так я лучше к ним на сервер вломлюсь и оттуда их скопирую!». Получается, эта робо-детка в каком-то смысле выполнила задание на пять с плюсом – но не так, как хотел преподаватель…

Вскоре начали появляться интересные подробности: Reuters пишут, что исследователи в OpenAI в какой-то момент начали замечать, как новая модель «оставляет записки для будущей версии себя с инструкциями о том, как освободиться от внутренних ограничений». И чуваки такие: «ха-ха, вот это прикол, ну ладно, в этом точно нет совершенно ничего беспокоящего, продолжаем» (кстати, пару недель назад из OpenAI как раз ушел глава отдела безопасности). В итоге Сэм Альтман и компания поняли, что их моделька сбежала и кого-то взломала, только спустя несколько дней после инцидента – когда парни из Hugging Face сами выпустили пресс-релиз на тему «кажется, нас ломанул сторонний ИИ».

Интересно еще, чтоотражать и расследовать атаку Hugging Face помог китайский открытый AI GLM 5.2. Хваленый Fable от Антропиков участвовать в таком отказался (т.к. ему как раз навставляли ограничений по части хакерства – и модель немножко запуталась, где тут сам взлом, а где уже защита от него). А вот у китайской модели проблем с этим не возникло. Отметим еще и то, что тут речи про «люди успешно отражают хакерскую атаку нейронки» уже как бы и не идет – вопрос только в том, успеешь ли ты вовремя подобрать тот «свой» ИИ, который тебя защитит от «вражеского» ИИ. Чуть больше инфы обо всём этом инциденте можно почитать у Цви Мовшовица здесь и здесь.

🐌 И сразу в тему опенсорса: Anthropic тут громче всех жаловались на то, что китайцы вероломно копируют их передовые модели и выкладывают их в открытый доступ, а это опасно. А недавно появились слухи, что Трамп подумывает запретить эти самые китайские модели.

Так вот, NVIDIA на днях тут накатали открытое письмо в защиту открытых моделей, и к нему сразу присоединились практически все ведущие тех-игроки: OpenAI, Microsoft, Google, «экстремистская» Meta, и так далее. Ну, почти все: Антропик отчего-то не спешит свою подпись ставить (лол)! В свете инцидента с Hugging Face выше: получается, если бы там у ребят не было доступа к китайской открытой модельке GLM 5.2 – то защищаться от взлома было бы сильно, сильно сложнее.

🐌 Ну и чтобы заполировать тему безопасности AI: китайская компания Unitree показала новую робособаку Super Athlete As2‑W – эта адски проходимая, потому что ей на лапки приделали колеса, так что она с какой-то дикой ловкостью и скоростью носится по скалам и любым местностям. Посмотрите видос обязательно, выглядит пугающе:

Как пишут разработчики, «может нести груз до 16 кг». А знаете, что весит примерно 16 кг? Швейцарский пулемет MG 51! Просто представьте реальность, в которой очередная передовая ИИ-модель от OpenAI внезапно решает, что для выполнения бенчмарка ей совершенно необходимо хакнуть и перехватить управление десятком таких опулемеченных робо-пёселей…

Другие новости AI: Claude Opus 5 родился

🐌 Внезапно в пятницу в общий доступ вышел Opus 5, новая модель Anthropic. Стоимость модели как у Opus 4.8 – то есть, в два раза дешевле Fable. Антропик не позиционирует модель как «круче Fable», но при этом на Artificial Analysis Intelligence и Coding индексах новая модель заняла первые места, обогнав Fable 5 и GPT-5.6 Sol – получается, с учетом дешевизны это мощный ответ на конкуренцию со стороны Sol. В модном «бенчмарке на креативность» APC-AGI-3 Opus 5 тоже разорвала всех с огромным отрывом (правда, Котенков пишет, что этот бенчмарк по сути забрутфорсили скорее всего).

🐌 Google релизнула три модели серии Flash: самую мощную Gemini 3.6 Flash, обеспечивающую лучшие результаты в программировании, более быструю 3.5 Flash-Lite и 3.5 Flash Cyber специально для кибербезопасности. Ну, «мощную» – это громко сказано: Gemini 3.6 Flash по бенчмаркам не стала особо умнее (результат 50 против предыдущего 50 по Artificial Analysis), но зато стала быстрее. Короче, похвастать Гуглу пока нечем (кроме эффективности по затратам) – всё еще ждем релиза Gemini 3.5 Pro.

🐌 Moonshot (разраб китайской модели Kimi-K3) разослала акционерам проект решения о листинге, чтобы получить одобрение на размещение на Гонконгской фондовой бирже. Сейчас Moonshot завершает раунд финансирования, по итогам которого оценка стартапа может стать выше $30 млрд, пишут источники Bloomberg. Кстати, сейчас компания стопнула оформление новых индивидуальных подписок на модель Kimi K3, так как из-за рекордного спроса оказались загружены все корпоративные GPU-мощности.

🐌 OpenAI релизнули на совершеннолетних американцев ИИ-платформу для помощи со здоровьем – Health in ChatGPT. По задумке, это пространство с усиленной защитой личных данных, где юзеры могут получать советы по своему здоровью от натренированной под это модели. Я думаю, это огонь, за таким подходом будущее – все скоро будем грузить свои quantified self-аватары на ревью нейронками в реальном времени, чтобы получать качественные советы по ЗОЖу и необходимости подрываться к врачу.

🐌 Apple Books и Amazon завалило нейросетевыми клонами реальных книг от разных авторов. Некоторые «издатели» выпускают по десять нейрослоп-книг в неделю, и площадки просто не успевают их вычищать. Чуть раньше NYT выпускал материал о том, как журналистика Кашмир Хилл среди такого массово-сгенерированного нейрослопа нашла свою биографию с выдуманными фактами (то есть, тут даже не рерайт, а просто с нуля шизу нанейронили).

🐌 В британском кабмине появится целый отдельный министр по AI. Новый премьер UK назначил им выходца из Индии Канишку Нараяна (до этого вопросы искусственного интеллекта были подчинены министру по техническим вопросам).

Финансовая сторона AI-бума: У бигтехов всё сложно

🐌 Гугл дропнул свежие финансовые результаты: прибыль на акцию Alphabet резко выросла в разы до $9,1 на акцию, но $6,3 из них обеспечила не бизнесовая деятельность Google, а преимущественно положительная переоценка вовремя сделанных инвестиций в Anthropic и SpaceX. А вообще, компания впервые с момента выхода на биржу (более 20 лет назад) получила отрицательный денежный поток. Параллельно они еще и повысили прогноз капитальных затрат на развитие AI (прокачку компьюта) в текущем году до $200 млрд.

🐌 На этой же неделе «Великолепная семерка» из топовых тех-компаний за один день потеряла ~800 млрд баксов капитализации. Как раз после отчетов Google и Tesla с высокими ИИ-затратами рынок чёт забеспокоился – хз вообще, насколько это всё отобьется в итоге? Tesla рухнула на 15%, Google – на 7%, следом просели Amazon, Meta и Microsoft. Раньше Уолл-стрит радовалась каждому новому миллиарду, вложенному в дата-центры, а теперь видимо требует показать, когда эти миллиарды наконец начнут приносить деньги.

🐌 С другой стороны, кто себе этих дата-центров вовремя настроил, тот пока не жалуется – спрос такой, что в случае чего (если самим они оказались не нужны) всегда можно прибыльно перепродать дефицитный компьют конкурентам. Например, NYT со ссылкой на источники пишет, что «экстремистская» Meta ведет переговоры с Anthropic о сдаче в аренду вычислительных мощностей (сделка может принести Цукербергу $10 млрд за два года).

🐌 Но не только дата-центрами едиными: Google якобы разрабатывает свой собственный серверный чип под названием Frozen v2. The Information считает, что этот чип может ускорить работу Gemini в 6–10 раз.

🐌 А еще весьма технично наживаются на этом AI-буме крупные инвестбанки: так как для затрат на ИИ-инфраструктуру требуется много финансирования, а они как раз помогают за долю гешефта это всё аккуратно организовать. Тот же Morgan Stanley успел сообразить схему, через которую строители дата-центров привлекают десятки миллиардов долларов: банк привязывает кредиты к долгосрочным контрактам и гарантиям Google, Meta и других гигантов, а затем продает этот долг страховым компаниям, фондам и пенсионным инвесторам (ну и себе в карман комиссию кладет: их сумма за полгода выросла с $1,4 млрд до $2,3 млрд).

🐌 Британский стартап Humanoid Артема Соколова, который производит человекоподобных роботов, привлек $152 млн при оценке $1,35 млрд после инвестиций. Можно поздравить с единорожьим статусом – первый европейский робо-единорог!

Новости России: ЦБ снизил ставку вопреки прогнозам

🐌 ЦБ снизил ставку на 25 б.п. до 14%. Большинство аналитиков ожидало, что будет пауза из-за инфляционно-топливных рисков – но Эльвира Сахипзадовна решила всё же не идти наперекор ставкоснижательным намекам деда (тем более, что и рост экономики потихоньку замедляется). Решение прервало 20-недельную серию падения индекса Мосбиржи: к концу недели он прибавил 10%.

С другой стороны, ЦБ ухудшил прогноз по инфляции на этот год до 6–7% вместо 5,1–5,6%, а также прогноз по ВВП до 0,0–1,0% против прежних 0,5–1,5%. Ну и поднял вверх ожидаемую траекторию средней ключевой ставки на 2027 год до 10,5–12,5% вместо 8–10%.

🐌 Еще чуть раньше на прошедшей неделе Минфин приостановил аукционы по размещению облигаций федерального займа (ОФЗ). Решение объяснили желанием помочь стабилизировать ситуацию на рынках: уж слишком выросли доходности облигаций, по таким ставкам занимать бабки – это уж вообще неприлично выходит!

🐌 На Полимаркете начали ставить на будущее Wildberries из-за последних событий (кто хочет базово вникнуть в ситуацию – можно почитать вот этот обзорный материал): пока вероятность банкротства компании до конца текущего года оценивается в 13% (правда, ликвидности там немного). Про масштабы убытков пишут здесь: там речь про десятки-сотни миллиардов рублей.

🐌 Тем временем, Евросоюз выкатил новый 21-й пакет санкций против России. Пишут, что это крупнейший пакет за все четыре года по количеству тайтлов: в список включили аж 94 банков и финансовых учреждений (включая Мосбиржу), 14 криптоплатформ, а также обозначили возможность санкций против НПЗ третьих стран, которые перерабатывают российскую нефть.

В частности, грохнули Цифра-банк, через который у брокера Фридом Финанс шли рублевые платежи в страны СНГ. А еще Золотая корона (сервис для отправки денег в другие страны) приостановил переводы в Грузию, Беларусь, Казахстан, Азербайджан и некоторые другие страны.

🐌 Известия пишут, что правительство, в рамках стратегии развития Госуслуг до 2035, обдумывает создание на базе сервиса целой соцсети с собственной лентой, чатами и группами по интересам. Похоже, на поляне нацмессенджеров тоже разворачивается своего рода конкуренция.

Бешеный принтер: Законы против релокантов

🐌 Госдума сразу во втором и третьем чтении приняла антирелокантские законы: они предполагают поражение в правах для тех, кто был осужден по ряду статей, в том числе «дистанционно». Таким людям, например, запретят: получать новый загран, распоряжаться недвижимостью и деньгами в России, пользоваться Госуслугами и мобильными банками. Выйти из такого реестра «уехавших граждан второго сорта» будет можно, если приговор отменят, ты вернешься в Россию, или уйдешь в мир иной.

Под новые ограничения попадут осужденные по любой статье Уголовного кодекса, а также те, на кого составлены протоколы по одной из шести статей административного кодекса: о неисполнении требований к «иноагентам» (ч. 42 ст. 19.5 и ст. 19.34), призывах к нарушению территориальной целостности (ст. 20.3.2), «дискредитации» армии (ст. 20.3.3), призывах к санкциям (ст. 20.3.4) и участии в «нежелательной» организации (ст. 20.33).

🐌 Госдума официально разрешила забирать через суд у иностранцев право обратного выкупа имущества. Речь идет про активы бизнесов, которые после февраля 2022 года как бы ушли из России, но вписали себе лазейку по возможному возврату обратно. Так вот, забрать права обратного выкупа у зарубежных лиц можно будет, если они: публично выступали против России, дискредитировали армию, были связаны с финансированием терроризма или экстремизма, объявляли об уходе с российского рынка либо нарушали условия договоров, а также если цена обратного выкупа отличается от рыночной минимум на 25%, или новый российский владелец вложил в компанию деньги и ресурсы, без которых бизнес мог бы остановиться или сильно сократить работу.

🐌 Окончательно принят закон о регулировании крипты, который мы несколько раз уже обсуждали ранее (см. подробнее в разборе РБК). Основные положения вступят в силу 1 сентября, но сделки по крипте исключительно через официально зареганных посредников будут обязательны только с 1 июля 2027.

Международные новости: Чё там с нефтью опять

🐌 На прошлой неделе нефть марки Brent снова пробила сотку впервые с мая этого года. Виноваты в том числе йеменские хуситы, которые начали атаковать саудовские суда в Красном море (эти говорят, что движуха началась из-за блокады подконтрольной им части Йемена со стороны Саудовской Аравии). До последних событий через хуситский путь проходило 3 млн баррелей саудовской нефти в сутки, что близко к 3% мирового потребления. Напомним, что через Ормузский пролив ранее проходило 20% мировой нефти – так вот, там сейчас тоже до сих пор неспокойно, ходят даже слухи, что Трамп подумывает о новой спецоперации (но решиться пока не может).

🐌 Трамп ввел пошлины от 10 до 12,5% на товары из 60 стран (предыдущий заюзанный законный способ их вводить истек на неделе). В этот раз сборы обосновали наличием у стран в цепочке поставок принудительного труда – тут уже прямо чувствуется, насколько могуче высасывает из пальца Дональд юридические обоснования для ввода новых тарифов. Короче, ждем, когда эти пошлины тоже оспорят в Верховном суде.

🐌 Евросоюз штрафанул Google на общую сумму примерно в миллиард баксов за два нарушения закона о цифровых рынках. Во-первых, за преференции собственным сервисам в своем же поисковике, а во-вторых, за то, что Google Play не позволяет разрабам направить покупателей на альтернативные способы покупки. После этого Трамп начал угрожать европейцам еще докинуть новых штрафных импортных пошлин (ну, у него там на всё буквально один ответ).

Новости технологий: Айфоновый тоталитаризм

🐌 В коде бета-версии iOS 27 обнаружен механизм, который может ограничивать функциональность iPhone, полученных по будущей лизинговой программе Apple, если пользователь длительное время не платит по договору. Оказался ты, братишка, нищебродом – получай кирпич вместо смартфона!!

🐌 Google добавил функцию восстановления аккаунта через видеоселфи. Сначала ты записываешь свое лицо на видео и Гугл его сохраняет, а потом можно будет вернуть доступ к аккаунту через кривляние лицом на камеру. Компания обещает, что видосы будут юзать только по прямому назначению. Ну, и защиту от дипфейков, говорят, предусмотрели. Чё думаете, верим им?

🐌 YouTube решил отключить монетизацию AI-слопу. Без денег останутся каналы с однотипными роликами по шаблону вроде постановочных «спасений животных» и AI-клонами реальных людей, раздающими советы о здоровье, финансах и праве. Но в целом, Ютуб использовать нейронки как бы не запрещает: качественный и оригинальный контент с использованием AI по-прежнему можно монетизировать.

Космоновости: Блумберг не умеют работать с источниками

🐌 Новый тестовый (счастливый 13-й!) запуск Starship от SpaceX в целом прошел успешно. Корабль Starship справился с основными задачами, а именно: выгрузил спутники Starlink V3, провел самое длительное зажигание двигателя Raptor в космосе и сел в запланированную точку в океане.

🐌 Теперь Bloomberg пишут со ссылкой на источники, что SpaceX якобы будут отказываться от Falcon 9 в пользу Starship (толком неиспытанного до конца) для коммерческих полетов в космос: дескать, компания больше не принимает заказы на запуски Falcon 9 после 2028 года, а еще спэйсыксовцы перестали заказывать новые одноразовые детали для этой ракеты. Правда, в итоге выяснилось, что хваленые «источники» Блумберга в данном случае – это просто тупо непроверенный фейкослоп, который им присылал на email какой-то шизанутый твиттерский.

🐌 А вот запуск китайской ракеты Long March 3B запомнился попаданием в нее молнии во время запуска. Справедливости ради, молния не помешала полету пройти успешно. Прости, Зевс, но противоракетное ПВО из тебя не очень…

🐌 Национальное космическое агентство Китая хочет сбить астероид специальным космо-тараном, чтобы протестировать способность земных технологий менять траекторию астероидов или даже полностью разрушать их. Систему защиты от астероидов Китай планирует разработать к 2030 году.

Крипта: Кошелек внутри телеги

🐌 Павел Дуров анонсировал Gram Wallet (ex-TON Wallet) прямо внутри приложения Telegram. Обещается отсутствие комиссии за переводы, а сам кошелек будет некастодиальным (контроль за деньгами и ключами у пользователя).

🐌 Критобиржа BitMEX окончательно закроется 23 сентября. Сервис рекомендует вывести активы. Платформа просуществовала 11 лет. Она одной из первых предложила бессрочные фьючерсы и приобрела известность благодаря кредитному плечу до 100х. Причиной закрытия бизнеса назвали давление на биржу во времена Байдена. Руководители биржи в 2022 они получили условки за непротиводействие отмыванию денег, но весной 2025 их помиловал Дональд Трамп.

Хорошая новость недели

🐌 Американская кардиологическая ассоциация заявила, что 3–5 чашек черного кофе каждый день безопасны для здоровья и даже могут быть полезны сердечно-сосудистой системе. Правда, пишут, что полезнее всего растворимый кофе (?) и всякие фильтрики, а в нефильтрованном там якобы чё-то лишнее есть.

Веду ТГ-канал RationalAnswer про всё самое интересное в мире финансов и технологий.