Большая модель доходит до места, где у неё есть понимание задачи, и отдаёт свои скрытые состояния маленькому обученному «мосту». Тот переводит их в форму, понятную второй модели, и она продолжает работу с этого места — не читая ни единого слова. Веса обеих моделей заморожены, дообучения нет: единственная новая деталь во всей конструкции — сам мост.

В тестовой связке отправителем работает GLM-5.2 на 753 миллиарда параметров, получателем — Qwen-3.5 на 4 миллиарда. Выбор не случаен: именно так и выглядит типичный продакшен — большая модель, которая знает, и дешёвая, которая пишет.

Что это даёт

По замерам самой компании маленькая модель закрывает около половины разрыва с большой: средний балл по пяти бенчмаркам поднимается с 62,4 до 76,8 при 92,7 у отправителя. На сложных подвыборках прирост доходит до двух с половиной раз, а вся связка обходится в 2,5 раза дешевле, чем средняя модель с сопоставимым результатом. Против обычной передачи текстом выигрыш — до десяти процентных пунктов.

Кто это делает

Mostik — это пятнадцать человек, из них двенадцать с докторской степенью, и работают они четыре месяца. Главный учёный — Станислав Смирнов, профессор Женевского университета и обладатель Филдсовской премии 2010 года. Про сложность задачи он говорит прямо: подходящего математического языка для того, чтобы находить общий язык между двумя моделями, кажется, пока просто не существует.

Карл Тёйлс, бывший исследователь Google DeepMind, знакомый с разработкой, формулирует практический смысл так: можно приблизиться к качеству большой модели, не заставляя её вести весь цикл целиком.

Чего пока нет

Научной статьи и открытых бенчмарков, которые могли бы проверить сторонние исследователи. Все цифры выше — заявления компании, и относиться к ним стоит соответственно: идею объединять специализированные модели без перевода в слова индустрия жуёт давно, и хоронили её не раз. Но если метод переживёт независимую проверку, выиграют в первую очередь открытые веса — связка из двух свободных моделей начнёт всерьёз конкурировать с закрытыми флагманами.

Источники: Wired, Mostik, The Tech Buzz

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Как устроено

Рабочее пространство агента разбито на три слоя. Raw — неизменяемые логи выполнения: какие инструменты вызывались, что вернули. Wiki — выжимка из этих логов: устойчивые паттерны отказов и стратегии, которые сработали; слой копится бесконечно и никогда не обнуляется. Skill — то, что агент реально читает перед работой: активные пошаговые инструкции.

Цикл замкнут в четыре шага. Агент прогоняет задачи и пишет трейсы. Отдельный модуль Wiki Maintainer разбирает их на первопричины и обновляет вики. Skill Proposer читает вики и предлагает правку инструкций. И главное — гейт: кандидат проверяется на отложенной выборке, и если результат просел, правка откатывается. Именно поэтому база не деградирует от накопленного мусора.

Цифры

Проверяли на пяти направлениях: математика, веб-поиск, работа с таблицами, вопросы по документам и интерактивные задачи в виртуальной среде. Gemini 3.5 Flash поднялась в среднем с 49,5 до 68,1 процента, а на математическом LiveMath — с 33,0 сразу до 72,6. На таблицах — с 50,5 до 76,6. Qwen на 27 миллиардов параметров прибавила с 39,4 до 63,3 процента. Над предыдущими методами эволюции навыков выигрыш составил от 3,3 до 12 пунктов.

Что это на самом деле

Сами авторы формулируют честно: модель не учится в непрерывном смысле — она просто пишет себе инструкции получше после каждого запуска. Это не непрерывное обучение и не память в человеческом смысле, а автоматизация того, что разработчики агентов делают руками уже год: ведут файл с правилами, дописывают туда «не делай так», подсовывают его модели перед стартом. Google просто замкнула этот цикл без человека — и добавила то, чего в ручном варианте обычно нет: проверку на выборке и откат неудачной правки.

Ограничения авторы называют сами. Модели поменьше плохо удерживают многошаговые стратегии на длинном контексте. Навыки не всегда переносятся с одной модели на другую. И вся конструкция заметно более хрупкая, чем настоящее дообучение. Но при нулевой стоимости — веса не трогаются, GPU не греются — плюс двадцать пунктов точности выглядят убедительно.

Источники: The Decoder, arXiv

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Perplexity выкатила Portable Computer — версию своего агента, которая целиком работает на вашем железе. Не только модель, а вся обвязка: оркестратор, планировщик, роутер инструментов. Любая задача начинается на устройстве, и за локальные шаги не списывается ни одного токена.

Как это устроено

Мозгами служат модели на 27 миллиардов параметров: Qwen 3.8 27B в трёхбитном квантовании (17,4 ГБ загрузки, 32 ГБ памяти) или PPLX 27B — тот же базовый каркас, дообученный самой Perplexity. Скоро обещают Nemotron 3.5 Lightning от Nvidia. Требования к железу серьёзные: либо Nvidia DGX Spark с суперчипом GB10 и 128 ГБ памяти, либо обычная машина с RTX от 24 ГБ видеопамяти, на DGX OS или Ubuntu.

Код и вызовы инструментов исполняются в песочнице на уровне операционной системы — она режет агенту процессы, пути в файловой системе и сеть. Деталь, за которую хочется похвалить отдельно: если песочница по какой-то причине недоступна, агент не «деградирует тихонечку», а полностью отключает выполнение инструментов.

Самое интересное — момент выхода в сеть

Когда шагу нужен живой интернет или рассуждения фронтирной модели, оркестратор останавливается и спрашивает. Перед каждым облачным вызовом система классифицирует персональные данные, показывает, что именно уйдёт с устройства, и ждёт явного подтверждения — на каждый шаг отдельно. Сама Perplexity формулирует так: «чувствительные данные никогда не покидают устройство без разрешения, а локальные модели не берут плату за инференс».

Сколько от этого толку

На собственном бенчмарке Local Knowledge Work Bench из 53 задач PPLX 27B выдаёт 85,4 процента. На более жёстком Terminal Bench 2.1 чисто локальный режим даёт 59,6 процента, а с подключённым облачным советчиком — 73 процента примерно за 0,4 доллара за прогон. То есть локальный агент пока заметно слабее облачного на сложных задачах — и это честно показано цифрами, а не заметено под ковёр.

Почему это важно

Это вторая за сутки крупная ставка на локальный ИИ — после того как Apple прямым текстом назвала свои новые десктопы машинами для запуска моделей дома. Логика везде одна: агенты жгут токены сотнями тысяч шагов, и если рутинную часть можно перенести на своё железо, счёт схлопывается в разы. Бонусом идёт то, чего в облаке купить нельзя вообще: ваши файлы физически не уезжают с машины.

Оговорки, впрочем, крупные. Portable Computer доступен только платным подписчикам уровня Pro и Max, пока только на Linux; Windows обещают в сентябре, а macOS в планах не значится вовсе. Плюс видеокарта от 24 ГБ — то есть «бесплатные токены» начинаются после того, как вы один раз заплатите за железо.

Источники: MarkTechPost и ZDNet

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Anthropic закрыла Китаю доступ к своим моделям. Это не помешало китайским разработчикам покупать токены Claude по цене примерно в десять раз ниже официальной. Схема выросла в полноценную отрасль со своим сленгом, ценовыми рейтингами и цепочкой поставок — а свежий аудит показал, что расплачивается за дешевизну не только покупатель.

Что такое «перевалочная станция»

Механику разобрала Цзылань Цянь из Oxford China Policy Lab в материале для ChinaTalk. Ключевой элемент рынка называется 中转站 — «перевалочная станция». Это API-прокси на зарубежном сервере, который стоит между разработчиком и инфраструктурой Anthropic: принимает запрос, пересылает его дальше как совершенно легитимный и возвращает ответ обратно. Гео-блокировка и проверка личности при этом не срабатывают — с точки зрения провайдера обращается обычный зарубежный клиент.

Платят юанями через WeChat или Alipay. Ценник держится в районе 1 юаня за 1 доллар потреблённых токенов — это на 70–90% ниже официальных тарифов. Сами станции каталогизированы в сообществах разработчиков и ранжированы по цене, как товары в маркетплейсе; розница добралась до Taobao.

Откуда берётся такая скидка

Дешевизна складывается из трёх независимых источников — в разборе это называют принципом «одна рыба — три блюда».

Первое: арбитраж на самих аккаунтах. Массовая регистрация ради стартовых бесплатных кредитов, перепродажа неизрасходованных квот, корпоративные и образовательные скидки, деление одной подписки Max на множество пользователей. Отдельная индустрия обслуживает верификацию: поддельные документы, дипфейки против биометрии, найм живых людей в бедных странах, готовых продать свой скан за три десятка долларов.

Второе: подмена модели. Пользователь выбирает Opus, а прокси молча уводит запрос на Sonnet, Haiku или вовсе на китайские Qwen либо GLM — ответ возвращается под нужной этикеткой.

Третье, самое неприятное: логи. Через оператора прокси проходит всё целиком.

Каждый запрос, проходящий через прокси, — полный промпт, полный ответ, вызовы инструментов — лежит на сервере оператора.

Счёт выставили науке

Пока это выглядело как проблема отдельных сэкономивших разработчиков. Но исследователи из немецкого центра безопасности CISPA провели первый систематический аудит таких сервисов — и масштаб оказался другим.

Проверив 17 теневых API, они обнаружили, что 45,83% эндпоинтов не прошли проверку на подлинность модели. Разница видна на замерах: официальная Gemini-2.5-flash даёт на медицинском тесте MedQA 83,82% точности, тогда как те же вопросы через прокси — около 37%. Провал почти на 47 пунктов, при том что клиент уверен, что говорит с фронтирной моделью.

Главное здесь то, на чём эти сервисы уже успели отметиться: по подсчётам авторов, теневые API использовались в 187 научных работах, а самый популярный из них накопил почти шесть тысяч цитирований. То есть часть опубликованных результатов получена не на той модели, которая указана в статье, — и воспроизвести их корректно уже нельзя.

Почему это важно

Экспортный контроль оказывается дырявым по построению: ограничить доступ к весам можно, а доступ к API утекает через прокси-слой, который никакими списками не регулируется. Anthropic это видит — компания уже блокировала масштабные попытки дистилляции своих моделей, счёт шёл на десятки тысяч поддельных аккаунтов и миллионы запросов, — но каждая перевалочная станция выглядит для неё как один добросовестный клиент, и скоординированное злоупотребление в такой оптике попросту невидимо.

Ломается и слой безопасности: аудит показал, что теневые API ведут себя непредсказуемо и по вредоносности ответов — где-то фильтры оказываются жёстче официальных, где-то оценка вреда почти удваивается. Наконец, рушится сама возможность доверять цифре в чужой работе, если неизвестно, какая модель на самом деле отвечала.

Дешёвый доступ никуда не денется, пока разница в цене десятикратная. Но покупатель платит не только юанями — он отдаёт свой код, свои промпты и, довольно часто, качество ответа, о подмене которого даже не узнает.

Источники: ChinaTalk, The Decoder, исследование CISPA

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей