Серия «Новости»

Подготовлена новая универсальная мультимодальная генеративная модель MiniMax H3 (https://huggingface.co/collections/MiniMaxAI/minimax-h3), понимающая единый контекст из текста, изображений, видео и аудио, также генерирующая видео до 15 с, 2K, 24 fps, с нативным стереозвуком, ориентированная на коммерческое создание контента (реклама, брендинг, e-commerce, игры, UI/UX и другие) под лицензией MiniMax H3 Community License.

Основные технологии объединяют контекстуальное омни-представление (Contextual Omni Representation), H3-VAE в виде пространственно-временного видеоавтоэнкодера и стереоаудио-VAE, плотную модель H3-Omni Transformer с 33B для единого потока совместного предсказания видео и аудио. Кроме того, используется In-Context Regeneration, регенерирующий от 768p до 2K в контексте исходных условий.

Следуя философии обобщающей задачи, применили единую модель вместо набора специализированных экспертов, описывая обобщённое редактирование и реферирование естественным языком.

Система состоит из трёх модулей, включая H3-Context-IR для препроцессинга мультимодальных инструкций (через API), H3-Base, генерирующий видео и аудио 768p (открытый чекпоинт FL2VA и Ref2VA), и H3-Regenerate-2K, повышающий качество до 2K через контекстную регенерацию (API).

В результате ценовая эффективность высокая, ведь стоимость за секунду 2K менее трети от цены мейнстримных моделей, а 768p обходится дешевле половины цены 720p.

Размещена новая открытая фундаментальная MoE-модель K-EXAONE 2.0 (https://huggingface.co/collections/LGAI-EXAONE/k-exaone-20) от LG AI Research с контекстом до 256K токенов и поддержкой 10 языков (добавлены французский, итальянский, польский, португальский), созданная путём масштабирования предшественника K-EXAONE под лицензией Apache 2.0.

Архитектуру расширили до 750B общих и около 37B активных параметров, что в 3 раза больше.

Обучение предполагало непрерывное предварительное обучение, промежуточное обучение с упором на длинный контекст и сложные рассуждения, постобучение (SFT и предпочтительное обучение) для усиления инструкционного следования, агентного кодирования, мультиязычности и безопасности в корейском социокультурном контексте.

Вывод ускорили через многотокеновое предсказание и DSparK-драфтер.

В результате оценки по 9 категориям обнаружен наибольший рост над K-EXAONE в агентном кодировании, длинном контексте и безопасности, что позволило конкурировать с открытыми моделями при явных преимуществах в длинном извлечении и безопасности.

Фреймворк AI4AI облегчил ограниченные исследования с верификацией для улучшения агентных систем, основываясь на задаваемых людьми контрактах оптимизации (цель, приватный бенчмарк, допустимые вмешательства, бюджет, риски, критерии приёмки). Внутри контракта AI-агенты диагностируют сбои и реализуют ограниченные изменения (данные, обучение, среда выполнения, инструменты, инфраструктура). Изолированный оценщик выдаёт доказательства без раскрытия ответов, исключая внешние бенчмарки из рутинной оптимизации. Общая память опыта сохраняет все исходы (принятые и отвергнутые) с происхождением.

Цикл улучшения запустили исследованием через анализ сбоев, генерацию предложений и выбор допустимого вмешательства. Продолжили, разрабатывая реализацию кандидата без запроса к оценочным воротам. Перешли к проверке по принципу изолированной оценки на приватном бенчмарке, когда ворота принимают, отвергают или эскалируют. Важно отметить, что каждый цикл создавал улики (конфигурации, метрики, решение), которые попадали в общую память. При этом человек управлял только через контракт и исключения, не одобряя каждый шаг.

Человеко-агентное взаимодействие происходит в общем чат-комнате через три парадигмы, включающие извлечение исследовательского опыта из обсуждений, сбор предложений людей как кандидатов с их заземлением в нужный момент и поэтапную отчётность с корректировкой по обратной связи. На случай нестандартных ситуаций предусмотрен исключительный контроль, но рутинные решения принимают ворота.

Для глубокого поиска развернули двух открытых агентов (https://huggingface.co/collections/XYZAILab/xyz-aquila), носящих названия XYZ-Aquila-mini (Qwen3.6-35B-A3B) и XYZ-Aquila-pro (Qwen3.5-397B-A17B), предусмотрев три инструмента (поиск, парсинг, Python), фиксированный интерфейс и скрытые ответы оценщика.

Задачи строились графо-ориентированно методом задания вопросов из связных графов источников, недоступных агенту, и проверки достижимости и уникальности ответа. Верного состояния SFT добились обучением на точном видимом агентом контексте (Vt), маскируя некорректные шаги и сохраняя восстановительные траектории. Внедрив фиксированные политики контекста и точное логирование состояний для воспроизводимости, сформировали среду и контекст-менеджмент. RL-расширение отсеялось, не войдя в релиз, пройдя только дешёвый скрининг.

На текущий момент ограничениями являются неустановленная причинная роль отдельных компонентов (взаимодействия, зависимость от пути), риск адаптивного переобучения на приватный бенчмарк, нуждающийся в ротации сплитов и слепых аудитах, неполная контролируемость сравнений (разные стеки, даты), требующая больше прямых воспроизведений, неизмеренная полная стоимость, задержки и усилия человека, а ещё не полностью валидированная RL-часть, отчего перенос на другие домены (кодинг, наука, медицина) требует отдельных контрактов.

В результате внешние бенчмарки (BrowseComp, BrowseComp-ZH, DeepSearchQA, GAIA, LiveBrowseComp, HLE, WideSearch) исключались из цикла оптимизации, однако по всем 7 бенчмаркам в категории открытых моделей менее 40B лидирует XYZ-Aquila-mini, а по всем 6 бенчмаркам в категории менее 400B лидирует XYZ-Aquila-pro, обладая рекордными баллами среди всех систем на BrowseComp-ZH, LiveBrowseComp и WideSearch. Также анализ трассировок показал адаптивное использование инструментов в зависимости от задачи.

Презентована новая эффективная потоковая мультимодальная модель Mage-VL (https://huggingface.co/microsoft/Mage-VL), решающая парадокс Моравека (сильные в офлайн-рассуждениях, но неэффективные в потоковом восприятии) за счёт кодек-ориентированного подхода.

Зрительный токенизатор Mage-ViT вместо равномерной выборки кадров избирательно кодирует динамические, насыщенные информацией области, используя векторы движения и остаточную энергию на уровне патчей 16×16, сокращая потребление визуальных токенов более чем на 75% с сохранением пространственно-временного контекста.

Обучение с нуля на примерно 560M немаркированных изображений и 100M видеокадров позволило достичь или превзойти энкодеры, обученные на миллиардах пар изображение-текст (например, SigLIP2).

Архитектура двойной системы из лёгкого System 1 (гейт событий) и каузального System 2 (языковой декодер) для проактивного потокового взаимодействия предоставила модели возможность самой решать, когда реагировать на события в реальном времени.

Семь ключевых эмпирических выводов сводятся к тому, что веб-масштабное предобучение не обязательно для зрительных энкодеров, предобучение с переменным разрешением даёт монотонный рост качества с увеличением токенов, кодек-ориентированная токенизация создаёт превосходный компромисс точности и эффективности, явный SFT для длинных VideoQA избыточен, так как достаточно насыщенных видеоподписей и короткого SFT, динамическое видеообучение усиливает статическое пространственное мышление (синергия движения и геометрии), AI4AI-пайплайн с оптимизацией промтов и кода систематически повышает качество данных, а Zero-Vision SFT (чисто текстовый SFT перед RL) раскрывает мощные мультимодальные RL-способности.

В результате Mage-VL-4B сравним с Qwen3-VL-4B на статических задачах, значительно лучше в понимании видео и пространственном мышлении (2D и 3D), с ускорением вывода до 3,5 раза, превосходя 15B Phi-4-reasoning-vision.

Дебютировала новая полностью открытая MoE-модель Instella-MoE (https://huggingface.co/collections/amd/instella-moe) на 16B параметров (2.8B активны на токен), предназначенная для исследований с необходимой проверкой безопасности под лицензией Research RAIL.

Для обучения с нуля применяли графические процессоры AMD Instinct MI300X и MI325X совместно с ROCm, Primus и Miles.

Среди архитектурных решений можно выделить гейтированное многоголовое латентное внимание (Gated MLA) в виде обучаемого гейта на выходе внимания, а также FarSkip-Collective, совмещающий коммуникации и вычисления для снижения простоев, ускоряя претрейн на 12.7% и вывод (TTFT) до 39.2%.

Пайплайн обучения состоял из шести этапов. Сначала проводили претрейн на 7.1T смеси веба, кода, математики и науки. Потом мидтрейн на качественных STEM-данных со слиянием чекпоинтов. Затем контекст расширили до 64K с YaRN и маскировкой документов. Дальше наступил этап SFT на инструктивном и рассуждающем датасете с целевым добором примеров под ошибки. Вскоре приступили к обучению предпочтениям через DPO, отключив функцию потерь балансировки экспертов для стабильности. На заключительном двухэтапном RL (Miles) перешли от IF-специализированного GRPO к Multi-Teacher On-Policy Distillation (MOPD).

В результате Base-модель со средним показателем 76.7 сильнее всех полностью открытых моделей, обходя SmolLM3-3B и OLMo-3-7B, конкурируя с Qwen3.5-4B. Длинный контекст демонстрирует 41.5 на HELMET и 79.4 на RULER на 64k токенов. Think-модель со средним показателем 73.22 получилась лучшей среди полностью открытых, значительно улучшившись на IFEval до 83.7.