Meta* выпустила Llama 4⁠⁠

Сейчас доступны две модели:

1. Llama 4 Scout — компактная модель с контекстным окном на 10 млн токенов, которая «помещается на одном графическом процессоре Nvidia H100»

2. Llama 4 Maverick — более мощная версия, сопоставимая с GPT-4o и Gemini 2.0 Flash.

Meta также продолжает обучение более мощной Llama 4 Behemoth , которую Цукерберг называет «самой производительной базовой моделью в мире» и утверждает, что она способна опережать GPT-4.5 и Claude Sonnet 3.7.

Все новые модели используют архитектуру “mixture of experts” (MoE), где активируются только нужные части — это экономит ресурсы.

Meta называет их open-source, но с ограничениями: крупным компаниям (от 700 млн активных пользователей в месяц) нужно получать разрешение на использование.

*Корпорация Meta признана экстремистской и запрещена в РФ