Qualcomm: к 2028 году телефоны будут постоянно крутить 100-миллиардные модели
Глава Qualcomm рассказал, чего фронтирные AI-компании хотят от смартфонов к 2028 году. Спойлер: они хотят, чтобы телефоны непрерывно крутили модели на 100 миллиардов параметров. Не периодически, не по запросу, а постоянно.
Некоторые компании, по его словам, уже строят собственные решения в этом направлении. Речь идёт не о том, чтобы запустить тяжёлую модель раз в день для сложного запроса, а о постоянном фоновом инференсе такого масштаба.
Для контекста: 100 миллиардов параметров - это уровень, который сегодня требует серьёзного серверного железа или как минимум Mac Studio с большим объёмом памяти. Уместить такое в смартфон и гонять постоянно - это совсем другая инженерная задача. Нужны и чипы с принципиально другой энергоэффективностью, и модели с архитектурой, позволяющей работать в таких ограничениях.
Что это значит на практике? Если планы реализуются, локальный AI на телефоне перестанет быть игрушкой для энтузиастов с флагманами. Модели смогут работать без облака, без задержек на сеть, без отправки данных наружу. Это меняет и приватность, и экономику AI-сервисов.
Пока это заявление о желаниях индустрии, а не анонс готового продукта. Но направление понятное: все хотят убрать облако из уравнения там, где это возможно.

Зувучит довольно фантастично, учитывая что сейчас запуск 100к моделей пока недоступен практически никому на "бытовом" железе.