Apple разрешила запускать большие нейросети прямо на iPhone — без облака
Apple годами называли отстающей в гонке генеративного ИИ: пока OpenAI, Google и Anthropic мерились моделями, Купертино делал ставку на приватность и работу «на устройстве». На WWDC 26 стало ясно, какой именно была эта ставка — компания представила Core AI, официального преемника Core ML.
Что меняется. Старый Core ML был рассчитан на классические ML-модели. Core AI создан под современные генеративные нейросети и большие языковые модели и запускает их целиком локально, без обращения к облаку.
Масштаб. Фреймворк тянет модели от компактных vision-сеток на 3 млрд параметров до reasoning-моделей на 70 млрд параметров — на iPhone, iPad, Mac и Apple Vision Pro. Подключить можно и свою модель, сконвертированную из PyTorch, и готовую оптимизированную open-source.
Под капотом. Единый доступ к железу: задачи делятся между CPU, GPU и Neural Engine. Сверху — безопасный по памяти Swift API и AOT-компиляция, дающая почти мгновенную загрузку модели.
Почему это важно. Главное здесь — не скорость, а отношения с данными: ничего не уходит на сервер, нет зависимости от облака и нет платы за токены. Для пользователя это приватность по умолчанию, для разработчика — мощный ИИ внутри приложения без счёта за каждый запрос к чужому API. На этом фундаменте стоят Apple Intelligence и обновлённая Siri. Вместо догоняющего чат-бота Apple превращает «ИИ на устройстве» в платформу для тысяч сторонних приложений.
🔗 Источник: InfoQ
Интересно тут не «70B на телефоне» (это топовое железо потянет), а сдвиг логики: не платишь за токены и ничего не уходит на сервер. Недавно читал, как человек дома собрал локальный сервер под LLM ровно из-за этого — лимиты и риск, что доступ возьмут и отрубят. Apple, по сути, делает то же, только из коробки. Только как с батареей — reasoning-модель локально телефон же будет греть и сажать за полчаса, нет?