Российские ученые придумали способ, как ускорить нейросети почти в полтора раза
Компания Smart Engines из РФ придумала способ ускорения работы ИИ-моделей. Увеличить скорость работы нейросетей на 40% можно благодаря замене существующей 8-битной модели на 4,6-битные сети.
Качество работы при этом не снижается, поскольку в таком случае центральные процессоры мобильных устройств используются более эффективно. Новый способ поможет снизить затраты на оборудование и расширить пул задач, которые выполняет ИИ.
В involta.media добавили, что Smart Engines уже провела все необходимые тесты системы.