Яндекс разработал компактную нейросеть для носимых ИИ-устройств

"Яндекс" создал нейросетевую модель для голосового управления размером около 200 КБ, предназначенную для носимых гаджетов, сообщил руководитель направления голосовой активации Дмитрий Солодуха.

ИСТОЧНИК ФОТО: Яндекс.

Сверхлёгкая модель разработана специально для небольших устройств — наушников и умных часов. Они имеют строгие ограничения по ёмкости аккумулятора и вычислительной мощности, чтобы не разряжать устройство и не создавать задержек, но при этом должны непрерывно анализировать звук.

Работа оптимизированной модели построена в два этапа. Сперва микро-система определяет наличие речи в аудиопотоке, и только после этого активируется основная нейросеть, отвечающая за распознавание команды. За счёт новой архитектуры появилась возможность сократить число параметров примерно в 10 раз, а это играет важную роль в снижении нагрузки.

Также в разработке были использованы чипы с NPU — специализированным нейропроцессором для ускорения вычислений нейросетей. Эти чипы потребляют меньше энергии, чем CPU.

Также яндекс анонсировал выпуск собственной линейки носимых ИИ-устройств, которая начнётся с наушников "Яндекс Дропс" с "Алисой AI" и функцией "Моя память".