Microsoft представила Mu, компактную языковую модель, разработанную для ПК Copilot+. Эта модель ИИ предназначена для обеспечения быстрых и приватных взаимодействий с ИИ непосредственно на устройстве.
Mu работает на Neural Processing Unit (NPU), обеспечивая высокую скорость работы без зависимости от облака. Она обеспечивает работу нового агента настроек, позволяя пользователям настраивать параметры системы с помощью естественного языка.
Mu имеет структуру кодировщика-декодера на основе трансформеров всего с 330 миллионами параметров. Эта конструкция обеспечивает более быстрые ответы и меньшие требования к памяти. Тестирование показывает значительное улучшение скорости, генерируя более 100 токенов в секунду.
Модель поддерживает сотни системных настроек, сочетая искусственный интеллект с традиционными результатами поиска. Это соответствует более широким усилиям Microsoft по интеграции ИИ, включая разработку других моделей ИИ.