Темы



Meta представила новую модель Muse Spark Open, оптимизированную для работы на Mac Studio

Коротко сгенерировано ИИ по тексту статьи
  • Meta выпустила Muse Spark Open с 816 млрд параметров, из которых 42 млрд активны; контекстное окно — 1 млн токенов.
  • Модель оптимизирована для Mac Studio с M5 Ultra; две машины могут вместить её целиком благодаря 1 ТБ унифицированной памяти.
  • Meta проверила локальную работу модели для разработки iOS-приложения и монтажа видео; веса доступны на Hugging Face.

Почему это важно: Это позволяет запускать мощную модель на собственном компьютере и локально экспериментировать с ней в закрытой среде.


Сегодня Meta представила Muse Spark Open — по её словам, «самую мощную на сегодняшний день американскую модель с открытыми весами». Для пользователей Apple Meta сообщает, что Muse Spark Open оптимизирована для работы на Mac Studio с чипом M5 Ultra.

В публикации в блоге Meta объясняет, что Muse Spark Open изначально поддерживает мультимодальность и впервые «предоставляет передовые агентные возможности на вашем компьютере».

Сегодня мы выпускаем веса Muse Spark Open — самой мощной на сегодняшний день американской модели с открытыми весами. Muse Spark Open — мультимодальная модель с 816 млрд параметров (42 млрд активных) и контекстным окном на 1 млн токенов. Созданная для программирования и агентных задач, она отлично справляется с длительными задачами, сложной разработкой ПО и многоэтапными рассуждениями.

В публикации Meta особо отмечает, что Muse Spark Open использует последнюю версию MLX от Apple. MLX — это фреймворк с открытым исходным кодом для работы с массивами, созданный Apple и оптимизированный для архитектуры унифицированной памяти Apple silicon.

По словам Meta, с использованием последней версии MLX Muse Spark Open была оптимизирована для Mac Studio с M5 Ultra, и «вместе они представляют собой лучший способ запускать мощную модель на собственном компьютере».

Архитектура унифицированной памяти Apple позволяет встроенному графическому процессору M5 Ultra использовать до 512 ГБ памяти в каждом Mac Studio, поэтому две машины могут вместить целую модель. А пропускная способность памяти чипа — 1,2 ТБ/с — достаточно высока, чтобы считывать небольшой фрагмент, необходимый для каждого токена. В результате два Mac Studio работают как один суперкомпьютер с терабайтом унифицированной памяти.

Мы протестировали целый ряд агентных сценариев, полностью выполняемых на устройстве с помощью Muse Code на базе Muse Spark Open. В их числе — выпуск реальных изменений для iOS в Ice Cubes (клиент Mastodon с открытым исходным кодом): исправления ошибок, новые функции и полная сборка приложения. Также мы проверили сквозную работу с DaVinci Resolve: модель анализировала видеоматериал кадр за кадром, чтобы находить самые яркие моменты и кадрировать их в вертикальном формате.

Muse Spark Open уже доступна на Hugging Face. Apple также опубликовала новую статью на своём сайте исследований в области машинного обучения, в которой рассказывает, как MLX на Mac «позволяет исследователям и разработчикам ИИ локально экспериментировать с новейшими моделями и методами в закрытой среде».

Подписывайтесь на Chance:  Threads, X и Instagram

©  9to5Mac.ru

Об этом также пишут