Представлено Muse Spark Open, потужну модель відкритого коду

Muse Spark Open доступний вже сьогодні та вперше пропонує провідні агентні можливості прямо на вашому комп'ютері, зокрема на Apple M5 Ultra Mac Studios.

Сьогодні ми випускаємо ваги для Muse Spark Open, найбільш потужної моделі відкритого коду США на сьогодні. Muse Spark Open — це нативно мультимодальна модель з 816 мільярдами загальних параметрів (42 мільярди активних) та контекстним вікном на 1 мільйон токенів. Модель розроблена для кодування та агентної роботи, що дозволяє їй відмінно справлятися з довгостроковими завданнями, складним програмуванням та багатоступеневим міркуванням.

Згідно з нашими переконаннями, майбутнє належить усім, і це включає свободу запускати вдосконалені моделі де завгодно, у тому числі вдома. Muse Spark Open — перша модель свого класу, яка може працювати на вашому настільному комп'ютері, використовуючи дві Apple M5 Ultra Mac Studios з останнім фреймворком MLX.

Модель вже доступна через API платформи таких компаній, як Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter та Together AI. Ваги моделі можна завантажити на Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face та Microsoft Foundry Models.

Вона працює на провідних двигунах виведення, таких як SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp та Unsloth, з оптимізацією для AMD, Apple, Intel і NVIDIA. Розробники можуть легко налаштувати модель, використовуючи фреймворк PyTorch.

Ключові показники

Більше деталей про наші оцінки можна знайти в звіті про методологію оцінки.

Оптимізація для Apple Silicon

Використовуючи останню версію MLX, Muse Spark Open було оптимізовано для роботи на Mac Studio з M5 Ultra, що дозволяє отримати найкращий результат з потужною моделлю прямо на вашому комп'ютері.

Єдина архітектура пам’яті Apple дозволяє інтегрованій графіці M5 Ultra використовувати до 512 ГБ на кожному Mac Studio, тому дві машини можуть вмістити всю модель. А ширина пам'яті 1,2 ТБ/с є достатньою для швидкого зчитування кожного токена. В результаті два Mac Studio поводяться як один суперкомп'ютер з теребайтом єдиної пам'яті.

Ми протестували ряд агентних робочих процесів, які виконувалися повністю на пристрої з використанням Muse Code, що працює на Muse Spark Open. Це включало виправлення помилок, нові функції та повну збірку для Ice Cubes (клієнт Mastodon з відкритим кодом), а також управління DaVinci Resolve, де модель переглядала кадри один за одним, щоб знайти найкращі моменти та вертикально їх обрізати.

Доступно зараз

Ми ділимося цією роботою, оскільки прагнемо, щоб кожен мав доступ до найкращих моделей. Версія Muse Spark з відкритим кодом постачається з налаштованими, автоматично налаштовуваними ядрами Helion GPU в SGLang, що забезпечує прискорення на рівні ядра від 1,03 до 3,95 разів на графічних процесорах NVIDIA та AMD, а також 3% загального прискорення на AMD MI350.

Безпека та готовність

Випуск моделей з відкритим кодом — це частина нашої роботи для надання переваг особистої суперінтелектуальності всім, а також частина безпеки, що просувається у цій галузі.

Відкриті ваги також мають свої особливості, і Muse Spark Open має додаткові заходи безпеки після навчання з цієї причини. Результати демонструють сильні засоби захисту у всіх категоріях ризиків.

Ми оцінили модель відповідно до нашої методології Meta Superintelligence Scaling Framework, покриваючи найбільш серйозні ризики, і вона відповідала вимогам нашої системи для випуску. Детальні результати доступні в картці моделі Muse Spark Open, а повний звіт про оцінку буде доступний найближчим часом.

Ліцензія

Ми випускаємо ваги під ліцензією Muse Model з обмеженими комерційними умовами, що дозволяють багатьом розробникам безкоштовно використовувати модель.

Почати

Ви можете налаштувати Muse Spark Open для своїх потреб, використовуючи TorchTitan фреймворку PyTorch для додаткової настройки моделі. Для роботи на Apple Silicon використовуйте MLX, який безпосередньо завантажує ваги з Hugging Face.

Muse Spark Open доступний вже зараз через Hugging Face: https://huggingface.co/collections/meta-models/muse-spark-open

Налаштувальник MLX для запуску Muse Spark Open на Mac Studio.

Партнери для хостингу виведення: Together AI, Fireworks, Baseten, Modal, Groq, Nebius та OpenRouter.

Створили щось з Muse Spark Open? Поділіться з нами на форумах Hugging Face — нам цікаво побачити, що ви створили.