Faire tourner un modèle d’intelligence artificielle de plusieurs centaines de milliards de paramètres sur du matériel de bureau représente un défi technique important. Avec Muse Spark Open, présenté le 15 octobre 2026, Meta met en avant une approche qui associe un modèle de grande taille à une architecture conçue pour limiter les calculs nécessaires à chaque étape.
Le modèle compte 816 milliards de paramètres au total, mais environ 42 milliards sont activés pour chaque token traité. Il utilise une architecture sparse mixture-of-experts (MoE) : au lieu de solliciter l’ensemble du réseau pour chaque opération, le système dirige les données vers une partie de ses experts spécialisés. Cette conception réduit les calculs par token, mais ne fait pas disparaître le besoin de mémoire nécessaire pour charger les poids du modèle.
Sa fenêtre de contexte atteint 1 048 576 tokens, soit environ un million. Cette capacité permet de travailler sur de très grands ensembles d’informations dans une même session : documentation technique, fichiers de code, longs documents ou historique d’une tâche. Elle ne garantit toutefois pas que chaque information sera toujours comprise ou utilisée correctement.
Meta destine notamment Muse Spark Open au développement logiciel et aux agents IA. Avec Muse Code, le modèle peut intervenir dans un projet sur plusieurs étapes : examiner le code existant, préparer une modification, appliquer des changements et vérifier le résultat. Meta présente également une démonstration dans laquelle le système pilote DaVinci Resolve pour examiner des séquences vidéo et sélectionner des passages pertinents. Ces exemples illustrent les usages visés, mais ne constituent pas une garantie de réussite sur tous les projets.
L’un des aspects les plus remarquables concerne l’exécution locale. Meta explique avoir optimisé le modèle avec le framework MLX d’Apple pour le faire fonctionner sur deux Mac Studio équipés de puces M5 Ultra. L’architecture mémoire unifiée d’Apple permet aux processeurs graphiques d’accéder à une importante quantité de mémoire. Deux machines peuvent ainsi se répartir le stockage des poids et les opérations nécessaires à l’inférence.
Cette configuration reste néanmoins loin d’un ordinateur grand public classique. Un modèle de cette taille nécessite une infrastructure mémoire importante, du matériel coûteux et une configuration logicielle adaptée. L’exécution locale peut réduire la dépendance à un fournisseur d’API externe, mais elle transfère à l’organisation la responsabilité du matériel, des mises à jour, de la sécurité et de la maintenance.
Le terme « open-weight » mérite également une précision. Meta rend les poids du modèle accessibles au téléchargement, ce qui permet de l’héberger sur sa propre infrastructure et de le personnaliser. Cela ne signifie pas que toutes les données d’entraînement et toutes les étapes de développement sont publiées, ni que son utilisation est dépourvue de restrictions. Muse Spark Open est distribué sous la Muse Model License, dont les conditions doivent être examinées avant tout usage commercial.
Pour les équipes techniques, le choix entre un modèle local et un service cloud dépendra donc de plusieurs critères : confidentialité des données, budget matériel, vitesse attendue, coût d’exploitation et qualité des résultats sur les tâches visées. Le nombre de paramètres ne suffit pas à déterminer lequel sera le plus performant dans un contexte donné.
Muse Spark Open illustre ainsi une évolution importante : les modèles ouverts de très grande taille ne sont plus uniquement présentés comme des systèmes à héberger dans des centres de données. Des configurations locales spécialisées deviennent possibles, même si leur coût et leur complexité limitent encore leur accessibilité. L’enjeu sera de vérifier si les avantages en matière de contrôle et de personnalisation compensent les ressources nécessaires à leur exploitation.
Consultez la fiche du modèle et ses fichiers disponibles au téléchargement.
Consulter le modèle
