KI

Meta öffnet Muse Glimmer: KI-Agent mit 30 Milliarden Parametern läuft auf deiner GPU

Adrian Kessler

Meta hat einen KI-Agenten mit 30 Milliarden Parametern entwickelt, der vollständig auf Consumer-Hardware läuft – und den Quellcode kostenlos veröffentlicht. Das Modell namens Muse Glimmer leitet Ihre Aufgaben nicht über Metas Server weiter. Es führt sie lokal auf Ihrer eigenen GPU aus und passt mit einem quantisierten Speicherbedarf von 18 bis 20 Gigabyte in das Budget aktueller High-End-Grafikkarten für Endverbraucher.

Das ist bedeutsam, denn die vorherige Generation lokaler Modelle – die Varianten mit 7 und 13 Milliarden Parametern, die in den letzten zwei Jahren die Ollama-Bibliothek füllten – waren zwar passable Textgeneratoren, aber schwache autonome Agenten. Sie haderten mit mehrschrittigen Abläufen, Tool-Aufrufen, die mittendrin scheiterten, und Aufgaben, die erforderten, sich an einen Schritt drei Positionen zurück zu erinnern. Muse Glimmer wurde speziell für diese Arbeitsabläufe entwickelt: Code schreiben, Funktionsaufrufe, Terminplanung, Dateiorganisation und mehrschrittige Aufgabenketten, die sich automatisch erholen, wenn ein Tool-Aufruf fehlschlägt.

Die zugrundeliegende Architektur ist eine Destillation von Muse Spark, dem kommerziellen Modell, für das Meta letztes Monat API-Zugriff verkauft hat. Durch Logit-Destillation und Reinforcement Learning hat das Unternehmen sein geschlossenes Flaggschiff in eine Form komprimiert, die auf eine 24-Gigabyte-GPU passt – die RTX 5090, Apples M5 Max oder den M4 Max. Spekulatives Decodieren steigert den Durchsatz weiter: Die RTX 5090 läuft das Modell 3,1-mal schneller als ohne, der M5 Max 1,8-mal, der M4 Max 1,5-mal. In der Praxis ist dieser Unterschied die Grenze zwischen einem Agenten, der sich reaktiv anfühlt, und einem, der Geduld erfordert.

Das Modell verarbeitet verschachtelte Texte und Bilder – Screenshots, Dokumente, gemischte Eingaben – und arbeitet in über 100 Sprachen. Es verbindet sich nativ mit den Frameworks, die lokale KI-Nutzer bereits verwenden: Ollama, LM Studio, llama.cpp, MLX. Wenn Sie bereits Modelle von Hugging Face beziehen und auf Ihrer Hardware ausführen, fügt sich Muse Glimmer nahtlos in diesen Workflow ein, ohne zusätzliche Werkzeuge.

Die Lizenz ist Apache 2.0, was bedeutet, dass es keine kommerziellen Einschränkungen gibt. Einzelpersonen, Unternehmen und Forscher können es nutzen, ohne an Meta zu zahlen. Das stellt es in eine andere Kategorie als die Modelle von OpenAI und Anthropic, die selbst für Entwicklungsarbeit pro Token kosten. Im Vergleich zu Googles Gemma4-31B und Alibabas Qwen3.6-27B – seinen engsten Open-Weight-Konkurrenten nach Größe – positioniert sich Meta mit Muse Glimmer als stark für seine Größe bei agentischen und allgemeinen Sprachmodell-Benchmarks, ohne genauere Angaben zu machen, bei welchen Aufgaben es gewinnt.

Die Hardware-Schwelle bleibt selektiv. 18 Gigabyte Modellgewichte auf eine GPU zu bringen, klingt erschwinglich, bis man ausrechnet, welche GPU das erfordert. Eine RTX 5090 kostet derzeit über zweitausend Dollar. Apples M5 Max-Maschinen beginnen bei knapp dreitausend Dollar. Das ist lokale KI für eine bestimmte Einkommensklasse, kein Ersatz für die Cloud für die meisten Nutzer. Die quantisierte Version ist zudem ein reduzierter Ableger von Muse Spark: Sie erbt das Trainingssignal des kommerziellen Modells, ist aber nicht das kommerzielle Modell. Meta verkauft weiterhin Zugang zur leistungsfähigeren Version.

Was sich mit dieser Veröffentlichung ändert, ist die Stufe leistungsfähiger lokaler KI-Agenten. Ein 30-Milliarden-Parameter-Modell zu betreiben, das für autonome Aufgabenausführung trainiert wurde, ist etwas anderes, als ein Chat-Modell mit derselben Parameteranzahl zu betreiben. Der Unterschied liegt darin, wie das Modell mit Tool-Fehlern und mehrschrittigen Sequenzen umgeht – nicht darin, wie gut es einen einzelnen Satz vervollständigt.

Die Gewichte sind ab dem 10. August auf Hugging Face unter Apache 2.0 verfügbar. Meta hat Partnerschaften zur Optimierung auf Geräteebene mit AMD, Arm, Dell, Intel und Nvidia bestätigt, mit weiteren angepassten Builds für spezifische Hardware-Konfigurationen in Kürze. Die lokale KI-Community wird das Modell innerhalb weniger Tage einem Stresstest unterziehen, wie sie es bei jeder bedeutenden Veröffentlichung tut – die Benchmark-Ergebnisse dieser Community werden innerhalb von zwei Wochen ein klareres Bild davon liefern, wo Muse Glimmer tatsächlich steht.

Schlagwörter: , , , , ,

Diskussion

Es gibt 0 Kommentare.