Mistral Large 4 kostet nichts, der passende Mac 22.299 Dollar

Mistral hat die vollständigen Gewichte von Mistral Large 4 veröffentlicht. Das Modell, das das Unternehmen „Le Chonk“ nennt, kann damit von allen heruntergeladen, angepasst und auf eigener Hardware betrieben werden. Das französische KI-Labor bezeichnet es als derzeit stärkstes offenes Modell für das Schreiben von Code und für defensive Sicherheitsarbeit – etwa um eine Software-Schwachstelle nachzustellen und anschließend zu beheben. Wer hofft, das Modell zu Hause laufen zu lassen, stößt allerdings auf ein Größenproblem.

Le Chonk hat rund eine Billion Parameter, von denen bei jedem erzeugten Wort 49 Milliarden aktiv sind. Selbst die am stärksten komprimierten Fassungen – 2-Bit-Versionen des llama.cpp-Teams und von Unsloth – benötigen laut Hugging Face einen einzelnen Apple-Silicon-Ultra-Rechner mit 512 GB gemeinsam genutztem Speicher. Der einzige Mac, den Apple mit so viel Speicher verkauft, ist ein Mac Studio mit M5-Ultra-Chip. In dieser Konfiguration kostet er in den USA laut 9to5Mac 22.299 Dollar. Für alle anderen Möglichkeiten, das Modell auszuführen, braucht es mehrere leistungsstarke Grafikkarten, die zusammenarbeiten.

Mistrals Argumente für das Modell drehen sich vor allem um Code. Das Unternehmen gibt an, dass es im Terminal-Bench 4.0, einem Test für KI-Agenten an der Kommandozeile, 41 Prozent erreicht – das beste Ergebnis unter den offenen Modellen. Im Coding-Agent-Index von Artificial Analysis liege es gleichauf mit GLM-5.3, benötige pro Aufgabe aber 47 Prozent weniger Tokens und sei dadurch günstiger im Betrieb. Bei verblindeten direkten Vergleichen von Surge hätten die Prüfer seinen Code dem von GLM-5.3, Kimi K3 und DeepSeek V4.1 Flash vorgezogen. Nur Anthropics Claude Opus 5.5 landete vor ihm.

Das Sicherheitsversprechen richtet sich an die Verteidiger. Hugging Face zufolge erzielte das Modell bei einer Aufgabe von Artificial Analysis 82 Prozent. Dabei soll ein Modell eine echte Schwachstelle in quelloffener Software nachstellen und anschließend beheben. Mistral zufolge liegen mehrere geschlossene Spitzenmodelle bei dieser Aufgabe nahe null, weil sie sich weigern, es überhaupt zu versuchen. Eine Bank oder eine Behörde kann das Modell auf eigenen Servern betreiben, mit dem eigenen Code und den eigenen Absturzprotokollen füttern und es weiterverwenden, selbst wenn ein Anbieter seine Bedingungen ändert. „KI wird wie Elektrizität sein. Man möchte nicht in einer Welt leben, in der der Nachbar einem von einem Tag auf den anderen den Strom abstellen kann“, sagte Pierre Stock, Mistrals Vizepräsident für Wissenschaft, laut Wired vor Journalisten.

Die meisten dieser Zahlen stammen von Mistral selbst und beruhen auf Benchmarks, die Mistral ausgewählt hat; unabhängige Tests haben gerade erst begonnen. Im Gesamtindex für Intelligenz von Artificial Analysis führt Hugging Face das Modell unter den offenen Modellen auf Platz fünf, nicht auf Platz eins. Auch das Sicherheitsargument hat zwei Seiten. Mistral schrieb, das Unternehmen habe bei der Beobachtung des laufenden Datenverkehrs während der Vorschau „ein Potenzial für eine Steigerung der Fähigkeit zu echten Angriffen“ erkannt und verschärfe nun seine Schutzvorkehrungen. Die öffentlich verfügbaren Gewichte können jedoch von allen heruntergeladen und angepasst werden – auch von Angreifern. „Das ist ganz klar eine Technologie mit doppeltem Verwendungszweck“, sagte Rafe Pilling, Senior Director für Threat Intelligence bei Sophos, gegenüber Wired.

Auch mit dem passenden Mac ist der Einsatz zu Hause ein Kompromiss. Hugging Face führte die 2-Bit-Version auf einem älteren Mac Studio mit M3 Ultra aus und erreichte etwa 15 Tokens pro Sekunde – für Gespräche ausreichend, für längere Programmieraufgaben aber langsam. Mit vier Nvidia-RTX-6000-Pro-Karten und sehr langen Dokumenten sank die Ausgabe auf etwa 3 Tokens pro Sekunde. Die Komprimierung auf 2 Bit geht zudem zulasten der Genauigkeit im Vergleich zur Vollversion, mit der Mistral seine Benchmarks durchgeführt hat.

Die Gewichte können weltweit von Hugging Face unter der Mistral Ecosystem Open-Weight License heruntergeladen werden. Dabei handelt es sich um eine modifizierte MIT-Lizenz, die kostenlose Nutzung, Feinabstimmung und kommerzielle Produkte erlaubt. Eine Ausnahme gilt für Unternehmen, die das Modell als gehosteten Dienst anbieten: Sie benötigen dafür eine separate kommerzielle Lizenz von Mistral. Alle anderen können es auch über Mistrals API nutzen. Dort kostet es 0,70 Dollar pro einer Million Eingabe-Tokens und 2,10 Dollar pro einer Million Ausgabe-Tokens. Außerdem ist es über OpenRouter und Microsoft Foundry verfügbar. Mistral veröffentlichte Anfang Oktober eine Vorschau und stellte am 29. Oktober die endgültigen Gewichte bereit. Apple zufolge werden Mac Studios mit 512 GB Speicher zwischen Ende November und Anfang Dezember ausgeliefert.

„Sobald man die Gewichte als Open Source veröffentlicht, sind sie überall im Internet. Den Zugang zu sperren, ist unmöglich“, sagte Stock gegenüber Wired. Wer keinen Computer für 22.299 Dollar hat, scheitert an den Kosten für den Speicher.

Schlagwörter: Cybersicherheit, Hugging Face, Mac Studio, Le Chonk, Mistral AI, Mistral Large 4