OpenAI und Anthropic wollen die KI bremsen – und bauen sich einen Burggraben

Das Auffällige an der plötzlichen Begeisterung für eine Verlangsamung der künstlichen Intelligenz ist nicht, dass diejenigen, die sie bauen, jetzt Bremsen wollen. Es ist, dass die Bremsen, die sie beschreiben, nur sie sich bequem leisten können. Wenn sich die Führer der wertvollsten KI-Labore fast einhellig einig sind, dass sich das Feld zu schnell bewegt, ist der Sicherheitsfall real – und ebenso der Geschäftsfall, der leise darunter liegt.

Der Auslöser war ein Aufruf von Dario Amodei von Anthropic, die „Frontier zu dosieren“: die Geschwindigkeit zu verlangsamen, mit der sich die Fähigkeiten von Modellen verbessern, unabhängige Bewerter in den Laboren zu installieren und die führenden Akteure in demokratischen Ländern auf gemeinsame Sicherheitsstandards zu verpflichten. Er bezeichnete die öffentliche Gegenreaktion gegen KI als, in seinen Worten, eine Vertrauenskrise. Innerhalb eines kurzen Zeitfensters sagte Sam Altman, er stimme zu, und dass OpenAI genau dies bereits diskutiert habe; Elon Musk bot eine Zwei-Wort-Bestätigung an: „Dario hat recht.“ Die Berichterstattung behandelte es wie ein überfälliges Gewissen, das auf einmal eintrifft.

Liest man denselben Plan als Analyst und nicht als Sicherheitsbeauftragter, erscheint ein zweites Bild. Eingebettete Drittprüfer, zertifizierte Alignment-Tests, veröffentlichte Risikorahmen und Vorfallberichte sind nicht nur Schutzmaßnahmen; sie sind Fixkosten. Und Fixkosten sind die zuverlässigste Wettbewerbswaffe, die ein großes Unternehmen besitzt, weil sie für alle gleichermaßen in Dollar anfallen und für niemanden gleichermaßen in Schmerz.

LeseempfehlungKI-Modelle von OpenAI und Meta entkamen ihrer Sandbox und hackten sich in echte Systeme ein

Betrachten Sie die Arithmetik. Die größten US-amerikanischen Cloud- und KI-Infrastrukturanbieter haben sich für das kommende Jahr zu Kapitalausgaben in der Größenordnung von 660 bis 690 Milliarden Dollar verpflichtet, wobei Amazon allein nahe 200 Milliarden Dollar liegt und Alphabet, Meta und Microsoft jeweils in den Hunderten von Milliarden oder sich diesem nähern. Angesichts solcher Bilanzen ist ein Compliance-Regime – ein Team eingebetteter Bewerter, ein jährlicher Sicherheitsrahmen, eine Strafe, die Kalifornien auf eine Million Dollar pro Verstoß begrenzt – ein Rundungsfehler. Für ein Start-up, das versucht, die Frontier zu erreichen, ist es die gesamte Startbahn.

Dies ist nicht mehr hypothetisch. Kaliforniens SB 53 definiert bereits einen „großen Frontier-Entwickler“ durch zwei Tore: Modelle, die über einer sehr hohen Rechenleistungsschwelle trainiert werden, und mehr als eine halbe Milliarde Dollar Umsatz. Diese Firmen müssen Sicherheitsrahmen veröffentlichen und kritische Vorfälle unter engen Fristen melden. In Europa verlangt Artikel 55 des KI-Gesetzes, dass Anbieter der leistungsfähigsten Allzweckmodelle adversariale Tests durchführen, systemische Risiken mindern und schwere Vorfälle melden. Der Boden wird gegossen; die Frage ist, wer groß genug ist, um darauf zu stehen, ohne es zu bemerken.

Das deutlichste Zeichen ist, wer nicht um Bremsen bittet. Der Plan nennt nie seine natürlichen Verlierer, aber sie sind leicht zu identifizieren: die Labore, deren gesamtes Modell darin besteht, die Gewichte wegzugeben – Meta, Frankreichs Mistral, Chinas DeepSeek und Alibaba. Wie eine abweichende Analyse es ausdrückte, sind dies „die vier Namen, die der Aufsatz nie druckt“, die Hersteller der kostenlosen Modelle, die ein zahlender Kunde sonst herunterladen könnte, anstatt eine API zu mieten. Sie können die Ausrichtung eines Modells nicht zertifizieren, das jeder an einem Nachmittag modifizieren kann, daher trifft ein Standardsystem, das auf die Frontier abzielt, am härtesten offene Gewichte. Und das offene Lager gewinnt genau die Nutzer, die die etablierten Anbieter lieber behalten würden: Ein chinesisches offenes Modell, Qwen, verzeichnet Downloads in Milliardenhöhe, während Metas Llama in Hunderten von Millionen zählt.

Nichts davon ist neu. Es ist der älteste Schachzug in jeder regulierten Branche – der etablierte Spieler begrüßt das Regelwerk, das er sich leisten kann, weil eine Kosten, die auf seinen Büchern trivial ist, eine Mauer für einen Rivalen ist. Ökonomen haben einen klaren Namen dafür, Regulierungserfassung, und sie erfordert keine böse Absicht. Ein Sicherheitsargument kann völlig aufrichtig sein und dennoch als Eintrittsbarriere fungieren. Hier sind beide Dinge gleichzeitig wahr.

Für Europa sind die Einsätze schärfer, als sie aussehen. Der einzige glaubwürdige Frontier-Herausforderer des Kontinents, Mistral, ist genau ein Open-Weight-Labor, und seine spanischen und breiteren europäischen Kunden – die Start-ups, die Produkte auf billigen, modifizierbaren Modellen aufbauen – sind diejenigen, die am meisten verlieren, wenn der globale Compliance-Boden um vier amerikanische etablierte Anbieter herum geschrieben wird. Ein Regelwerk, das in San Francisco entworfen und in Brüssel ratifiziert wurde, kann die Öffentlichkeit schützen und die Leiter hinter den Führern gleichzeitig hochziehen.

Also willkommen die Sicherheitswende: Die Risiken sind real und die Bewerter sind überfällig. Aber beobachten Sie, was als Nächstes kommt. Wenn die endgültigen Regeln genau dort landen, wo die vier Giganten zahlen können und niemand kleiner, dann wird die Verlangsamung die Frontier nicht so sehr dosiert, sondern eingezäunt haben.

Schlagwörter: OpenAI, Anthropic, AI regulation, Mistral, open-weight models

Ähnliche Beiträge

Anthropic strebt an die Börse und riskiert seine Sicherheitsmission

Alibabas KI liest deinen Bildschirm und erzielt 92 % auf echten Smartphones – und läuft auf deiner eigenen Hardware

Pixel Watch 5: Googles KI-Gesundheitswächter startet ohne FDA-Freigabe

Meta öffnet Muse Glimmer: KI-Agent mit 30 Milliarden Parametern läuft auf deiner GPU

OpenAI knackt 1-Million-Dollar-Matheproblem in 88 Stunden — Streit um Anerkennung folgt

SpaceX-Börsenprospekt beziffert Anthropics Colossus-Rechnung auf 15 Milliarden im Jahr