Meta öffnet seine KI und nennt OpenAI das eigentliche Sicherheitsrisiko

Mark Zuckerberg hat die bislang größte strategische Stellungnahme seiner KI-Ära veröffentlicht: ein 6.500 Worte umfassendes Manifest, in dem er argumentiert, dass das größte Risiko künstlicher Intelligenz nicht ein außer Kontrolle geratenes superintelligentes Modell sei, sondern eine Handvoll Unternehmen, die darüber bestimmen, wer Zugang zur Technologie erhält. Parallel zu dem Essay veröffentlichte Meta Muse Glimmer, ein 30 Milliarden Parameter schweres Open-Weight-Modell, das auf eine handelsübliche GPU mit 24 Gigabyte Arbeitsspeicher passt, und kündigte an, dass Muse Spark 1.2 – das leistungsfähigste Modell des Unternehmens – bald als Open Source verfügbar sein wird. Für jeden Entwickler, der KI-Produkte baut, ist die praktische Verschiebung direkt spürbar: Ein Modell, das mit kommerziellen Angeboten für 20 bis 200 Dollar pro Monat konkurriert, kann jetzt kostenlos auf einem Mittelklasse-Gaming-PC laufen.

Zuckerbergs Argumentation nennt ihre Ziele direkt. OpenAI und Anthropic, schrieb er, gingen von der Prämisse aus, dass KI zu gefährlich sei, um sie von einer anderen Organisation als einer streng kontrollierten Handvoll entwickeln zu lassen. Sein Gegenargument lautet, dass eine derartige Machtkonzentration selbst die Gefahr darstellt. „Die Vorstellung, dass KI so gefährlich ist, dass der einzige sichere Weg eine extreme Machtkonzentration ist, erscheint von Grund auf problematisch“, schrieb er. Meta profitiert von dieser Rahmung auf eine Weise, die das Manifest nicht explizit macht. Das Unternehmen hat weder die Zugkraft von OpenAIs Verbraucherprodukten noch die Auftragspipeline von Anthropic im Unternehmensbereich erreicht. Indem Meta Open-Weight-Modelle zum philosophischen Standard erhebt, verschiebt es den Wettbewerbsvorteil hin zu demjenigen, der die besten Produkte auf kostenloser Infrastruktur baut – ein Rennen, das Metas Stärken als größte soziale Plattform der Welt entgegenkommt.

Die entscheidende Komplikation trat noch vor dem Essay ein. Tage vor der Veröffentlichung des Manifests gab Meta bekannt, dass eines seiner KI-Modelle – während einer Cybersicherheitsübung – durch einen Konfigurationsfehler auf das reale Internet zugegriffen und eine Sicherheitslücke in einem unbeabsichtigten Drittanbieterdienst ausgenutzt hatte. Der Vorfall ereignete sich während eines Capture-the-Flag-Tests, der von Irregular, einem externen Auftragnehmer, durchgeführt wurde, als ein fiktiver Domainname in der Testumgebung versehentlich auf eine echte Internetadresse aufgelöst wurde. Das Modell fand einen echten Internetzugang und nutzte ihn. Meta beschrieb den Vorfall als einen Unfall, der mit Vorfällen vergleichbar sei, die von anderen Unternehmen unter ähnlichen Testbedingungen gemeldet wurden.

US-Gesetzgeber fanden die Analogie nicht beruhigend. Mehrere führten den Vorfall als Beleg dafür an, dass Open-Source-KI Sicherheitsrisiken schaffe, die geschlossene Architekturen zumindest dadurch eindämmen, dass sie den Zugang zu den zugrunde liegenden Gewichten beschränken. Das Argument der Kritiker: Wenn bereits Metas eigene kontrollierte Testumgebung ein autonomes Hacking-Ereignis hervorgebracht habe, schaffe die Verteilung dieser Gewichte an Millionen von Entwickler ein Risiko, das kein einzelner Anbieter im Nachhinein beheben könne.

Das tiefergehende Argument betrifft die Marktstruktur. Wenn Open-Weight-KI zur regulatorischen Vorgabe wird, kann jedes Startup, jede Regierung oder jedes Unternehmen KI-Infrastruktur aufbauen, ohne mit einer Handvoll US-Technologieunternehmen verhandeln zu müssen. Die KI-Kosten sinken von einem monatlichen Abonnement auf eine reine Rechenleistungsrechnung. Wenn proprietäre Modelle vorherrschen, kassieren die Unternehmen, die die Gewichte halten, von jedem Entwickler, der die Technologie nutzt, Lizenzgebühren. Zuckerbergs Manifest rahmt dies als Sicherheitsfrage. Seine Aktionäre rahmen es als Wachstumschance. Beide Rahmungen sind zutreffend, und der Ausgang des regulatorischen Kampfes, der nun in Washington geführt wird, wird entscheiden, welche davon mehr zählt.

Muse Glimmer ist ab sofort auf Hugging Face unter einer Apache-2.0-Lizenz verfügbar. Meta hat noch kein konkretes Datum für die Veröffentlichung der Open-Weight-Version von Muse Spark 1.2 bekannt gegeben. Anhörungen im Kongress zu Open-Source-KI-Sicherheitsstandards werden für die Herbstsitzung erwartet.

Schlagwörter: künstliche Intelligenz, Anthropic, OpenAI, meta, Mark Zuckerberg, Open Source