OpenAI-Chef Sam Altman skizziert drei KI-Endspiele, zwei davon kennt man seit 2023

OpenAI-Chef Sam Altman hat seinen Mitarbeitern eine Art Wegweiser dafür vorgelegt, wie das Rennen um Superintelligenz enden könnte. Besonders aufschlussreich daran ist, wie wenig davon neu ist. Zwei der drei Szenarien, die er seiner Belegschaft erläuterte, ähneln stark Ideen, die sein Unternehmen schon vor Jahren schriftlich festgehalten hat. Umgesetzt wurde keines von beiden. Das dritte Szenario, das für Schlagzeilen sorgte, erwähnte er nur, um es gleich auszuschließen.

Hinter den verschiedenen Bezeichnungen steckt in jedem Fall dieselbe Frage: Wer kontrolliert die Rechenleistung, auf der die führenden Modelle laufen? Auch Altman selbst soll sich dazu geäußert haben – und erklärt damit, warum diese Frage immer wieder vertagt wird.

Was Sam Altman den OpenAI-Mitarbeitern zum möglichen Ende des KI-Wettlaufs sagte

The Information berichtete zuerst über die interne Präsentation und berief sich dabei auf mit der Angelegenheit vertraute Personen. The Decoder, Forbes und Latin Times griffen den Bericht anschließend auf. Die Darstellung stützt sich auf anonyme Quellen. Die erste Option ist eine internationale Institution nach dem Vorbild der Internationalen Atomenergie-Organisation, die Sicherheitsstandards für führende KI-Labore durchsetzen soll: Sie würde Systeme inspizieren, Audits verlangen und die Nutzung von Rechenleistung und Energie überwachen. Zwei Personen sagten The Information, Altman habe sich offenbar dafür ausgesprochen.

LeseempfehlungOpenAIs Sam Altman vor der UNO: „KI sollte für die Menschen gebaut werden, nicht bloß, um die Maschinen schneller laufen zu lassen…“

Die zweite Option nannte er den „Demis-Plan“ – nach Demis Hassabis, Mitgründer von Google DeepMind, der vor etwa einem Jahrzehnt eine KI-Institution nach dem Vorbild des CERN ins Spiel gebracht hatte. In Altmans Variante würden sich die führenden Labore zu einer Einheit zusammenschließen oder unter deren Dach arbeiten. Diese Einheit würde dann kooperierenden Ländern Modelle zur Verfügung stellen.

Die dritte Option ist der „Eliezer-Plan“, benannt nach dem KI-Sicherheitstheoretiker Eliezer Yudkowsky. Ein Entwickler erreicht als Erster eine sich selbst verbessernde KI und nutzt die daraus entstehende wirtschaftliche Macht, um allen Konkurrenten den Zugang zu Rechenleistung abzuschneiden. In der Formulierung, die die Runde machte, würde er „die GPUs aller anderen schmelzen“. „Offensichtlich halte ich das für furchtbar“, soll Altman gesagt und hinzugefügt haben, er habe die Option der „Vollständigkeit halber“ aufgenommen.

OpenAI hatte den Großteil dieser Optionen schon 2023 skizziert

Die Aufsichtsbehörde ist der älteste Vorschlag auf der Liste. In einem Beitrag, der von Altman, OpenAI-Präsident Greg Brockman und dem damaligen leitenden Wissenschaftler Ilya Sutskever unterzeichnet war, schrieb das Unternehmen, die Welt werde „letztlich wahrscheinlich etwas wie eine IAEA für Superintelligenz-Bemühungen brauchen“ – eine Behörde, die „Systeme inspizieren, Audits verlangen“ und den Einsatz von Systemen oberhalb einer bestimmten Fähigkeits- oder Rechenleistungsschwelle beschränken könnte.

Derselbe Beitrag skizzierte zwei weitere Wege. Große Regierungen, hieß es darin, „könnten ein Projekt aufsetzen, in das viele der derzeitigen Initiativen eingebunden werden“ – eine Variante, die dem Zusammenschluss ähnelt, den Altman heute Hassabis zuschreibt. Oder die Branche „könnte sich gemeinsam darauf einigen“, dass „die Fähigkeiten der führenden KI-Systeme pro Jahr nur bis zu einem bestimmten Maß wachsen dürfen“.

Diese letzte Idee ist eine Geschwindigkeitsbegrenzung. Laut The Decoder beklagte Altman intern, es gebe zu wenige tragfähige Vorschläge für eine „Geschwindigkeitsbegrenzung“ bei der KI-Entwicklung. Sein Unternehmen hatte selbst eine veröffentlicht. Was es nie auf den Weg brachte, war eine Instanz mit der Macht, sie durchzusetzen.

Warum die Aufsicht auf dem Papier bleibt: OpenAI sagt, das Unternehmen könne nicht langsamer werden

Die Begründung dafür fiel in derselben Besprechung. Altman soll den Mitarbeitern gesagt haben, die ersten beiden Pläne erforderten eine umfassende Abstimmung und OpenAI könne es sich derzeit nicht leisten, Boden zu verlieren – zumal sowohl das eigene Unternehmen als auch Anthropic auf einen Börsengang zusteuerten. Crypto Briefing legte die Logik der Investoren offen: Unternehmen, die sich auf einen Börsengang vorbereiten, verschaffen sich einen Vorsprung, statt ihn einem Konsortium zu überlassen.

Eine IAEA für KI würde außerdem voraussetzen, dass Washington und Peking Inspektoren in ihren sensibelsten Laboren akzeptieren. Wie Forbes anmerkt, ist selbst ein US-Vorschlag, wonach die beiden Länder einander über gefährliche KI-Vorfälle informieren sollen, bislang nur eine Skizze und noch keine Vereinbarung.

Was die Labore stattdessen aufbauen, ist eine FINRA – keine IAEA

Das Governance-Projekt, das tatsächlich vorankommt, entspricht keiner der drei Optionen Altmans. OpenAI, Google und Anthropic arbeiten an einer Selbstregulierungsgruppe namens Standards Authority for Frontier AI, die der FINRA nachempfunden ist – der privaten Organisation, die US-Broker beaufsichtigt. Latin Times beschreibt einen Rahmen für Tests vor der Veröffentlichung, die Meldung von Vorfällen und die Akkreditierung von Prüfern, allerdings ohne verbindliche Durchsetzungsbefugnisse. Zudem sind sich die drei Labore noch uneinig darüber, wer neue Modelle testen soll. Mark Zuckerberg von Meta und Jensen Huang von Nvidia argumentieren, solche Regeln schützten vor allem die etablierten Anbieter. In den USA wird in einer bereits eingereichten Kartellklage außerdem behauptet, die Sicherheitsabstimmung zwischen den Laboren komme einem Kartell gleich.

Auch die Bezeichnungen verdienen einen zweiten Blick. Yudkowskys ursprüngliches Bild vom „Verbrennen aller GPUs“ war ein Gedankenexperiment dazu, wie groß der Eingriff eines auf Sicherheit ausgerichteten Systems sein müsste, um ein rücksichtsloses Wettrennen zu stoppen. Er schrieb, dass dies nicht das sei, was er tatsächlich getan sehen wolle. Altmans „Eliezer-Plan“ macht aus dieser Notbremse einen Sieg durch ein Monopol. Laut The Decoders Darstellung des Berichts sagte eine Quelle, die Bemerkung sei als Seitenhieb auf einen Konkurrenten verstanden worden – angesichts von Yudkowskys Verbindungen zu Anthropic.

The Information zufolge will OpenAI innerhalb eines Jahres entscheiden, welchen Weg das Unternehmen einschlägt. Die Branchenorganisation für Standards peilt einen Start Ende 2026 oder Anfang 2027 an.

Bis OpenAI eine Entscheidung trifft, setzt das Unternehmen seine Fahrt auf genau der Straße fort, die auf Altmans Liste fehlte: dem Rennen selbst.

Schlagwörter: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Ähnliche Beiträge

Sam Altman nennt einen OpenAI-Börsengang ‘unklug’ – Sicherheit ist nicht der einzige Grund

Sam Altman zur KI: „…dass man sie nutzt, ist nicht verhandelbar“

OpenAI bietet Washington 42 Milliarden Dollar, um ein Gesetz zur 50-Prozent-Besteuerung von KI abzuwenden

Sam Altman: „Wir sind jetzt in der Singularität“

Demis Hassabis darüber, wer KI-Sicherheit bezahlt: „Die Finanzierung müsste erheblich sein und größtenteils aus der Industrie kommen“

OpenAI und Anthropic wollen die KI bremsen – und bauen sich einen Burggraben