OpenAIs Sam Altman vor der UNO: „KI sollte für die Menschen gebaut werden, nicht bloß, um die Maschinen schneller laufen zu lassen…“

Sam Altman spielt seit Jahren zwei Rollen zugleich: Er baut die leistungsfähigste künstliche Intelligenz auf dem Markt – und warnt die Welt vor ihr. Vor dem Sicherheitsrat der Vereinten Nationen suchte der OpenAI-Chef nach einem einzigen Satz, der diese beiden Rollen auseinanderhalten sollte. Für sich genommen ist es ein guter Satz.

„KI sollte für Menschen entwickelt werden – nicht bloß, um die Maschinen um ihrer selbst willen schneller anzutreiben.“

Er sagte das vor dem Sicherheitsrat, wie Analytics Insight über seine Äußerungen berichtete. Es war Teil eines umfassenderen Plädoyers dafür, leistungsfähige Systeme unter menschlicher Kontrolle zu halten und die Regeln dafür von Regierungen festlegen zu lassen, statt allein von den KI-Laboren. Der Satz zieht eine Grenze: Auf der einen Seite steht KI, die für Menschen entwickelt wird, auf der anderen KI, die um ihrer selbst willen immer schneller vorangetrieben wird. Aus fast jedem Mund wäre das ein schlichter Grundsatz. Aus dem Mund des Geschäftsführers jenes Unternehmens, das diese Entwicklung am stärksten vorantreibt, ist es zugleich eine Aussage darüber, wer entscheiden darf, wo die Grenze verläuft.

Altman ist eine seltene Figur: zugleich Architekt und Warner. Auf denselben Podien, auf denen er sich für Schutzvorkehrungen ausspricht, kündigt er Systeme an, die leistungsfähiger sind als jene, die die letzte Runde von Anhörungen ausgelöst haben. Mit seinen Äußerungen vom 23. September hob er die Bühne auf eine neue Ebene – von Podiumsdiskussionen in Davos und Anhörungen im Senat bis zum Sicherheitsrat. Das Muster aber blieb dasselbe: Vorsicht in den Worten, Beschleunigung im Fahrplan. Vor dem Sicherheitsrat argumentierte er, Entwickler „sollten keine Modelle trainieren, bei denen wir nicht mit äußerster Zuversicht sagen können, dass wir sie unter menschlicher Kontrolle halten können“, und die wichtigsten Entscheidungen „dürfen nicht allein von Laboren in San Francisco getroffen werden“.

Hier wird der Satz interessant – und hier muss man ihn genau lesen. Die Regeln, von denen Altman spricht, werden von genau den Staaten ausgearbeitet, an die er sich wandte. Und wer festlegt, was „für Menschen entwickelt“ bedeutet, entscheidet auch darüber, welche Entwickler die Voraussetzungen bereits erfüllen. Ein führendes KI-Labor, das am Regelwerk mitschreibt, ist dabei keine neutrale Partei. Nichts davon macht die Warnung bedeutungslos. Das Risiko, das er benennt – Systeme, die schneller voranschreiten als die Institutionen, die sie überwachen sollen, und Entscheidungen, die sich in zu wenigen Händen konzentrieren –, ist real. Es laut vor dem Sicherheitsrat auszusprechen, erhöht den Druck auf alle, die das Thema lieber vage halten würden. Es bedeutet lediglich, dass der Überbringer inzwischen selbst Teil der Botschaft ist.

Wohlwollend gelesen, ist der Satz eine ethische Leitlinie: Der Mensch soll eingebunden bleiben, und KI soll als Werkzeug verstanden werden, das Handlungsspielräume eröffnet – nicht als Maschine, die Menschen zu ihren eigenen Eingaben macht. Liest man ihn zugleich als das, was er ebenfalls ist – einen Positionierungsversuch des exponiertesten Akteurs der Branche –, dann ist er der Versuch, die Bedingungen für die kommenden Regeln festzulegen und dabei wie der Erwachsene im Raum zu wirken. Beides kann gleichzeitig zutreffen. Genau deshalb lässt sich Altman so schwer abtun – und so schwer vertrauen.

Die Kurbel dreht sich weiter, während die Welt darüber entscheidet, für wen sie sich dreht. Ob der Satz ehrlich gemeint ist, wird sich an einer einzigen Frage zeigen: Wird OpenAI das Tempo drosseln, wenn „für Menschen“ und „schneller“ schließlich in unterschiedliche Richtungen weisen?

Schlagwörter: OpenAI, Sam Altman, artificial intelligence, AI safety, AI governance