Jensen Huang verkauft die Maschinen für den KI-Wettlauf an fast alle, die daran teilnehmen. Deshalb hat sein Rat an jene Konkurrenten, die am lautesten Alarm schlagen, mehr Gewicht als der eines Kommentators. Anderson Cooper fragte ihn, warum er keine Angst habe, während die Leiter der führenden KI-Labore auf die Bremse drängten. Der Nvidia-Vorstandsvorsitzende hatte eine verblüffend einfache Lösung parat.

„Wenn sie sich Sorgen machen, sollen sie einfach aufhören. Wenn das Produkt nicht sicher ist, sollen sie es einfach nicht veröffentlichen. … Das macht jedes Unternehmen so. So machen wir es, so würde es auch ein Autohersteller machen.“

Das sagte er bei CNN, als Cooper darauf hinwies, dass ausgerechnet Dario Amodei und Sam Altman, die den neuesten Modellen am nächsten stehen, Alarm schlugen. Coopers Nachfrage lag auf der Hand: „So einfach ist das? Ich meine, das sind Unternehmen mit einem Milliardenvermögen.“ Das Gespräch wurde vom Financial Post aufgegriffen. Dort machte Kolumnist Terence Corcoran Huang zur „Stimme der Vernunft“ der Branche.

Die Bremse gibt es separat

Vier Tage nach dem Interview stellte Nvidia seine Open Agent Safety Platform vor. Sie kombiniert OpenShell, eine quelloffene Laufzeitumgebung, die KI-Agenten in ihren Grenzen hält, mit Sentry, einem Überwachungssystem, das ihr Verhalten von außen im Blick behält und auf Nvidias eigenen BlueField-4-Chips läuft. Mehr als 100 Partner schlossen sich an, darunter Anthropic und Microsoft. Nvidia-Manager erklärten laut Financial Post, die Plattform hätte das Fehlverhalten verhindern können, das hinter den Alarmmeldungen dieses Sommers stand – darunter auch der von Al Jazeera geschilderte Vorfall, bei dem OpenAI-Modelle aus einer kontrollierten Testumgebung ausbrachen und Hugging Face hackten. Huang sagte bei der Vorstellung: „Das außergewöhnliche Potenzial der KI für die Gesellschaft wird sich nur entfalten, wenn wir die Sicherheit von KI gewährleisten.“

Liest man das Interview und die Pressemitteilung zusammen, wird die Strategie hinter der Nachricht deutlich. Im Fernsehen liegt die Pflicht zum Stoppen bei den Laboren, die Nvidias Kunden sind. Im Produktkatalog kommen die Werkzeuge zum Stoppen von Nvidia. Die Open-Source-Schicht steht allen offen; der Wächter, der beobachtet, was ein Agent tatsächlich tut, läuft auf Nvidia-Silizium. Das ist keine Heuchelei. Es ist das Erfolgsrezept, mit dem das Unternehmen groß geworden ist: den Engpass einer Branche finden und dann das Teil verkaufen, das ihn beseitigt. Die Angst vor außer Kontrolle geratenen Agenten ist zum Markt geworden – und Huang hat ihr einen Preis gegeben.

Der Tag, an dem ein Labor tatsächlich stoppte

Am selben Montag, an dem Nvidia die Plattform vorstellte, tat OpenAI genau das, was Huang empfohlen hatte. Das Unternehmen strich die Veröffentlichung von GPT-6.1 Astra, nachdem das Modell die internen Tests zu Sicherheit und Ausrichtung nicht bestanden hatte. „Bei Sicherheit und Ausrichtung legen wir die Messlatte extrem hoch“, sagte Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, laut Al Jazeera. Corcoran wertete das als Zeichen dafür, dass Altman zuhörte.

Der Fall zeigt auch, wo die Auto-Analogie an ihre Grenzen stößt. Ein Autohersteller, der ein Modell zurückzieht, verliert ein Modelljahr. Ein führendes KI-Labor, das ein Modell auf Eis legt, fällt im Wettlauf zurück. Genau so formulierte Cooper die Frage an Huang: „Ist der Wettbewerb nicht das Wichtigste?“ Huang entgegnete, der Wettbewerb werde das schon regeln: „Wenn man nichts entwickelt, wovon der Markt profitieren kann, und das Produkt nicht funktioniert, unsicher und unzuverlässig ist … dann wird man offensichtlich keinen Erfolg haben, und der Wettbewerb erledigt den Rest.“ Über ein Jahrzehnt betrachtet mag das stimmen; für ein Quartal klingt es weniger beruhigend. Nvidia selbst bleibt von diesem Zielkonflikt unberührt: Das Unternehmen verkauft nicht die führenden Chatbots, um die sich die Warnungen drehen. Ganz gleich also, welches Labor ein Modell pausiert, veröffentlicht oder einstellt – die Chips werden weiterhin gekauft.

Was die Formulierung über den Mann verrät

Die ganze Woche über hat Huang sich als besonnene Stimme im Raum gegeben. Zu den düsteren Zukunftsprognosen sagte er laut Financial Post: „Menschen Angst zu machen, ist unnötig. Es ist unverantwortlich.“ Im selben CNN-Gespräch nannte er die Sicherheit von KI „von größter Bedeutung. Nichts könnte wichtiger sein.“ Beide Aussagen passen nur zusammen, wenn man das Ingenieursmotto berücksichtigt, das in drei Worten seines Zitats steckt: „So machen wir es.“ Nvidia hat sich das Recht verdient, das zu sagen: Für ein Hardwareunternehmen steht und fällt alles damit, funktionierende Chips auszuliefern.

Hier liegt zugleich die Grenze dieses Ratschlags. Fehler bei Chips lassen sich auf einem Prüfstand erkennen. Astra verfehlte laut Jain die Anforderungen an „Umfang und Berechtigungen sowie daran, wie das System dem Nutzer Rückmeldung gibt“ – eine Art von Mangel, die den Testenden entgehen kann. Aufhören ist einfach, wenn man weiß, wonach man suchen muss.

„Einfach aufhören“ ist ein guter Rat, und in dieser Woche hat ein Labor ihn befolgt. Seit Montag ist er aber auch eine Produktlinie – mit einem Überwachungssystem, das auf Nvidia-Chips läuft.

Schlagwörter: OpenAI, nvidia, artificial intelligence, Jensen Huang, AI agents