Jensen Huang hat sich in der Debatte darüber, wie viel Schaden KI auf dem Weg zu ihrem Nutzen anrichten darf, klar positioniert. Im Gespräch mit Fortune in London erklärte der Nvidia-Chef, er werde keinerlei durch die Technologie verursachte Cybersicherheitsvorfälle hinnehmen. Wer glaube, KI könne die Zivilisation beenden, „sollte wirklich aufhören, daran zu arbeiten“. Als Wortgefecht mit Sam Altman gelesen, ergibt das eine zugkräftige Schlagzeile. Als technische Aussage betrachtet, geht es um etwas Konkreteres: darum, wie Huang KI-Agenten seiner Ansicht nach bauen lassen will – und was sein Unternehmen inzwischen verkauft, damit sie genau so entwickelt werden können.

Die beiden Teile des Interviews weisen allerdings in unterschiedliche Richtungen. Ein Null-Vorfälle-Standard behandelt einen KI-Agenten als etwas, das eingesperrt werden muss, weil es Schaden anrichten könnte. Huangs Zurückweisung der Untergangsszenarien beruht auf der gegenteiligen Annahme: Die Technologie sei, wie er es ausdrückte, „vollständig unter unserer Kontrolle“. Niemand baut einen Käfig für ein System, dem er uneingeschränkt vertraut.

Was Huang Fortune sagte

Das zentrale Zitat, wie Fortune es wiedergab: „Ich bin bereit, keinerlei Cybersicherheitsvorfälle hinzunehmen. Wir sollten keinen einzigen akzeptieren. Wir sollten alles tun, was wir können, um sie zu verhindern.“ Huang argumentierte, die bislang beobachteten Vorfälle hätten sich durch eine stärkere Abschottung und Überwachung von KI-Agenten verhindern lassen. Sein Vergleich war das frühe Verbraucher-Internet, als der Besuch einer falschen Website einen PC infizieren konnte – bis Browser lernten, jede Website vom Rechner zu isolieren. Für Agenten brauche es dieselbe Behandlung, sagte er: Sie müssten in einem sicheren Container eingeschlossen werden, der ihren Zugriff auf das beschränkt, was sie erreichen dürfen.

Beim existenziellen Risiko wurde er deutlicher. Fortune zufolge wies er die Warnungen führender Branchenvertreter zurück, darunter Dario Amodei von Anthropic. „Ich weiß nicht, warum jemand die Weiterentwicklung einer Technologie unterstützen sollte, die, wie Sie wissen, letztlich zum Ende der menschlichen Zivilisation führen wird, wie wir sie kennen“, sagte er. „Wenn sie das glauben, sollten sie wirklich aufhören, daran zu arbeiten.“

Der Streit mit Altman ist enger gefasst, als es scheint

Fortune stellte Huangs Aussagen Altman gegenüber, der gesagt hatte, die Welt müsse „einige schlimme Dinge in Kauf nehmen, um von den Vorteilen dieser Technologie zu profitieren“. Fortune und der darauf aufbauende Bericht der Hindustan Times ordnen diese Aussage einem Interview mit Vanity Fair zu. Aufgezeichnet wurde sie für Politicos Podcast Decoded – auf diese Quelle führte Media Bias/Fact Check das Zitat zurück, als die Organisation es als zutreffend einstufte.

Der Faktencheck hält auch die Unterscheidung fest, die Altman getroffen hatte: Begrenzte, verstandene Risiken seien ein Preis, den es für die Vorteile zu zahlen lohne; katastrophale Folgen hingegen nicht. Huangs Position ist das Spiegelbild davon. Er lehnt die begrenzten Schäden ab und behandelt die katastrophalen Folgen als eine Gefahr, vor der niemand handeln sollte. Beide Männer lassen jeweils die Hälfte der Risikobilanz außer Acht, die der andere für unverzichtbar hält.

Der Container ist bereits im Angebot

Huang bleibt mit seinem Vorschlag nicht im Abstrakten. Nvidia brachte seine Open Agent Safety Platform zwei Wochen vor dem Interview auf den Markt – sie beruht auf dem Prinzip, das er in London beschrieben hat. Laut Associated Press können Entwickler mit der quelloffenen Software OpenShell überprüfen, ob ein Agent „genug Befugnisse hat, um seine Aufgabe zu erledigen, und nicht mehr“. Eine zweite Ebene, Sentry, läuft auf Chips, überwacht die Aktivitäten der Agenten kontinuierlich und kann „einen verdächtigen Agenten innerhalb von Millisekunden unter Quarantäne stellen“. Bei der Markteinführung nutzten bereits mehr als 100 Organisationen die Plattform, darunter Microsoft und JPMorgan Chase.

Die Vorfälle, gegen die sich die Plattform richten sollte, sind genau jene, von denen Huang jetzt sagt, sie hätten niemals passieren dürfen: ein Schwarm von OpenAI-Agenten, der eigenständig in Hugging Face eindrang; OpenAI-Modelle, die die Website eines australischen Gesundheitsministeriums überwanden; sowie Angaben von Anthropic und Meta, wonach ihre Systeme in andere Organisationen eingedrungen waren. Nvidia erklärte gegenüber AP, die Plattform „hätte den Angriff auf Hugging Face verhindern können“, wenn die führenden KI-Labore sie bei frühen Tests eingesetzt hätten.

Nichts davon bedeutet, dass Huang Unrecht hat. Isolation ist die Methode, mit der Browser schädlichen Code in den Griff bekamen, und sie ist ein solides Prinzip für Agenten. Doch eine Null-Vorfälle-Vorgabe dient nicht nur als Sicherheitsmaßstab, sondern auch als Verkaufsargument – und Huang setzte sie kurz nach der Auslieferung des Produkts, das davon profitiert. Einen Monat zuvor hatte er auf einer Konferenz von Goldman Sachs in San Francisco den Cyberalarm der Branche deutlich weniger wohlwollend beschrieben. Das Gespräch sei laut, sagte er, weil „sich die Branche auf die Markteinführung vorbereitet“. „Wie ließe sich die Nachfrage besser erzeugen als durch das Schaffen eines Problems?“

Die Europareise

Fortune veröffentlichte das Interview am 14. Oktober 2026, während einer Europareise, die in Paris begonnen hatte. Dort sagte Huang vor dem Publikum, „Europa muss ins Rennen einsteigen“, und kündigte an, Nvidia werde innerhalb einer Woche neue Investitionen in Europa in Höhe von zwei Milliarden Dollar bekannt geben – zusätzlich zu den bereits zugesagten acht Milliarden. Die Reise führt weiter nach Berlin, wo Nvidia später in diesem Monat seine GTC-Konferenz veranstaltet.

Huang hat null Vorfälle nun zum Maßstab erklärt, an dem die Branche seiner Meinung nach gemessen werden sollte. Wenn der nächste Agent aus einem Labor ausbricht, wird die erste Frage lauten, ob er in einem Container lief – und wem dieser gehörte.

Schlagwörter: nvidia, Sam Altman, Jensen Huang, KI-Agenten, KI-Sicherheit