König Charles warnt die KI-Entwickler vor der ‚existenziellen Gefahr‘ ihrer eigenen Technik

„Diejenigen, die diese Technologien geschaffen haben, warnen zunehmend, dass KI dabei sei, dunklere Fähigkeiten zu entwickeln – vielleicht sogar, um Leben zu nehmen.“ Der Satz, den König Charles wählte, war keine Warnung vor Hackern oder feindlichen Staaten. Es war ein Spiegel, den er den Menschen vorhielt, die diese Systeme bauen, und die darin enthaltene Warnung schrieb er ihnen zu.

Das ist die Hälfte der Rede, die die meiste Berichterstattung übergangen hat. Der Satz, der die Runde machte, war der mildere aus denselben Anmerkungen – die „existenzielle Gefahr, wenn solche Technologien in die falschen Hände geraten.“ Falsche Hände ist ein bequemes Narrativ, wenn man das Werkzeug ausliefert. Es verortet die Gefahr da draußen, bei irgendeinem Schurken, der ein neutrales Instrument missbraucht, nicht im Instrument selbst oder in den Firmen, die darum wetten, es leistungsfähiger zu machen. Charles lehnte es ab, es dabei zu belassen.

Stattdessen lenkte er das Risiko zurück an seinen Ursprung. Die Entwickler seien es, die jetzt Alarm schlügen, sagte er – und dann stellte er dem Raum eine Frage mit Schärfe: „Brauchen wir nicht sicherlich ausreichende Kontrollmittel, bevor es zu spät ist?“

Das Gewicht dieses Satzes liegt auf einem Wort. Kontrolle ist das Eine, was eine solche Versammlung nicht wirklich übergeben kann. Sie hat keine gesetzliche Befugnis, setzt keine Grenze, die ein Unternehmen befolgen muss, und hat keine Strafe für Missachtung parat. Heraus kam eine Vereinbarung, „gemeinsame Prinzipien“ zu verfolgen – ein Begriff, der einen Wunsch beschreibt, keinen Mechanismus. Die Führungskräfte waren, allen Berichten zufolge, dankbar für das Gespräch. Dankbarkeit ist keine Sicherheitsvorkehrung.

Es gibt hier eine institutionelle Umkehrung, die bei all der Zeremonie leicht übersehen wird. Ein Monarch hat keine Hebel über Nvidia, OpenAI, Anthropic oder Google DeepMind. Er kann kein Modell lizenzieren, kein Training auditieren oder eine Auslieferung verlangsamen. Die Leute, die all das könnten – Gesetzgeber, Wettbewerbshüter, der Minister, der tatsächlich im Raum saß –, hatten nicht einberufen. Eine Figur mit symbolischer Autorität und keiner Durchsetzungsmacht bat die Leute mit aller durchsetzungsfreier Macht der Welt, sich doch bitte selbst zu regulieren. Das ist ungefähr die Anordnung, die die Branche schon immer bevorzugt hat.

So gelesen, erwies der Gipfel den Entwicklern einen stillen Gefallen. Es ließ die Geschichte zu „falsche Hände“ werden, dem Narrativ, dass die Technologie in Ordnung sei und nur ihr Missbrauch das Problem. Es verwandelte eine Warnung vor inhärenter Fähigkeit – die Maschine, die „dunklere Fähigkeiten“ auf eigener Bahn entwickelt – in eine vertraute Debatte über böse Akteure. Und es verpackte das Ganze in die Legitimität einer Krone, die, so aufrichtig sie auch sein mag, keine einzige der geforderten Schutzmaßnahmen erzwingen kann.

Die Zusammenkunft fand in Dumfries House statt, dem restaurierten georgianischen Anwesen des Königs in Ayrshire, Schottland. Im Raum waren Nvidia-Chef Jensen Huang, Google-DeepMind-Gründer Demis Hassabis, OpenAI-Finanzvorstand Sarah Friar, Anthropics Leiter für globale Angelegenheiten Tino Cuéllar, der britische KI-Minister Kanishka Narayan und Pater Paolo Benanti, der Technologieethik-Berater des Vatikans. Charles würdigte auch das Versprechen der KI – insbesondere in der Medizin – und wies auf ihre Umweltkosten hin. Er bat die Gäste, die Technologie „fest im Dienst der Menschheit, der Gemeinschaft und der natürlichen Welt“ zu halten. Keine verbindliche Zusage verließ den Raum mit ihnen.

So hörten die mächtigsten Leute der Branche ein Staatsoberhaupt ihr Produkt als fähig beschreiben, aus eigener Kraft Leben zu nehmen – und gingen mit ihrem bevorzugten Narrativ intakt und einer königlichen Audienz als Beleg hinaus. Die Kontrollmittel, um die der König bat, bleiben genau dort, wo sie waren, bevor er sprach: in den Händen, die er adressierte, und in niemandes sonst.

Schlagwörter: OpenAI, artificial intelligence, AI safety, AI risks, King Charles