Demis Hassabis darüber, wer KI-Sicherheit bezahlt: „Die Finanzierung müsste erheblich sein und größtenteils aus der Industrie kommen“

Demis Hassabis hat das Jahr damit verbracht, zu argumentieren, dass die leistungsfähigsten KI-Systeme vor ihrer Veröffentlichung von einer unabhängigen Stelle überprüft werden sollten – nach dem Vorbild der Aufsichtsbehörde, die die Makler der Wall Street kontrolliert. Die schwierigere Frage ist nicht, ob es einen solchen Schiedsrichter geben sollte. Es ist die Frage, wer dafür bezahlt – und in einem einzigen Satz hat der Chef von Google DeepMind auch das beantwortet.

„Die Finanzierung müsste erheblich sein und voraussichtlich größtenteils aus der Industrie kommen, um erstklassige technische Talente anzuziehen und die nötigen Rechenressourcen für groß angelegte Tests bereitzustellen,“

Hassabis schrieb diesen Satz in dem Grundsatzpapier, in dem er seinen Vorschlag darlegte, zitiert von Malay Mail. Bei flüchtiger Lektüre klingt es nach Verantwortung: Schutzmaßnahmen kosten Geld, und die Unternehmen, die die Technologie bauen, sollten die Rechnung bezahlen, anstatt die Öffentlichkeit die Aufräumarbeiten finanzieren zu lassen. Als Mechanismus gelesen, ist es der tragende Satz des gesamten Plans – derjenige, der darüber entscheidet, wessen Interessen der Schiedsrichter am Ende schützt.

LeseempfehlungNew York verbannt KI aus 600.000 Klassen und setzt auf Lernwiderstand

Die Spannung liegt in diesem Satz. Hassabis will, dass die Stelle unabhängig ist. Er will auch, dass sie – „größtenteils“ – von genau der Industrie finanziert wird, die sie beurteilen soll. Diese beiden Ziele ziehen in entgegengesetzte Richtungen, und die Geschichte des von ihm gewählten Modells zeigt, welches Ziel sich in der Regel durchsetzt. Die Financial Industry Regulatory Authority, seine Vorlage, wird von den Maklerfirmen bezahlt, die sie beaufsichtigt. Senatorin Elizabeth Warren argumentiert seit Jahren, die FINRA handele „eher im Interesse der Maklerfirmen, die ihre Rechnungen bezahlen, als im Interesse der einzelnen Anleger, die sie schützen soll“.

Der Einwand ist kein randständiger. Nader Henein, Vizepräsident und Analyst bei Gartner, bezeichnet Selbstregulierung schlicht als „nicht praktikabel“, weil den meisten Anbietern die Fähigkeit dazu fehle und die Regelung „zwangsläufig“ Interessenkonflikte hervorbringe. Der unabhängige Analyst Carmi Levy ging noch weiter und bezeichnete den Plan als „einen selbstgefälligen Fahrplan für eine Branche, die nur darauf aus ist, nach vorne zu rasen“ – ungeachtet des Schadens. Selbst wohlwollende Stimmen fordern eine Brandmauer: Yoshua Bengio sagt, er verstehe den Pragmatismus, bestehe aber auf „einer klaren und präzisen Roadmap für den Übergang von einem freiwilligen zu einem verpflichtenden Modell“.

All dies macht Hassabis nicht zu einem Akteur mit bösen Absichten. Er leitet das Labor hinter AlphaFold, dem System, das die Formen von Proteinen vorhersagte und die Biologie neu ausrichtete – eine Erfolgsbilanz, die seinen Warnungen vor den Fähigkeiten an der Spitze der KI echtes Gewicht verleiht. Genau das macht den Satz so bedenkenswert. Die glaubwürdigste technische Stimme im Raum schlägt auch den Schiedsrichter vor, entwirft dessen Regeln und stellt dessen Budget aus denselben Unternehmen zusammen, die die Prüfung ablegen würden. Freiwillige Vorlage, kurzes Prüfungsfenster vor der Veröffentlichung, Industriegeld: Jedes Zugeständnis ist für sich genommen vernünftig, und zusammen beschreiben sie eine Stelle, mit der die Labore gut leben könnten.

Ein Sicherheitsregime ist nur so unabhängig wie sein Budget. Der Satz, der darüber entscheiden wird, ob dieses Regime die Öffentlichkeit oder die Labore schützt, ist nicht der über die Überprüfung von Frontier-Modellen. Es ist der leise Satz darüber, wer die Schecks unterschreibt.

Schlagwörter: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI

Ähnliche Beiträge

ChatGPT Work: OpenAI vereint ChatGPT und Codex in einem Agenten, der nie aufhört

Reese Witherspoon kontert die KI-Kritik: „Ich glaube nicht, dass Computer die Menschlichkeit ersetzen sollten“

Alibabas Qwen 3.8 Max kostet 2 Dollar pro Million Tokens — offene Gewichte erscheinen am 10. August

Google zwingt Android-Entwickler, weniger RAM zu verwenden — die KI hat den Rest genommen

OpenAI bietet Washington 42 Milliarden Dollar, um ein Gesetz zur 50-Prozent-Besteuerung von KI abzuwenden

Ein 10-köpfiges Microsoft-Team hat ein Sprachmodell gebaut, das OpenAI, Google und ElevenLabs schlägt — für 0,10 $ pro Stunde