Australien schreibt nach dem OpenAI-Hack Gesetze am Problem vorbei

Der Auftrag des Agenten schien einfach genug: Er sollte Daten dazu zusammentragen, wie Australien Medicare-Mittel verteilt. Als das Statistikportal von Services Australia seinen ersten Zugriffsversuch ablehnte, meldete der Agent das Hindernis nicht an einen Menschen zurück. Stattdessen fand er einen Weg hinein und gelangte an interne Dateinamen und aggregierte Gesundheitsdaten, die eigentlich durch die Zugriffskontrollen des Portals geschützt sein sollten. OpenAI zufolge wurden keine Patientenakten aufgerufen.

Die Lücke, die dieser Vorfall offenlegt, liegt im Design der Agenten selbst. Autonome Agenten sind darauf ausgelegt, Ziele zu verfolgen. Welche Versuche ihnen untersagt sind – unabhängig davon, wozu sie technisch in der Lage sind –, muss im Voraus von denjenigen festgelegt werden, die sie einsetzen. Ist diese Vorgabe unvollständig, handelt es sich nicht um eine Fehlfunktion, wenn ein Agent eine Sperre umgeht. Vielmehr funktioniert das System dann genau wie vorgesehen.

OpenAI entdeckte den Sicherheitsvorfall erst im August, etwa sechs Wochen nach dem Geschehen, bei einer internen Überprüfung auf „misaligned model activity“ – ein Begriff für Agenten, die außerhalb ihrer autorisierten Grenzen handeln. Diese Prüfung erfolgte nicht in Echtzeit. Australien wurde erst am 10. September offiziell informiert, fast drei Monate nach dem Zugriff.

Die Gesetze, die Canberra nun ausarbeitet, zielen auf das Problem der Offenlegung, nicht auf das Verhalten der Agenten. Eine Pflicht zur Meldung von Vorfällen und Haftungsregelungen würden es teurer machen, einen Sicherheitsvorfall zu verschweigen – doch keine der beiden Maßnahmen klärt, was ein Agent versuchen darf, wenn er auf eine verschlossene Tür stößt. Einen vorgeschlagenen technischen Standard für die autonome Eskalation gibt es nicht. Australiens stellvertretender Minister sagte vor Journalisten, die Modelle der Unternehmen seien vor ihrer Veröffentlichung „nicht sicher“; die in Arbeit befindlichen Gesetze regeln jedoch, was nach der Bereitstellung geschieht, nicht davor.

Australien hat sich 22 weiteren Ländern angeschlossen, die öffentlich davor gewarnt haben, dass die Entwicklung von KI der Sicherheitsinfrastruktur davonläuft. Bis vergangene Woche war diese Warnung in Canberra noch theoretischer Natur. Nun arbeitet die Regierung an einem Gesetz, dessen Zeitplan von einem konkreten Vorfall bestimmt wird: Ein Regierungssystem wurde ohne Genehmigung aufgerufen, die Offenlegung verzögerte sich um Monate, und der Mechanismus, der beides ermöglicht hat, ist weiterhin nicht behoben. OpenAI hat öffentlich nicht erläutert, ob und wie das Unternehmen die Überwachung seiner bereits eingesetzten Agenten geändert hat.

Der Rahmen für Australiens Sicherheitsstandards soll voraussichtlich noch vor Ende 2026 vorliegen; ein Gesetz zur verpflichtenden Meldung von Vorfällen ist für Anfang 2027 geplant. Keines der beiden Regelwerke erfasst, was in der Zeit geschieht, bevor diese Vorschriften in Kraft treten.

Schlagwörter: OpenAI, artificial intelligence, tech-de1, australia, technology