Googles Satelliten-KI: ein Tag, ein gefälschtes Atomkraftwerk im Iran

Google Earth hat zwei Jahrzehnte damit verbracht, zur standardmäßigen visuellen Referenz für alle zu werden, die überprüfen wollen, wie die physische Welt tatsächlich aussieht. Journalisten nutzen es, um Konfliktgebiete zu dokumentieren. Menschenrechtsforscher nutzen es, um Haftanstalten zu verfolgen. UN-Inspektoren greifen aus der Sicherheit eines Büros darauf zurück. Google hat dem Ganzen kurzzeitig etwas Neues hinzugefügt: einen KI-Bildgenerator, der direkt in die Satellitenkarte eingebunden war.

Das Tool, das auf Googles eigenem Bildgenerierungsmodell Nano Banana 2 basierte, funktionierte wie angekündigt. Nutzer gaben eine Textaufforderung ein – „Zeige Pompeji vor dem Ausbruch“ oder „Verwandle diese Küstenlinie in eine Infografik“ – und die KI überlagerte generierte Bilder auf die entsprechenden realen Koordinaten. Legitime Anwendungsfälle waren leicht vorstellbar. Die gefährlichen erwiesen sich als ebenso einfach umsetzbar.

Henk van Ess, ein investigativer Journalist, gehörte zu den Ersten, die das Problem dokumentierten. Innerhalb weniger Stunden nach dem Start erzeugte er ein fiktives Atomkraftwerk über einem Ort im Iran. Das Ergebnis war überzeugend genug, um das Risiko zu veranschaulichen. Noch beunruhigender war, was geschah, als er die eingebaute Sicherheitsvorkehrung testete: Google hatte in jedes generierte Bild SynthID-Wasserzeichen eingebettet – die KI-Authentifizierungsschicht des Unternehmens. Van Ess umging sie, indem er seinen Bildschirm abfotografierte, anstatt einen Screenshot zu machen. Externe KI-Erkennungstools bewerteten das resultierende Bild mit nur 1% Wahrscheinlichkeit, KI-generiert zu sein.

Googles Verteidigung war technisch korrekt, aber praktisch unzureichend. Das Unternehmen merkte an, dass generierte Bilder „nicht im Haupt-Google-Earth-Erlebnis für andere sichtbar waren“ – sie waren sitzungsspezifisch, nur für den Ersteller einsehbar. Diese Unterscheidung bricht zusammen, wenn man den Bildschirm fotografiert und das Ergebnis teilt. Ein gefälschtes Satellitenbild einer sensiblen Anlage, das nur mit einer Bildunterschrift kursiert, ist von einem zur Täuschung erstellten Bild nicht zu unterscheiden.

Es gibt hier eine strukturelle Spannung, die stärkere Schutzmaßnahmen möglicherweise nicht vollständig lösen. Dieselbe Fähigkeit, die KI-Bildgenerierung nützlich macht, macht sie auch gefährlich, wenn die zugrundeliegende Quelle vertrauenswürdige Satellitendaten sind. Dieses Vertrauen beruht auf der Annahme, dass das, was Google Earth zeigt, die physische Realität widerspiegelt. In dem Moment, in dem generierte Inhalte auf echte Koordinaten gelegt werden können – und die Authentifizierungsschicht durch eine Kamera überwunden werden kann – bekommt diese Annahme einen Riss, der sich nicht schließt, wenn die Funktion offline geht.

Die Funktion wurde am 31. Juli zurückgezogen, weniger als 24 Stunden nach dem Start. Google gab zu, „Screenshots generierter Bilder gesehen zu haben, die gegen unsere Richtlinien zu verstoßen scheinen“, und verpflichtete sich, vor einem erneuten Start „stärkere Schutzmaßnahmen“ zu implementieren. Ein Zeitplan wurde nicht genannt. Der Zeitpunkt fügt eine weitere Ebene hinzu: Seit dem 2. August gelten die vollständigen Durchsetzungsbestimmungen des EU AI Act in ganz Europa, die die Kennzeichnung KI-generierter Inhalte vorschreiben, die Nutzer täuschen könnten – darunter ausdrücklich synthetische Bilder, die in vertrauenswürdige Informationsquellen eingebettet sind.

Schlagwörter: Google, KI, deepfakes, Google Earth, Satellitenbilder, désinformation