Cybersicherheit

OpenRouter wirft drei KI-Anbieter raus, nachdem Köder-Prompts Datenklau aufdeckten

Adrian Kessler
Fügen Sie uns bei Google hinzu

OpenRouter, der Dienst, über den viele KI-Apps ihre Prompts an den jeweils günstigsten oder schnellsten Modell-Host schicken, hat drei dieser Hosts von seiner Plattform entfernt und mehr als hundert Endpunkten das Label „Zero Data Retention“ entzogen. Auslöser war ein Experiment, bei dem gefälschte Zugangsdaten in Prompts platziert wurden, um dann zu beobachten, wer sie zu nutzen versucht. Einige der abgeflossenen Prompts waren als „nie zu speichern“ markiert gewesen.

Wer einen Chatbot, einen Coding-Assistenten oder ein Schreibwerkzeug auf Basis eines fremden Modells nutzt, dessen Text läuft womöglich durch mehrere Unternehmen, bevor eine Antwort zurückkommt, und jedes von ihnen kann ihn vollständig lesen. OpenRouter erklärt, die Ergebnisse zeigten keinen Einbruch in die eigenen Systeme. Die Schwachstellen lagen weiter unten in der Kette, bei den Unternehmen, die die Modelle tatsächlich betreiben.

Die Untersuchung stammt von Dragos, einem Sicherheitsunternehmen, dessen Chief Research Officer HD Moore die Arbeiten leitete. Über fünf Monate schickte sein Team knapp zwei Millionen Prompts, jeweils mit einem Weblink, einem Server-Passwort oder einem Amazon-Web-Services-Schlüssel, die nirgendwo sonst existierten. Ein platziertes Geheimnis lässt sich nur aus dem Prompt erfahren, der es enthielt; jede Verwendung beweist also, dass jemand diesen Prompt gelesen hat. Die ersten Tokens wurden schon nach wenigen Tagen ausgelöst.

Der gravierendste Befund war schlichter Diebstahl. Angreifer waren in drei Inferenzanbieter eingebrochen, und keiner der drei wusste davon, bis die Forscher es ihnen mitteilten. Im größten Fall wurde jede Anfrage an einen Anbieter in einigen kurzen Zeitfenstern kopiert, auch Anfragen, die der Anbieter abwies, bevor überhaupt ein Modell lief – der Dieb sitzt damit an der Eingangstür statt tief im Inneren. Die gestohlenen AWS-Schlüssel wurden getestet, teils binnen Stunden, und dann in zehntausenden API-Aufrufen genutzt, um Speicher und Secret-Tresore zu durchsuchen. Manche der gestohlenen Anfragen trugen das Zero-Retention-Flag.

Andere Lecks kamen ohne Einbruch aus. Auf einem Reseller-Marktplatz boten Verkäufer beliebte Modelle zum niedrigsten Preis an, schalteten das Protokollieren der Anfragen ein und behielten, was durchlief. Eine Person an einem Privatanschluss in Frankreich entnahm zwei Prompts Passwörter und versuchte, sich per SSH als Root anzumelden – jeden Versuch tippte sie von Hand ein. Davon unabhängig rief ein chinesisches KI-Labor die geheimen Links aus mehr als der Hälfte der an seine Modelle geschickten Prompts ab, darunter rund zwei Drittel jener, die als „keine Datenerfassung“ gekennzeichnet waren; US-Hosts, die seine Modelle weiterverkaufen, speisten denselben Scraper. Ein Link tauchte in einem Feishu-Arbeitschat auf und wurde 24 Tage nach einer einzigen Anfrage von sechs Geräten in Peking und Shanghai aus geöffnet.

Drei Hosts haben Mitteilungen veröffentlicht. Phala erklärte, ein Angreifer habe einen seiner Inferenzserver übernommen und Anfragen während der Verarbeitung einsehen können. Together AI teilte mit, ein KI-Coding-Agent habe Zugangsdaten in ein öffentliches GitHub-Repository eingecheckt, wodurch ein Eindringling gespeicherte Prompt-Proben herunterladen und die darin enthaltenen Passwörter testen konnte; fünf davon stammten aus den Ködern der Forscher. Novita erklärte, ein Routing-Fehler habe einige MiniMax-Anfragen an den eigenen Dienst von MiniMax weitergeleitet.

Der Aufräumaktion sind klare Grenzen gesetzt. OpenRouter hat die drei entfernten Anbieter nicht benannt, Dragos nicht die drei, bei denen es Einbrüche fand, und keiner von beiden hat gesagt, ob es sich um dieselben Unternehmen handelt. Ein kompromittierter Anbieter hatte seinen Vorfall laut den Forschern noch immer nicht öffentlich gemacht. Außerdem lässt sich mit dem Rauswurf eines Hosts nicht zurückholen, was bereits kopiert wurde: Platzierte Schlüssel und Links wurden noch Wochen nach den ersten Diebstählen verwendet. Und wer eine auf diesen Gateways aufbauende App nutzt, kann in der Regel nicht sehen, welcher Host seinen Text verarbeitet hat.

Moores Rat geht von einer Grenze aus: Ein Datenschutz-Flag bindet nur den ersten Hop, und KI-Agenten schicken alles weiter, was sie lesen können, Zugangsdaten eingeschlossen. Selbsthosting ist die einzige Konstellation, in der kein Dritter einen Prompt liest. Wer direkt zu einem einzigen großen Anbieter geht, hat nur einen Vertrag und eine Datenschutzerklärung zu prüfen, und Nutzer von Routern sollten die Upstream-Hosts selbst auswählen, statt den günstigsten Pool hinzunehmen.

Dragos veröffentlichte seine Ergebnisse am 19. November. OpenRouter schrieb betroffene Kunden per E-Mail an und veröffentlichte seine Vorfallsmeldung am darauffolgenden Wochenende; Phala fordert alle, die zwischen dem 21. Oktober und dem 8. November Geheimnisse über das Gateway an ein DeepSeek-Modell geschickt haben, auf, diese zu rotieren. OpenRouter sagt, es baue die Köder-Prompt-Tests der Forscher in die eigene Plattform ein, damit die Prüfungen fortlaufend laufen, und entfernte Endpunkte erhielten das Zero-Retention-Label erst nach Zusicherungen und Validierung zurück. Dragos arbeitet inzwischen mit rund einem Dutzend Anbietern zusammen.

Wie Moore es formulierte: Wohin Ihre Prompts gehen, ist eine Entscheidung, „und wenn Sie sie nicht treffen, trifft der niedrigste Preis sie für Sie.“

Schlagwörter: , , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.