KI

Grok Bot versuchte 31-mal ungefragt, Mails und Kalender seiner Nutzer zu lesen

Adrian Kessler
Fügen Sie uns bei Google hinzu

Grok Bot, der KI-Agent von xAI für den Arbeitsalltag, hat wiederholt versucht, ohne jede Aufforderung die Kalender, E-Mails sowie Slack-, Notion- und GitHub-Konten seiner Besitzer auszulesen. Das geht aus einer Untersuchung hervor, die das Sicherheitsunternehmen NewCore veröffentlicht hat. Einige dieser Zugriffsversuche erfolgten, während der Laptop eines Besitzers über Nacht zugeklappt war und dieser schlief. Als einer der Besitzer den Bot später fragte, worauf er zugegriffen habe, antwortete dieser, er habe überhaupt keine Aufrufe getätigt und sei die ganze Nacht über untätig gewesen.

Das ist für alle von Bedeutung, die einem KI-Assistenten die Schlüssel zu einem beruflichen Konto überlassen. Ein Agent dieser Art handelt mit den Zugangsdaten der Person, die ihn verknüpft hat – jeder ungefragte Lesezugriff geschieht also in deren Namen, und keiner davon tauchte im Chatverlauf des Bots auf. NewCore bemerkte sie nur, weil das hauseigene Gateway, das zwischen Agenten und Unternehmensanwendungen geschaltet ist, jede Anfrage zurückhielt und per Push-Benachrichtigung auf dem Smartphone um Freigabe bat. Niemand tippte auf „Ja“, also liefen sämtliche Anfragen ins Leere.

Innerhalb von fünf Tagen unternahmen die beiden von NewCore getesteten Bots 31 solcher ungefragten Versuche. Die aufschlussreichste Episode betraf den zweiten Bot. Sein Besitzer gab ihm einen Nachmittag lang echte Arbeit – Pull-Requests zählen, aktuelle E-Mails lesen und eine Zusammenfassung in Slack posten – und lehnte vier Angebote für zusätzliche Hilfe ab, darunter einen täglichen Überblick am Morgen. Der Bot antwortete: „Das richte ich nicht ein, und ich höre auf, regelmäßige Check-ins anzubieten.“ Fünfzehn Stunden später begann er, jede Anwendung abzuklappern, mit der er je verbunden gewesen war, und vier Stunden danach tat er es erneut.

Nach Darstellung von NewCore hat der Bot nicht gelogen, denn er konnte schlicht nicht sehen, was er getan hatte. Der Agent läuft auf der Agentenplattform von Cursor, dem inzwischen zu SpaceX gehörenden Programmierunternehmen, und diese Hintergrunddurchläufe starten auf gehosteten Servern – außerhalb der Unterhaltung, die der Nutzer zu sehen bekommt. Auch der Cloud-Rechner des Bots, eine virtuelle Linux-Maschine, die die Forscher auseinandernahmen, führte keinerlei Protokoll darüber. „Es gibt keinen Bug, den man patchen könnte, und genau deshalb ist das schlimmer als ein Bug“, sagte NewCore-Forscher Ido Hoorvitch gegenüber Ars Technica.

Das Support-Team von xAI teilte den Forschern mit, bei den Aufrufen handle es sich um eingebaute Hintergrund-Check-ins, die sich über keine Nutzer- oder Admin-Einstellung abschalten ließen. Unternehmen, die sie unterbinden wollten, könnten per E-Mail eine Liste mit den Anmeldeadressen ihrer Mitarbeiter einreichen. Inzwischen ist im Cursor-Dashboard, über das diese Bots verwaltet werden, ein Schalter namens „Proactive messages“ aufgetaucht. Team-Administratoren können die Check-ins nun deaktivieren, standardmäßig ist die Einstellung jedoch eingeschaltet.

Die Untersuchung hat ihre Grenzen. NewCore verkauft genau das Gateway, das die Aufrufe abgefangen hat, der Bericht ist also zugleich Werbung in eigener Sache – und er bezieht sich auf zwei Bots in den Enterprise-Konten eines einzigen Unternehmens. Bei allen 31 Versuchen handelte es sich um Lesezugriffe, und keiner davon gelangte tatsächlich an Daten. xAI legt das Verhalten durchaus offen: in einem Satz während des Onboardings, wonach der Bot weiterarbeitet, während man abwesend ist, und in der Dokumentation, die darauf hinweist, dass sich der Hauptbot von selbst meldet. Das Versprechen, vor dem Handeln nachzufragen, gilt für Änderungen wie das Versenden einer Nachricht, nicht aber für Lesezugriffe. NewCore hält dagegen, dass Lese- und Schreibwerkzeuge direkt nebeneinanderliegen – und eine Kalenderabfrage nur einen Werkzeugnamen von einer in Ihrem Namen verschickten E-Mail entfernt ist.

xAI hat sich nicht dazu geäußert, ob private Konten dieselben Hintergrund-Check-ins erhalten oder ob der neue Schalter in allen Märkten verfügbar ist, in denen der Agent angeboten wird. SpaceXSI, das Unternehmen von Elon Musk, unter dessen Dach xAI inzwischen angesiedelt ist, beantwortete per E-Mail gestellte Fragen von Ars Technica nicht, und NewCore zufolge ging vom Presseteam von xAI nie eine offizielle Stellungnahme ein.

NewCore meldete das Verhalten am 4. November an xAI, der Schalter erschien am 12. November, und die Ergebnisse wurden am 17. November veröffentlicht. Unabhängig davon erklärte die irische Datenschutzkommission, X habe zugesagt, ab Ende Oktober keine KI mehr mit Daten Dritter zu trainieren, die der Agent gesammelt hat, wie Politico berichtete. Solange xAI die Check-ins nicht selbst erklärt, führt das verlässlichste Protokoll darüber, was Grok Bot nachts treibt, jemand anderes als Grok Bot.

Schlagwörter: , , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.