Wirtschaft und Finanzen

Meredith Whittaker: Warum die Signal-Chefin KI-Assistenten für eine Hintertür hält

Penelope H. Fritz
Fügen Sie uns bei Google hinzu
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Geboren2000
BerufPräsidentin der Signal Foundation
AuszeichnungenHelmut-Schmidt-Future-Preis

Am Freitag hat Signal eine Einstellung aktiviert, die die meisten Nutzer nie bemerken werden. Auf neuen iPhones verhindert die App nun, dass Apples KI Siri liest, was in einem Chat auf dem Bildschirm steht, und blockiert standardmäßig Screenshots; unter Android schließt sie das Fenster, sobald Googles Gemini hineinzuschauen versucht. Meredith Whittaker, die Präsidentin von Signal, gab die Änderung selbst bekannt und räumte im selben Beitrag ein, dass sie nicht ausreicht. Die Agenten, die Apple, Google und Microsoft in ihre Betriebssysteme einbauen, können weiterhin auf das zugreifen, was auf dem Gerät gespeichert ist, und auf einem Mac kann Signal sie überhaupt nicht aufhalten. Sie nannte das eine existenzielle Bedrohung für die App, die sie leitet.

Der Kampf liegt ihr, und er legt zugleich die Zwickmühle offen, die ihre Laufbahn durchzieht. Whittaker verbrachte mehr als ein Jahrzehnt bei Google, bevor sie zu einer der schärfsten Kritikerinnen des Geschäftsmodells wurde, das dieses Unternehmen finanzierte. Heute führt sie einen gemeinnützigen Messenger, der keine Daten sammelt, nichts verkauft und auf Spenden angewiesen ist, aber auf Telefonen laufen muss, die ausgerechnet jene Konzerne bauen, deren KI-Produkte sie als leichtsinnig bezeichnet. Signal kann eine Nachricht Ende-zu-Ende verschlüsseln. Das Betriebssystem kann es nicht verschlüsseln.

Ihr Weg in die Technologiebranche war ein ungewöhnlicher. Whittaker studierte Rhetorik und englische Literatur an der University of California, Berkeley, und kam 2006 zu Google, wo sie dreizehn Jahre blieb. Sie gründete die Gruppe Open Research, die mit Wissenschaftlern und Open-Source-Entwicklern zu Messmethoden für Netzneutralität sowie zu Privatsphäre und Sicherheit arbeitete, und sie war Mitgründerin von M-Lab, dem Measurement Lab, einem offenen Netzwerk, das zur größten öffentlichen Datenquelle über die Leistung des Internets geworden ist.

Das Messen lehrte sie, Behauptungen ohne Belege zu misstrauen. 2017 gründete sie gemeinsam mit der Forscherin Kate Crawford im Anschluss an ein vom Weißen Haus ausgerichtetes Symposium das AI Now Institute an der New York University. Das Institut untersuchte, was künstliche Intelligenz mit den Menschen macht, an denen sie eingesetzt wird, und nicht, was sie in einer Demo leisten kann; seine Berichte kehrten immer wieder zu einem Argument zurück: Das tiefere Problem liege weniger in voreingenommenem Code als in der Frage, wem diese Systeme gehören und auf wen sie gerichtet sind. Später hatte sie an der NYU die Minderoo-Forschungsprofessur inne und war Faculty Director von AI Now; heute ist sie dort Chief Advisor.

Dieses Argument brachte sie auf Kollisionskurs mit ihrem Arbeitgeber. 2018 verfasste sie eine Petition gegen Project Maven, einen Auftrag des Pentagons, in dessen Rahmen Google Werkzeuge zur maschinellen Bilderkennung für das US-Drohnenprogramm entwickelte. Mehr als dreitausend Beschäftigte unterzeichneten sie, und Google verlängerte den Vertrag nicht. Wenige Monate später gehörte sie zu den Hauptorganisatoren des Google Walkout, bei dem mehr als zwanzigtausend Mitarbeiter ihre Arbeitsplätze verließen, nachdem bekannt geworden war, dass das Unternehmen Andy Rubin, einem der sexuellen Verfehlungen beschuldigten Manager, ein Abfindungspaket von 90 Millionen Dollar gezahlt hatte. Whittaker sagte später, Google habe sich gerächt, indem es ihr auftrug, ihre Arbeit bei AI Now aufzugeben. Im Juli 2019 verließ sie das Unternehmen.

Im selben Sommer sagte sie vor dem Wissenschaftsausschuss des Repräsentantenhauses, KI-Systeme könnten Voreingenommenheit verfestigen, und forderte Hinweisgeberschutz für Beschäftigte der Techbranche. Anfang 2020 ging sie vor dem Aufsichtsausschuss des Repräsentantenhauses noch weiter: Das Problem der Gesichtserkennung sei nicht nur die Genauigkeit, sondern die Macht derer, die sie gegen Menschen mit weniger Macht einsetzen, und sie forderte, ihren Einsatz zu beenden. Ab November 2021 war sie Senior Advisor für künstliche Intelligenz bei der Vorsitzenden der Federal Trade Commission, Lina Khan.

Im September 2022 holte Signal sie als erste Präsidentin, ein Posten, der gemeinsam mit der Führung der App geschaffen wurde. Signal zeigt keine Werbung und hat keine Nutzerdaten zu verkaufen, und Whittaker hat offen gesagt, dass der Betrieb rund 50 Millionen Dollar im Jahr kostet. Ein großer Teil ihrer Anfangszeit ging dafür drauf zu erklären, warum ein Messenger, der fast nichts über seine Nutzer speichert, trotzdem ein großes Entwicklerteam und verlässliche Spender braucht und warum die Alternative darin besteht, mit Überwachung bezahlt zu werden.

Ihre Kritiker verweisen auf die Grenzen dieses Modells. Signals Verschlüsselungsprotokoll schützt bereits die Unterhaltungen bei WhatsApp, doch die App selbst bleibt winzig im Vergleich zu dem Meta-Produkt, das auf ihrer Kryptografie aufbaut, und Whittakers Einfluss auf Regierungen beruht weitgehend auf einer einzigen Drohung: dass Signal ein Land eher verlässt, als seine Verschlüsselung zu schwächen. Sie hat diese Drohung gegenüber der Europäischen Union ausgesprochen und im Juni erneut gegenüber dem Vereinigten Königreich. Die Drohung ist glaubwürdig, weil eine spendenfinanzierte App keine Aktionäre besänftigen muss, doch sie macht Signals Antwort an die Regulierer auch eher zu einem Exil als zu einer Verhandlung. Die Episode, die der App den größten Aufmerksamkeitsschub bescherte, zeigte eine ähnliche Kluft. Als im März 2025 herauskam, dass hochrangige US-Regierungsvertreter in einer Signal-Gruppe, zu der versehentlich ein Journalist gehörte, Militärpläne besprochen hatten, verteidigte Whittaker die Verschlüsselung als Goldstandard der privaten Kommunikation und wies darauf hin, dass keine Anwendung verhindern könne, dass Menschen die falsche Person zu einem Chat hinzufügen. Öffentlichkeit in diesem Ausmaß lässt sich schwer ablehnen und noch schwerer kontrollieren.

Seither hat sich ihr Fokus von den Regierungen auf die Unternehmen verlagert, die die Geräte herstellen. In Davos nannte sie im Januar KI-Agenten auf Betriebssystemebene gefährlich für verschlüsselte Dienste und warnte, dass ein System mit Root-Zugriff gekapert werden könne. In einem Bloomberg-Interview im Juni sagte sie, Chatbots seien nicht Ihre Freunde, und beschrieb einen Assistenten mit Zugriff auf ihre Zahlungsdaten und ihr Signal-Konto als eine Art Hintertür. Diese Woche stellten Tests von Reuters gemeinsam mit Mitarbeitern von Signal und AI Now fest, dass Metas Agent Muse unter Android über den Zugriff auf Benachrichtigungen Signal-Chats mitlas, und Whittaker nannte Agenten mit einer solchen Reichweite technologisch leichtsinnig.

2023 nahm das Magazin TIME sie in seine erste Liste der einflussreichsten Persönlichkeiten im Bereich künstliche Intelligenz auf. Im Mai 2024 erhielt sie in Hamburg den Helmut Schmidt Zukunftspreis, den Die Zeit und ihre Partner für Arbeiten zu Demokratie und Technologie verliehen, und im Juli 2025 zog sie in den Verwaltungsrat der deutschen Mediengruppe Hubert Burda Media ein.

Was als Nächstes geschieht, hängt weniger von Signal ab als von Apple, Google und Microsoft. Whittaker hat alle drei um einen dokumentierten Weg gebeten, mit dem Apps KI-Agenten von ihren Bildschirmen und ihren Daten fernhalten können, und Signal sagt, man sei vorsichtig optimistisch, dass Google und Apple darauf eingehen. Wenn sie ihn bauen, wird die Sperre, die sie diese Woche aktiviert hat, zum Branchenstandard. Wenn nicht, wird der privateste Messenger auf dem Markt weiter Notlösungen gegen die Telefone ausliefern, auf denen er läuft, und seine Präsidentin wird das weiterhin öffentlich sagen.

Schlagwörter: , , , , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.