KI

Wells Fargo lässt Kunden künftig für die Fehler ihrer KI-Agenten haften

Susan Hill
Fügen Sie uns bei Google hinzu

Wells Fargo schreibt die Vereinbarung hinter App und Website um: Alles, was ein externer KI-Agent im Konto eines Kunden tut, gilt künftig als dessen eigene Handlung. Die Bank erklärt, sie werde Anweisungen eines Agenten ohne Prüfung befolgen, nicht überwachen, was der Agent macht, und dessen Fehler dem Kunden zurechnen. „Ihre Nutzung eines KI-Agenten erfolgt AUF EIGENES RISIKO“, heißt es in den neuen Bedingungen, in Großbuchstaben.

Wer einem Shopping-Bot oder einem Budgetassistenten ein Bankpasswort anvertraut hat, muss damit anders rechnen: Es ändert sich, wer zahlt, wenn die Software danebenliegt. Eine doppelte Zahlung, eine zehnfach aufgegebene Bestellung oder eine Überweisung, die eine präparierte Webseite auslöst, gingen zulasten des Kontoinhabers und nicht der Bank, sofern kein Gesetz etwas anderes vorsieht. Unterschreiben muss niemand etwas: Wer das Online-Banking nach der Änderung weiter nutzt, gilt als einverstanden. „Verbraucher autorisieren Ziele, nicht jeden einzelnen Klick“, sagte Kacy Kim, Marketingprofessorin an der Bryant University, die das Verbraucherverhalten erforscht, gegenüber Wired.

Die Definition ist weit gefasst. Als „AI Agent“ bezeichnet Wells Fargo jede Software, die im Namen einer Person „autonom, teilautonom oder nicht autonom“ handelt – das reicht weit über die als persönliche Assistenten vermarkteten Chatbots hinaus. Der Kunde trägt die Kosten, wenn ein Agent Anweisungen missversteht, Dinge tut, um die niemand gebeten hat, auf „manipulierte Eingaben“ reagiert oder seine Befugnisse überschreitet. Agenten von Personen, die ein Kunde auf das Konto lässt, unterliegen denselben Regeln, und unter 18 Jahren darf überhaupt niemand einen Agenten anbinden.

Auch das Abschalten eines Agenten ist Sache des Kunden. Laut den Bedingungen müssen Kunden den Zugriff selbst widerrufen, Belege dafür aufbewahren und diese auf Verlangen der Bank vorlegen. Bis sie Wells Fargo informieren, bleiben sie für alles verantwortlich, was der Agent tut. Das folgt der Logik der US-Regelung zu elektronischen Überweisungen, der Regulation E, die Überweisungen durch jemanden, dem man Karte oder Zugangsdaten überlassen hat, als autorisiert behandelt, bis man die Bank anweist, sie zu stoppen.

Wells Fargo lässt Agenten weiterhin zu und steht damit am freizügigen Ende einer Branche, die die Tür schließt. JPMorgan Chase änderte seine Bedingungen und verbietet Drittanbieter-Agenten, die sich mit den Zugangsdaten eines Kunden anmelden, die Bank of America warnte Kunden davor, ihre Logins an Agenten weiterzugeben, und Citibank und PNC ergänzten eigene Warnhinweise, wie Wired berichtet. Morgan Stanley hat Drittanbieter-Agenten auf seinen Plattformen gesperrt, meldete Axios. Wells Fargo hat sich das Recht vorbehalten, die von Agenten genutzten Verbindungen zu kappen oder einzelne Agenten ganz zu blockieren.

Der Widerstand reicht über das Bankgeschäft hinaus. Amazon hat Metas Agenten Muse den Einkauf in seinem Shop untersagt, und United Airlines hat erklärt, persönliche Bots könnten für Reisende keine Flüge buchen. American Express ist in der Darstellung von Wired die seltene Ausnahme: Das Unternehmen erklärte, manche Agentenfehler, etwa die Bestellung zu vieler Exemplare eines Artikels, kämen künftig womöglich für eine Erstattung infrage, wenn der Käufer das Geld nicht vom Händler zurückbekommt.

Wie stark sich die neue Formulierung in der Praxis auswirkt, ist unklar. Ihre Klauseln verweisen immer wieder auf „Gesetz oder Vorschrift“, und kein Gericht hat bislang entschieden, wer den Schaden trägt, wenn ein vom Kunden eingeschalteter Agent etwas tut, das der Kunde nie beabsichtigt hat. Auch das Publikum ist klein. „Alle unsere Daten zeigen, dass die meisten Menschen nicht einmal wissen, was Agenten sind, geschweige denn sie nutzen“, sagte Sucharita Kodali, Analystin bei Forrester, gegenüber Wired. Und die Banken sind nicht grundsätzlich gegen Agenten. „Sie verriegeln die Tür für externe Agenten und bauen ihre eigenen“, sagte Luca Cian, Professor an der University of Virginia, der Verbraucherpsychologie und KI erforscht. Der hauseigene generative KI-Assistent von Wells Fargo hat mehr als eine Milliarde Interaktionen abgewickelt.

Die neuen Bedingungen gelten nur für Kunden des US-amerikanischen Online- und Mobile-Bankings von Wells Fargo, und alle bislang genannten Banken sind amerikanisch. In der Europäischen Union drängen die Zahlungsvorschriften Apps, die Geld einsehen oder bewegen, bereits zu lizenzierten, von der Bank bereitgestellten Schnittstellen statt zu einem geteilten Passwort – für Agenten, die sich als der Kunde anmelden, bleibt dadurch weniger Spielraum.

Die aktualisierte Vereinbarung von Wells Fargo tritt am Dienstag, dem 24. November, in Kraft und gilt für alle, die die Website oder App der Bank nach diesem Tag weiter nutzen. Das Verbot von JPMorgan für Agenten, die mit Zugangsdaten arbeiten, kam Ende Oktober, am selben Tag, an dem die Bank of America ihre Warnung verschickte. Wells Fargo hat sich zudem die Möglichkeit offengehalten, Kunden zur Registrierung ihrer Agenten bei der Bank zu verpflichten – damit hätte sie eine Liste jener Bots, die sie nach eigener Aussage nicht überwacht.

Schlagwörter: , , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.