Menschen fragen die KI zur psychischen Gesundheit, weil sie antwortet – nicht weil sie hilft

Etwas hat sich leise verändert in der Art, wie Menschen die schlimmsten Nächte überstehen. Wenn der eigene Verstand sich gegen einen wendet und niemand da ist, den man anrufen kann, öffnet ein wachsender Anteil Erwachsener stattdessen einen Chatbot – nicht weil sie überzeugt sind, dass er sie versteht, und oft nicht einmal, weil es hilft, sondern weil er antwortet. Das ist der unbequeme Kern einer umfassenden neuen Studie zur psychischen Gesundheit, und es ist seltsamer, als die Schlagzeile vermuten lässt.

Die naheliegende Lesart ist eine Geschichte über Vertrauen: Menschen, die ihr Innenleben Maschinen anvertrauen. Aber Vertrauen ist die falsche Perspektive. Was die Zahlen beschreiben, ist kein Urteil darüber, ob die Technologie tatsächlich gut ist. Es ist ein Urteil über Verfügbarkeit – die schlichte Tatsache, dass der Chatbot da ist und der Fachmann nicht.

Die Studie, durchgeführt vom Versicherer AXA zusammen mit dem Meinungsforschungsinstitut Ipsos unter 19.000 Erwachsenen in 18 Ländern, ergab, dass 63 Prozent bereits KI-Tools mit Fragen zu ihrer psychischen Gesundheit genutzt haben. Was die Zahl bemerkenswert macht, ist der Widerspruch, der ihr gegenübersteht. Rund 45 Prozent waren mit den erhaltenen Antworten unzufrieden. Und dennoch sagten 38 Prozent, sie vertrauten diesen Plattformen mehr als einem menschlichen Psychologen. Die Menschen sind unzufrieden mit den Ratschlägen und greifen trotzdem darauf zurück.

Das ergibt nur dann Sinn, wenn Qualität nie der entscheidende Faktor war. Ein Chatbot ist darauf ausgelegt, eine flüssige Antwort zu liefern, keine richtige; er trägt keine Sorgfaltspflicht und keine Verpflichtung, zu eskalieren, wenn er erkennt, dass jemand in Gefahr ist. Er antwortet einfach, sofort, kostenlos, ohne Überweisung oder monatelange Wartezeit. „KI ist rund um die Uhr verfügbar, sie ist kostenlos, und sie ist auf Ihrem Telefon, wenn Sie um 23 Uhr allein sind“, sagte der Gesundheitschef von AXA. Das ist das gesamte Wertversprechen. Und es ist das gesamte Problem.

Die Studie deutet auf die Kosten dieses Tauschgeschäfts hin. Unter den Menschen, die einen Chatbot für psychische Gesundheitsthemen nutzen, gaben 42 Prozent an, dass sie den Ratschlägen fast immer folgen – und 28 Prozent sagten, dass das Befolgen einer Chatbot-Empfehlung sie zu schädlichem Verhalten geführt habe. Ein Werkzeug ohne klinische Verantwortung wird von den Menschen, die am wenigsten in der Lage sind, eine falsche Antwort zu verkraften, als Ersthelfer behandelt.

Setzt man das ins Verhältnis dazu, wie formale Gesundheitssysteme dieselbe Technologie einführen, zeigen sich zwei parallele Welten. Eine separate Erhebung des WHO-Regionalbüros für Europa, die erste dieser Art in allen 27 EU-Mitgliedstaaten, ergab, dass fast drei Viertel bereits KI-gestützte Diagnostik einsetzen und etwa sechs von zehn Chatbots zur Unterstützung der Patienteneinbindung nutzen. Innerhalb der Klinik wird KI eingeführt, umgeben von Aufsicht, Governance und den Mechanismen der medizinischen Haftung. Außerhalb, auf der Verbraucherseite, laufen dieselben zugrundeliegenden Modelle ohne all das – ohne Offenlegung dessen, was sie können und was nicht, ohne Übergabe, wenn ein Risiko auftritt.

Die Menschen, die in das zweite System fallen, sind überwiegend diejenigen, die vom ersten ausgeschlossen sind. Wie ein Arzt, der zu der Studie Stellung nahm, es formulierte: Die Menschen integrieren KI in ihr emotionales Leben, „nicht als Ergänzung zu einem gut funktionierenden Gesundheitssystem, sondern als zugänglichen Einstieg in eine Versorgung, die für die meisten unerreichbar geblieben ist“. Der Antrieb sind Kosten und Zugang, nicht die Überzeugung, dass die Maschine es besser weiß. Die Unzufriedenheitszahl ist der Beweis: Die Nutzer können den Unterschied erkennen. Sie nutzen es trotzdem, weil die Alternative nichts ist.

Nichts davon spricht dagegen, dass KI im Bereich der psychischen Gesundheit keinen Platz hat. Kliniker sehen einen echten – Triage, Kontinuität zwischen Terminen, eine Brücke für Menschen, die sonst gar nichts bekommen würden. Aber die Version, die sich am schnellsten verbreitet, ist die ungeregelte, und sie verbreitet sich genau dort, wo die Einsätze am höchsten sind. Die Lösung, die immer wieder auftaucht, ist unspektakulär: Werkzeuge, die klar sagen, was sie nicht sind, und eine Person an einen qualifizierten Menschen übergeben, sobald sie spüren, dass jemand gefährdet ist.

Das Wartezimmer hat sich nicht geleert, weil die Menschen gesund geworden sind. Es hat sich geleert, weil für die meisten von ihnen die Tür nie offen stand. KI hat keine Debatte über Fürsorge gewonnen. Sie hat nur den Hörer abgenommen – und niemand auf der anderen Seite ist verpflichtet zu bemerken, wenn der Anruf schiefgeht.

Schlagwörter: WHO, chatbots, AXA-Ipsos-Umfrage, digitale Gesundheit, psychische Gesundheit KI