KI

Apples Gesundheits-KI löscht Fragen nach 24 Stunden und trainiert nicht damit

Adrian Kessler
Fügen Sie uns bei Google hinzu

Apple hat einen Gesundheits-Chatbot aufs iPhone gebracht – allerdings nicht in Siri oder die Health-App, sondern als Teil einer Forschungsstudie. Mit der neuen App Apple Health AI Usage Study können Teilnehmende alltägliche medizinische Fragen eingeben und erhalten verständlich formulierte Antworten mit Links zu klinischen Quellen, die von Fachleuten geprüft wurden. Anschließend bewerten sie die Antworten nach Genauigkeit, Detailgrad und Relevanz. Apple sucht dafür eine sehr große Gruppe freiwilliger Teilnehmender.

Die Studie soll zeigen, ob Menschen verstehen und darauf vertrauen, was ihnen eine Gesundheits-KI mitteilt – und ob das ihre nächsten Schritte beeinflusst. Diese Frage ist schon für alle relevant, die einen Chatbot nach einem Ausschlag oder einem Laborergebnis fragen: Wie CNET anmerkte, nutzen drei von zehn Erwachsenen in den USA KI-Chatbots, um Gesundheitsinformationen zu erhalten. OpenAI zufolge stellen Nutzer dem Unternehmen jede Woche Hunderte Millionen gesundheitsbezogene Fragen.

Apple sucht bis zu 200.000 Teilnehmende. Die Antworten stammen dabei nicht von einem eigenen Apple-Modell, sondern werden von OpenEvidence erzeugt, einer bei Ärzten weit verbreiteten klinischen KI-Plattform. Sie greift auf Quellen wie The New England Journal of Medicine, das Journal of the American Medical Association, Nature und die Cochrane-Datenbank systematischer Übersichtsarbeiten zurück. Das ist eine deutlich engere Datengrundlage als bei einem allgemeinen Chatbot, der mit dem offenen Web trainiert wurde – und jede Antwort enthält Quellenangaben.

Teilnehmende können außerdem entscheiden, ob sie HealthKit-Daten wie Ruhepuls, Schlaf, Aktivität oder Laborergebnisse teilen möchten. So kann eine Frage wie „Wie kann ich meine Herzgesundheit verbessern?“ mit einer Antwort beantwortet werden, die auf den eigenen Werten beruht. Die App kann auch dabei helfen, sich auf einen Arzttermin vorzubereiten, und verweist auf medizinisches Fachpersonal, wenn eine Frage offenbar eine ärztliche Einschätzung erfordert.

Apple zufolge werden die Studiendaten nicht zum Trainieren von KI-Modellen verwendet. Laut CNET werden zunächst auf dem iPhone alle identifizierenden Angaben aus einer Frage entfernt. Anschließend wird sie durch eine Cloud-Umgebung des externen Auftragnehmers UST Global geleitet. Dort wird sie von der ID der teilnehmenden Person getrennt, bevor sie OpenEvidence erreicht. OpenEvidence löscht Fragen und Antworten innerhalb von 24 Stunden. Apples direkt auf dem Gerät laufende Modelle sortieren Fragen lediglich in Kategorien ein; eine Verbindung zu Siri besteht nicht.

Die Einschränkungen sind erheblich. An der Studie teilnehmen können ausschließlich Erwachsene ab 21 Jahren, die in den USA leben; zu anderen Ländern gibt es keine Angaben. Außerdem ist ein iPhone mit Apple Intelligence erforderlich – also ein iPhone 15 Pro oder neuer mit iOS 26. Damit bleibt ein großer Teil der tatsächlich genutzten iPhones außen vor. Bei der App handelt es sich um eine Forschungsanwendung, nicht um ein Medizinprodukt. Apple betont, dass sie weder Diagnosen stellt noch Krankheiten behandelt. Die Schutzmechanismen markieren besorgniserregende Fragen und empfehlen, sich an einen Arzt oder andere Anlaufstellen zu wenden. Die Gespräche werden jedoch nicht in Echtzeit überwacht, und Mitarbeitende der Studie kontaktieren laut CNET keine Teilnehmenden, die nach Selbstverletzung fragen. Außerdem werden die Teilnehmenden nach ihrer ethnischen Zugehörigkeit, ihrem Alter und ihrem Bildungsstand gefragt. Apple zufolge soll sich so herausfinden lassen, wie sich die Kommunikationsbedürfnisse verschiedener Gruppen unterscheiden.

„Gesundheit ist zutiefst persönlich. Eine eigens dafür konzipierte Forschungsstudie ist der durchdachteste Weg, um zu verstehen, wie Menschen im Alltag mit Gesundheits-KI umgehen, sie verstehen und bewerten“, sagte Sumbul Desai, Apples Vizepräsidentin für Gesundheit und Fitness. Robert Wachter, Leiter der Abteilung für Medizin an der UCSF, begründete die Studie in Apples Ankündigung so: Sowohl Patienten als auch medizinisches Fachpersonal griffen zunehmend auf KI zurück, sagte er, „doch die Werkzeuge, die sie nutzen, entstehen und werden in getrennten Welten erprobt“.

Apple kündigte die Studie am 15. November an; die App ist ab sofort im US-App Store verfügbar. Teilnehmende können bis zu zwölf Monate dabei bleiben. Vorgesehen sind eine Eingangsbefragung, monatliche Rückmeldungen und zusätzliche Befragungen rund um Arzttermine. Wer die Teilnahme vollständig abbricht, kann aus der Studie ausgeschlossen werden. Wann die Ergebnisse veröffentlicht werden sollen, hat Apple nicht mitgeteilt. Ebenso wenig ist bekannt, ob etwas davon in die Health-App oder in Siri einfließen wird.

Vorerst führt der einzige Weg, der Gesundheits-App von Apple eine medizinische Frage zu stellen, über die Anmeldung als Versuchsperson.

Schlagwörter: , , , , ,

Fügen Sie uns bei Google hinzu

Diskussion

Es gibt 0 Kommentare.