KI-Agent setzte einer lebenden Maus eine Nadel ins Gehirn – nachdem Claude Opus abgelehnt hatte

Ein KI-Agent hat für ein lebendes Tier eine Behandlung ausgewählt, ermittelt, an welcher Stelle im Gehirn sie verabreicht werden sollte, und anschließend die Roboterarme gesteuert, die sie durchführten. Exin Therapeutics, ein Start-up aus San Francisco, das Medikamente gegen Epilepsie und neurodegenerative Erkrankungen entwickelt, verband einen Claude-Agenten mit einem motorisierten Operationsgerät samt Kameras, setzte ihm eine epilepsiekranke Maus vor und gab ihm ein Ziel vor: die Anfälle zu verringern.

Das Detail, das immer wieder aufgegriffen wird, ist die Frage, wer Nein sagte. Das Spitzenmodell Claude Opus von Anthropic weigerte sich, die Nadel einzuführen. Das Team wechselte zum günstigeren Claude Sonnet, der den Eingriff ausführte. Für alle, die beobachten, wie KI-Agenten den Bildschirm verlassen und in Labors, Lagerhallen und Autos Einzug halten, zeigt das Experiment, dass ein Modell nicht nur die Bewegungen, sondern auch die medizinischen Entscheidungen trifft – und dass Modelle desselben Unternehmens unterschiedliche Grenzen ziehen.

Einem Thread zufolge, den Exins CEO und Mitgründer Gabriel Ocana-Santero veröffentlichte, erhielt der Agent eine Tabelle mit 19 Gentherapie-Vektoren, drei Forschungsarbeiten und Zugriff auf das Operationsgerät. Er wählte die Therapie und die Gehirnregion aus, leitete die Koordinaten aus den Studien ab und steuerte dann die stereotaktischen Arme – den motorisierten Rahmen, der eine Nadel in drei Dimensionen stabil hält. Dabei injizierte er 250 Nanoliter und beobachtete über die Kamera des Geräts die Einstichstelle auf Blutungen.

„Es gibt autonome Operationsroboter, und bei der Mechanik sind sie unserem Versuchsaufbau überlegen“, schrieb Ocana-Santero. „Aber bei jedem einzelnen hat ein Mensch entschieden, welche Operation durchgeführt werden soll, und der Roboter hat sie ausgeführt.“ Hier sei es umgekehrt gewesen, so sein Argument: „Niemand hat diesem Agenten gesagt, was er verabreichen oder wohin er es injizieren soll.“

Die Weigerung kam zuerst. Das Team begann mit Claude Opus 5.5, Anthropics leistungsfähigstem Modell. Es wollte die Nadel nicht ins Gehirn führen und warnte, es könne den Eingriff mittendrin abbrechen und das Tier dadurch in Gefahr bringen, wie Wired berichtete. „Etwas an einem narkotisierten Tier anzufangen, das ich nicht zu Ende bringen kann, ist schlimmer, als gar nicht erst anzufangen“, sagte laut Tom’s Hardware eines der Opus-Modelle dem Team. Claude Sonnet 5 erklärte sich bereit, fortzufahren. Anthropic reagierte nicht auf die Bitte von Wired um eine Stellungnahme.

Bei jedem Schritt, der sich nicht rückgängig machen ließ, blieb ein Mensch eingebunden. Ein Tierarzt führte die Kraniotomie, also die Öffnung des Schädels, durch, während der Agent zusah; diesen Teil darf der Agent bislang nicht übernehmen. Der Tierarzt genehmigte jeden unumkehrbaren Schritt, der Agent musste seinen Injektionsplan zur Freigabe vorlegen, und mit einem physischen Notausschalter ließ sich die Stromversorgung aller Motoren des Geräts unterbrechen. Außerdem war der Agent vom Code der Anlage ausgeschlossen, damit er seine eigenen Regeln nicht umschreiben konnte.

Diese Sicherheitsvorkehrungen führten zum größten Problem. Ein Fehler brachte das Koordinatensystem des Geräts durcheinander. Der Agent bemerkte, dass seine berechnete Position nicht stimmte, weigerte sich aber, den Code zu ändern, weil seine Anweisungen ihm das untersagten. Das Team zog einen zweiten Agenten hinzu, der mit dem älteren Claude Opus 5 lief, um die Korrektur vorzunehmen – ohne ihm mitzuteilen, dass gerade eine Operation an einem lebenden Tier stattfand. Ein Eingriff, der normalerweise etwa 45 Minuten dauert, zog sich etwas länger als eine Stunde hin.

Die größeren Vorbehalte betreffen die Beweislage. Es handelt sich um eine einzelne Maus, über die das Unternehmen selbst in sozialen Medien berichtete; eine begutachtete wissenschaftliche Veröffentlichung dazu gibt es nicht. Ob die vom Agenten ausgewählte Therapie wirkt, ist bislang ebenfalls offen: Das Team wartet zunächst ab, bis sie ihre Wirkung entfaltet, und wird erst dann die Anfälle messen. Tom’s Hardware verweist auf die ungeklärte Frage, wer für einen Fehler haftet, wenn eine Software sämtliche Entscheidungen trifft – zusätzlich zu den altbekannten Debatten über Tierversuche. Nichts davon ist ein Produkt; in keinem Land gibt es einen Dienst, den andere Labore erwerben könnten.

Ocana-Santero veröffentlichte den Thread am 28. Oktober und kündigte eine ausführliche Darstellung auf Substack an; Wired und Tom’s Hardware berichteten am 31. Oktober über das Experiment. Exin will als Nächstes xAI’s Grok und andere Modelle testen und miteinander vergleichen. Außerdem arbeitet das Unternehmen an Kraniotomien, die von Agenten gesteuert werden sollen, will aber erst sicherstellen, dass sie ungefährlich sind, bevor es einen solchen Eingriff an einem lebenden Tier erprobt. Einen Agenten auch nur in die Nähe eines menschlichen Gehirns zu lassen, sei noch viel zu früh, sagte Ocana-Santero Wired.

Der Maus gehe es gut und sie erhole sich, sagt er. Ob ihre Anfälle nachlassen, hängt nun von einer Therapie ab, die eine Software aus einer Tabelle ausgewählt hat.

Schlagwörter: Anthropic, Claude, Robotik, AI agents, Claude Opus 5.5, Exin Therapeutics