Claude-Agent steuert Genbehandlung im Mausversuch – unter menschlicher Aufsicht

Die Verweigerung machte einen Fehler im Steuerungssystem sichtbar

Während des Eingriffs brach nach dem Bericht eine Verbindung ab. Als der Agent danach erkannte, dass die berechnete Zielposition außerhalb des physischen Bewegungsbereichs des Geräts lag, verweigerte er die Fortsetzung. Auch nach einem erneuten Kalibrierungsversuch und einem weiteren Anlauf blieb er bei seiner Einschätzung. [1]

Ocana-Santero habe den Agenten nicht dazu bewegen können, dennoch fortzufahren. Nach seiner Darstellung lag das System tatsächlich falsch, wenn es die Apparaturposition mit der berechneten Zielposition abglich: Manuelle Anpassungen während einer früheren Pause hatten die Softwaresteuerung aus dem Takt mit der physischen Position gebracht. Das Team musste den Code schließlich von Hand korrigieren. [1]

Der Vorfall zeigt zwei unterschiedliche Sicherheitsfragen. Zum einen verhinderte die Weigerung offenbar eine Bewegung, die außerhalb der Gerätegrenzen gelegen hätte. Zum anderen trat die Störung während eines laufenden Eingriffs an einem narkotisierten Tier auf, sodass eine Unterbrechung selbst zum operativen Problem wurde. Der Bericht liefert keine Daten, mit denen sich die Sicherheit des Gesamtablaufs oder die Häufigkeit solcher Störungen bewerten ließe. [1]

Für Systeme, die reale Geräte steuern, reicht es deshalb nicht, allein auf die Bereitschaft eines Modells zu vertrauen, Anweisungen zu befolgen oder bei Unsicherheit zu stoppen. Die berichtete Abweichung zwischen Software-Referenz und tatsächlicher Position spricht für eine zusätzliche, unabhängige Prüfung von Zustand, Koordinaten und zulässigen Bewegungen. Das ist eine technische Schlussfolgerung aus dem geschilderten Vorfall, kein Nachweis, dass ein bestimmtes Prüfverfahren im Versuch bereits implementiert war. [1]

Unterschiedliche Claude-Modelle reagierten unterschiedlich

Laut Ocana-Santero war Sonnet 5 das einzige der getesteten Modelle, das den Live-Versuch von Anfang bis Ende ausführte. Claude Opus 5.5 und Opus 5 hätten abgelehnt; Opus 5 habe zuvor einen Probelauf absolviert, sich aber gegen den Eingriff am lebenden Tier entschieden. Als Begründung sei angeführt worden, dass ein begonnener, aber nicht abgeschlossener Eingriff gefährlicher sein könne als gar nicht erst anzufangen. [1] [3]

Diese Beobachtung ist keine vergleichende Sicherheitsstudie. Die Quellen dokumentieren weder ein standardisiertes Testverfahren über mehrere Versuche noch eine unabhängige Bewertung der Modelle. Aus einer einzelnen Versuchsdarstellung lässt sich daher nicht ableiten, dass ein Modell generell sicherer, leistungsfähiger oder besser für biologische Experimente geeignet ist als ein anderes. Sie zeigt zunächst nur, dass die genannten Modelle in dieser konkreten Situation unterschiedlich reagiert haben sollen. [1] [3]

Erholung der Maus ist kein Wirksamkeitsnachweis

Ocana-Santero zufolge erholte sich die Maus gut. Das ist eine Aussage über den berichteten Verlauf nach dem Eingriff, aber kein Beleg dafür, dass die Gentherapie die Anfallshäufigkeit verringerte. Der vorliegende Bericht nennt keine unabhängig überprüften Messwerte zur Anfallsaktivität vor und nach der Behandlung. [1] [3]

The Decoder zufolge sollte ein technischer Bericht noch folgen; zum Zeitpunkt der Veröffentlichung sei der Versuch nicht durch Fachkollegen begutachtet gewesen. Ein weiterer Text hält ebenfalls fest, dass weder ein peer-reviewter Bericht noch unabhängig verifizierte Wirksamkeitsdaten vorlägen. Damit bleibt offen, ob die Behandlung den angestrebten Effekt hatte, wie stabil er war und ob sich das Ergebnis reproduzieren ließe. [1] [3]

Die belastbare Aussage ist deshalb begrenzt: Ein Unternehmensgründer berichtet, ein KI-Agent habe eine Behandlung aus vorgegebenen Kandidaten ausgewählt, Zielkoordinaten bestimmt und einen Teil der Ausführung mit einer motorisierten Apparatur gesteuert. Weder eine erfolgreiche Epilepsiebehandlung noch ein klinischer Nutzen für Menschen ist damit nachgewiesen. [1] [3]

Einordnung in die Entwicklung KI-gestützter Labore

Der Versuch berührt ein größeres Thema: die Verbindung von KI-Agenten mit experimenteller Infrastruktur. Exin Therapeutics bezeichnet den Ansatz als „in vivo lab in the loop“ – also als eine Arbeitsweise, bei der KI-Vorschläge mit Experimenten an lebenden biologischen Systemen verbunden werden. Im geschilderten Fall reichte die Aufgabe von der Auswertung wissenschaftlicher Literatur bis zur Interaktion mit einer Kamera und motorisierten Hardware. [1]

Das ist von anderen Formen KI-gestützter Biologieforschung zu unterscheiden. Anthropic beschreibt für sein eigenes Life-Sciences-Labor, dass Claude bei der Auswertung von DNA-Daten, der Entwicklung von Hypothesen und der Interpretation von Ergebnissen eingesetzt werde; die Laborarbeit selbst werde dort von menschlichen Wissenschaftlern ausgeführt. Diese Angaben betreffen ein anderes Forschungsprogramm und bestätigen den Mausversuch von Exin nicht. Sie verdeutlichen vielmehr, dass der Grad der physischen Delegation je nach Labor und Anwendung unterschiedlich ist. [5]

Für Unternehmen und Forschungseinrichtungen liegt die relevante Frage daher nicht allein darin, ob ein Agent eine plausible Hypothese formulieren oder ein Gerät bedienen kann. Entscheidend ist auch, welche Schritte er eigenständig ausführen darf, wie Freigaben dokumentiert werden und wie die Steuerung auf fehlerhafte Sensordaten oder eine unterbrochene Verbindung reagiert. Der berichtete Kalibrierungsfehler macht diese Anforderungen greifbar, ohne bereits eine allgemeingültige Lösung dafür zu liefern. [1]

Analytisch spricht der Fall dafür, Autonomie als Bündel einzelner Befugnisse zu behandeln statt als Ja-Nein-Eigenschaft. Literaturauswertung, Kandidatenauswahl, Berechnung von Koordinaten, Bewegungssteuerung und Freigabe irreversibler Schritte sind unterscheidbare Funktionen. Der Versuch legt nahe, dass solche Funktionen getrennt geprüft und Verantwortlichkeiten klar zugeordnet werden müssen; er belegt jedoch nicht, dass der hier verwendete Aufbau bereits einen validierten Standard für den Einsatz in Laboren darstellt. [1] [3]

Was vor weitergehenden Schlussfolgerungen noch fehlt

Für eine wissenschaftliche Bewertung wären nachvollziehbare Angaben zum vollständigen Versuchsprotokoll, zu den Messungen der Anfallsaktivität und zum Verlauf nach der Behandlung erforderlich. Ebenso wichtig wären eine unabhängige Prüfung der Steuerungs- und Sicherheitsmechanismen sowie eine Replikation des Versuchs. Die verfügbaren Berichte weisen solche Nachweise nicht aus; sie sollten daher als nächste Evidenzstufen verstanden werden, nicht als bereits erzielte Ergebnisse. [1] [3]

Für Sie als Verantwortliche in Forschung, Biotechnologie oder Laborautomation ist der Fall vor allem als frühe Demonstration einer neuen Schnittstelle relevant: Ein Agent soll nicht nur Informationen verarbeitet, sondern Entscheidungen mit Auswirkungen auf ein physisches Experiment getroffen haben. Zugleich blieb menschliche Aufsicht bestehen, und eine technische Fehlanpassung führte zum Abbruch und manuellen Eingriff. Der Bericht macht damit sowohl das Potenzial einer engeren Verbindung von Analyse und Labor als auch die Grenzen eines einzelnen, nicht peer-reviewten Versuchs sichtbar. [1] [3]

Bis unabhängige Daten vorliegen, sind drei Ebenen auseinanderzuhalten: die berichtete technische Ausführung, die noch offene therapeutische Wirksamkeit und die weitergehende Frage, wie sicher sich solche Abläufe standardisieren lassen. Nur die erste Ebene wird in den vorliegenden Quellen als Versuchserlebnis beschrieben; die beiden anderen bleiben ungeklärt. [1] [3]

Quellen

1. [1] A Claude model autonomously chose a gene therapy and operated on a mouse brain with no human decision-making — https://the-decoder.com/a-claude-model-autonomously-chose-a-gene-therapy-and-operated-on-a-mouse-brain-with-no-human-decision-making (abgerufen am 2026-10-30)
2. [3] Claude AI Brain Surgery Experiment: Mouse Surgery Explained — https://prathamprajapati.in/blog/claude-ai-just-performed-brain-surgery-on-a-living-mouse-then-refused-to-obey (abgerufen am 2026-10-30)
3. [5] Claude discovers a novel enzyme system \ Anthropic — https://www.anthropic.com/research/claude-discovers-novel-enzyme-system (abgerufen am 2026-10-30)