Robustheit von KI-Modellen in der Pathologie: Eine Analyse der Herausforderungen und Lösungen

Künstliche Intelligenz in der Pathologie: Herausforderungen bei der Robustheit von Foundation Models

Foundation Models (FMs) der Künstlichen Intelligenz (KI) bieten vielversprechende Möglichkeiten für die medizinische Diagnostik, insbesondere in der Pathologie. Sie können große Mengen an Bilddaten analysieren und Muster erkennen, die dem menschlichen Auge möglicherweise entgehen. Bevor diese Modelle jedoch in der klinischen Praxis eingesetzt werden können, muss ihre Robustheit gegenüber Variationen zwischen verschiedenen medizinischen Zentren sichergestellt sein. Unterschiede in den Färbeverfahren, Scannern und anderen Faktoren können zu sogenannten "Medical Center Signatures" führen, die die Ergebnisse der FMs beeinflussen können.

Eine aktuelle Studie untersucht die Robustheit von zehn öffentlich zugänglichen Pathologie-FMs. Die Ergebnisse zeigen, dass alle untersuchten Modelle das medizinische Zentrum, aus dem die Bilddaten stammen, in hohem Maße repräsentieren. In neun von zehn Fällen war diese Repräsentation sogar stärker als die der biologischen Informationen wie Gewebetyp oder Krebsart. Diese Ergebnisse unterstreichen die Bedeutung der Entwicklung robusterer Modelle, die sich auf die relevanten biologischen Merkmale konzentrieren und nicht durch technische oder prozessbedingte Variationen beeinflusst werden.

Der Robustheitsindex: Ein neues Werkzeug zur Bewertung von FMs

Um die Robustheit von FMs zu quantifizieren, wurde im Rahmen der Studie ein neuer Messwert eingeführt: der Robustheitsindex. Dieser Index spiegelt das Verhältnis zwischen biologischen Merkmalen und Störfaktoren wider. Ein Index größer als eins bedeutet, dass die biologischen Merkmale dominieren, während ein Index kleiner als eins auf einen stärkeren Einfluss der Störfaktoren hinweist.

Von den zehn untersuchten Modellen erreichte nur eines einen Robustheitsindex größer als eins, und auch dieser lag nur knapp darüber. Dies verdeutlicht den dringenden Bedarf an Verbesserungen in der Entwicklung von Pathologie-FMs. Der Robustheitsindex bietet ein wertvolles Werkzeug, um den Fortschritt in Richtung klinisch einsetzbarer, robuster und zuverlässiger Modelle zu messen und zu fördern.

Auswirkungen auf die Klassifizierungsleistung

Die Studie analysierte auch den Einfluss der mangelnden Robustheit auf die Klassifizierungsleistung nachgelagerter Modelle. Es zeigte sich, dass Fehler bei der Krebsartenklassifizierung nicht zufällig auftreten, sondern spezifisch auf Störfaktoren zurückzuführen sind, die aus demselben medizinischen Zentrum stammen. Bilder anderer Klassen aus demselben Zentrum können die Klassifizierung negativ beeinflussen.

Die Visualisierung der FM-Einbettungsräume zeigte, dass diese stärker nach medizinischen Zentren als nach biologischen Faktoren organisiert sind. Infolgedessen wird das Herkunftszentrum der Bilder oft genauer vorhergesagt als der Gewebetyp oder die Krebsart. Dies unterstreicht die Notwendigkeit, die Modelle so zu trainieren, dass sie die relevanten biologischen Informationen priorisieren und den Einfluss von Störfaktoren minimieren.

Ausblick

Die Entwicklung robuster Pathologie-FMs ist eine wichtige Voraussetzung für ihren erfolgreichen Einsatz in der klinischen Praxis. Der Robustheitsindex bietet ein wertvolles Werkzeug zur Bewertung und Verbesserung der Modelle. Zukünftige Forschung sollte sich auf die Entwicklung von Trainingsmethoden konzentrieren, die die Robustheit gegenüber Variationen zwischen medizinischen Zentren erhöhen und die Fokussierung auf biologisch relevante Merkmale fördern. Nur so kann das volle Potenzial von KI in der Pathologie ausgeschöpft und die medizinische Diagnostik verbessert werden.

Quellen: - de Jong, E. D., Marcus, E., & Teuwen, J. (2025). Current Pathology Foundation Models are unrobust to Medical Center Differences. arXiv preprint arXiv:2501.18055. - Teuwen, J. (2024). LinkedIn Post: Current Pathology Foundation Models are unrobust to Medical Center Differences. - [Titel des Artikels]. (2024). Journal of the Japan Medical Association, [Bandnummer], [Seitennummern]. doi:10.31662/jmaj.2024-0206 - [Autoren]. (Jahr). Pathology Foundation Models. ResearchGate. doi:[DOI] - [Autoren]. (Jahr). [Titel des Artikels]. Nature, [Bandnummer], [Seitennummern]. doi:[DOI] - [Autoren]. (Jahr). [Titel des Artikels]. ScienceDirect, [Bandnummer], [Seitennummern]. doi:[DOI] - [Autoren]. (Jahr). [Titel des Artikels]. Modern Pathology, [Bandnummer], [Seitennummern]. doi:[DOI] - [Autoren]. (Jahr). [Titel des Artikels]. Nature, [Bandnummer], [Seitennummern]. doi:[DOI] - [Autoren]. (Jahr). [Titel des Artikels]. PubMed Central, [PMC ID].