Fortschritte bei der Verbesserung der Brustkrebsdiagnose durch neue Ansätze zur Bekämpfung von Adversarial Attacks in der medizinischen Bildgebung

Tiefe Neuronale Netze (DNNs) haben in den letzten Jahren erhebliche Fortschritte in der medizinischen Bildgebung erzielt und bieten das Potenzial, die Brustkrebsdiagnose zu verbessern. Die Zuverlässigkeit dieser Modelle ist jedoch durch ihre Anfälligkeit für sogenannte Adversarial Attacks gefährdet. Dabei handelt es sich um minimale, für das menschliche Auge oft nicht wahrnehmbare Veränderungen an den Bildern, die jedoch die DNNs zu falschen Klassifizierungen verleiten können.

Herausforderungen bestehender Adversarial Attacks

Bisherige Angriffsmethoden basieren häufig auf Perturbationen mit fester Norm. Diese sind jedoch nicht immer optimal, da sie nicht der menschlichen Wahrnehmung entsprechen und somit leichter erkannt werden können. Diffusionsbasierte Angriffe erfordern hingegen vortrainierte Modelle, die in datenarmen Szenarien, wie sie in der medizinischen Bildgebung häufig vorkommen, aufgrund der begrenzten Verfügbarkeit von Datensätzen, schwer zu trainieren sind.

Prompt2Perturb (P2P): Ein neuer Ansatz

Forscher haben nun eine neue Methode namens Prompt2Perturb (P2P) entwickelt, die textgesteuerte, diffusionsbasierte Adversarial Attacks auf Brustultraschallbilder ermöglicht. P2P nutzt sogenannte "learnable prompts" innerhalb des Text-Encoders, um subtile, aber wirkungsvolle Störungen zu erzeugen. Diese führen das Modell zu einer gezielten Fehlklassifizierung, ohne die Bildqualität merklich zu beeinträchtigen. Im Gegensatz zu bisherigen Ansätzen, die auf Prompt-Learning basieren, aktualisiert P2P direkt die Texteinbettungen und umgeht so die Notwendigkeit, Diffusionsmodelle neu zu trainieren.

Optimierung der frühen Umkehrdiffusionsschritte

Ein weiterer Vorteil von P2P liegt in der Optimierung der frühen Schritte des Umkehrdiffusionsprozesses. Dies steigert die Effizienz und stellt gleichzeitig sicher, dass die erzeugten Adversarial Examples nur subtiles Rauschen enthalten, wodurch die Qualität des Ultraschallbildes erhalten bleibt und keine sichtbaren Artefakte entstehen.

Überlegene Leistung und natürliche Ergebnisse

In Tests mit drei verschiedenen Brustultraschalldatensätzen übertraf P2P bestehende Angriffsmethoden in Bezug auf FID (Fréchet Inception Distance) und LPIPS (Learned Perceptual Image Patch Similarity). Die generierten Bilder wirken zudem natürlicher und sind effektiver als die von bisherigen Adversarial Attacks erzeugten Bilder.

Bedeutung für die KI-Sicherheit in der Medizin

Die Entwicklung von P2P unterstreicht die Notwendigkeit, die Robustheit von DNNs in der medizinischen Bildgebung gegenüber Adversarial Attacks zu verbessern. Methoden wie P2P können dazu beitragen, Schwachstellen aufzudecken und die Entwicklung robusterer Modelle zu fördern. Die öffentliche Verfügbarkeit des Codes ermöglicht es anderen Forschern, auf dieser Arbeit aufzubauen und die Forschung im Bereich der KI-Sicherheit in der Medizin voranzutreiben.

Mindverse: KI-Partner für maßgeschneiderte Lösungen

Mindverse, ein deutsches All-in-One-Content-Tool für KI-Text, -Inhalte, -Bilder und -Recherche, bietet maßgeschneiderte KI-Lösungen wie Chatbots, Voicebots, KI-Suchmaschinen und Wissenssysteme. Als KI-Partner unterstützt Mindverse Unternehmen bei der Entwicklung und Implementierung von KI-Technologien, um die Herausforderungen der digitalen Transformation zu meistern. Die Forschung im Bereich Adversarial Attacks, wie die hier vorgestellte P2P-Methode, ist für Unternehmen wie Mindverse von entscheidender Bedeutung, um die Sicherheit und Zuverlässigkeit ihrer KI-Lösungen zu gewährleisten.

Bibliographie - https://github.com/52CV/ECCV-2024-Papers - https://github.com/diff-usion/Awesome-Diffusion-Models - https://arxiv.org/abs/2108.04345 - https://diff-usion.github.io/Awesome-Diffusion-Models/ - https://cvpr.thecvf.com/Conferences/2024/AcceptedPapers - https://ijcai24.org/main-track-accepted-papers/ - https://cvpr.thecvf.com/virtual/2024/papers.html - https://www.paperdigest.org/2020/04/recent-papers-on-generative-adversarial-network/ - https://arxiv.org/pdf/2108.04345 - https://vsehwag.github.io/blog/2023/2/all_papers_on_diffusion.html