Die Fehleranfälligkeit von KI: Menschliche und maschinelle Halluzinationen im Vergleich

KI-Halluzinationen: Mensch versus Maschine – Wer irrt sich häufiger?

Die Diskussion um sogenannte "Halluzinationen" bei Künstlicher Intelligenz (KI) ist in vollem Gange. Dabei geht es um die fehlerhaften Ausgaben von KI-Modellen, die falsche Informationen generieren oder Fakten erfinden. Dario Amodei, CEO des KI-Unternehmens Anthropic, hat nun eine provokante These aufgestellt: Moderne KI-Modelle würden in bestimmten Bereichen weniger häufig halluzinieren als Menschen.

Amodei äußerte diese Behauptung unter anderem auf dem Anthropic-Entwickler-Event „Code with Claude“ und später auf der Vivatech-Konferenz in Paris. Er präzisierte, dass sich seine Aussage vor allem auf faktenbasierte Aufgaben in kontrollierten Testsituationen beziehe. Er verglich die Fehler von KI-Systemen mit menschlichen Fehlern, die beispielsweise auch bei Journalisten oder Politikern vorkämen.

AGI in Sichtweite – trotz Fehlern?

Für Amodei stellen die gelegentlichen Fehler kein Hindernis auf dem Weg zur Künstlichen Allgemeinen Intelligenz (AGI) dar. Er hält AGI bereits im Jahr 2026 für möglich. Diese optimistische Einschätzung steht im Kontrast zu anderen Expertenmeinungen. Demis Hassabis, CEO von Googles KI-Tochter Deepmind, äußerte sich kürzlich deutlich zurückhaltender. Er sieht in den aktuellen KI-Modellen noch erhebliche Lücken, die ein grundlegendes Hindernis für die Entwicklung von AGI darstellen.

Messbarkeit von Halluzinationen und widersprüchliche Datenlage

Ein Kernproblem der Debatte ist die Schwierigkeit, Halluzinationen verlässlich zu messen. Bisherige Benchmarks vergleichen in der Regel verschiedene KI-Modelle miteinander, nicht aber KI mit dem Menschen. Ein standardisierter Vergleich fehlt. Zudem ist die Datenlage zur Fehleranfälligkeit von KI-Modellen uneinheitlich. Studien von Anbietern wie Vectara zeigen zwar, dass die Halluzinationsraten bei neueren Modellen wie GPT-4 gesunken sind, gleichzeitig warnen andere Forscher vor steigenden Fehlerraten bei Modellen, die auf komplexes logisches Schließen trainiert sind.

Praxisbeispiele und Herausforderungen

Ein bekanntes Beispiel aus der Praxis verdeutlicht die Problematik: Ein Anwalt musste sich vor Gericht entschuldigen, nachdem er den Anthropic-Chatbot Claude für eine Klageschrift verwendet hatte und dieser Namen und Aktenzeichen erfand. Amodei räumt ein, dass das größte Problem nicht der Fehler an sich sei, sondern das Selbstbewusstsein, mit dem die KI falsche Informationen präsentiere. Dies sei eine Herausforderung, die es zu lösen gelte.

KI-Halluzinationen und die Definition von AGI

Die Diskussion um KI-Halluzinationen wirft grundlegende Fragen auf. Ob eine KI, die halluziniert, überhaupt die Definition von AGI erfüllen kann, bleibt eine der spannendsten Fragen in der aktuellen KI-Debatte. Die Entwicklung von zuverlässigen und vertrauenswürdigen KI-Systemen ist entscheidend für den erfolgreichen Einsatz von KI in verschiedenen Bereichen. Mindverse, als deutscher Anbieter von KI-Lösungen, begleitet diese Entwicklung und bietet maßgeschneiderte Lösungen für Unternehmen, die KI in ihre Prozesse integrieren möchten. Von Chatbots und Voicebots über KI-Suchmaschinen und Wissensdatenbanken bis hin zu individuellen Lösungen – Mindverse unterstützt Unternehmen dabei, das Potenzial von KI optimal zu nutzen.

Bibliographie: https://t3n.de/news/anthropic-ceo-ki-halluziniert-weniger-als-mensch-1689477/ https://x.com/t3n/status/1926038748296290671 https://x.com/t3n/status/1925949919921131858 https://www.facebook.com/t3nMagazin/posts/wir-machen-uns-sorgen-%C3%BCber-halluzinierende-kis-ein-branchen-pionier-dreht-den-sp/1130594295772388/ https://t3n.de/ https://m.facebook.com/100064654845221/photos/1128983189266832/ https://www.threads.com/@t3n_magazin/post/DKALDhTuYym/wir-machen-uns-sorgen-%C3%BCber-halluzinierende-kis-ein-branchen-pionier-dreht-den-sp https://t3n.de/news/ https://www.all-ai.de/news/topbeitraege/ki-mensch-halluzination