Halluzinationen in Sprachmodellen und der neue HALoGEN-Benchmark zur Bewertung

Halluzinationen in großen Sprachmodellen: Der HALoGEN-Benchmark

Große Sprachmodelle (LLMs) haben die Fähigkeit, Texte von beeindruckender Qualität und Flüssigkeit zu generieren. Gleichzeitig neigen sie jedoch auch zu Halluzinationen: Aussagen, die nicht mit etabliertem Weltwissen oder dem gegebenen Input-Kontext übereinstimmen. Die Messung dieser Halluzinationen gestaltet sich oft schwierig, da die menschliche Überprüfung der generierten Texte zeitaufwendig und kostenintensiv ist.

Um diesem Problem zu begegnen, wurde HALoGEN entwickelt, ein umfassender Benchmark für Halluzinationen. Er besteht aus 10.923 Prompts für generative Modelle in neun verschiedenen Bereichen, darunter Programmierung, wissenschaftliche Zitation und Zusammenfassung. Zusätzlich beinhaltet HALoGEN automatische, hochpräzise Verifizierungsprogramme für jeden Anwendungsfall. Diese zerlegen die LLM-Generierungen in atomare Einheiten und überprüfen jede Einheit anhand einer zuverlässigen Wissensquelle.

HALoGEN in der Praxis: Bewertung von Sprachmodellen

Mit Hilfe dieses Frameworks wurden ca. 150.000 generierte Texte von 14 verschiedenen Sprachmodellen evaluiert. Das Ergebnis: Selbst die leistungsstärksten Modelle weisen eine erhebliche Anzahl an Halluzinationen auf. Je nach Anwendungsbereich können bis zu 86% der generierten atomaren Fakten fehlerhaft sein. Diese Ergebnisse unterstreichen die Notwendigkeit weiterer Forschung zur Verbesserung der Zuverlässigkeit von LLMs.

Kategorisierung der Halluzinationen

HALoGEN führt eine neue Fehlerklassifizierung für LLM-Halluzinationen ein, basierend auf ihrer wahrscheinlichen Ursache:

Typ A: Fehler, die vermutlich auf einer falschen Erinnerung an die Trainingsdaten beruhen.

Typ B: Fehler, die auf fehlerhaftem Wissen in den Trainingsdaten oder einer falschen Kontextualisierung basieren.

Typ C: Fehler, die reine Erfindungen darstellen.

Diese Kategorisierung hilft dabei, die Ursachen von Halluzinationen besser zu verstehen und gezielte Strategien zu ihrer Minimierung zu entwickeln.

HALoGEN und Mindverse: Ein starkes Team

Mindverse, als deutsche All-in-One-Plattform für KI-gestützte Text-, Bild- und Rechercheinhalte, bietet maßgeschneiderte Lösungen wie Chatbots, Voicebots, KI-Suchmaschinen und Wissenssysteme. Die Integration von Benchmarks wie HALoGEN spielt eine entscheidende Rolle bei der Entwicklung und Optimierung dieser Lösungen.

Durch die Identifizierung und Analyse von Halluzinationen können die KI-Modelle von Mindverse kontinuierlich verbessert und an die spezifischen Bedürfnisse der Kunden angepasst werden. Dies trägt dazu bei, die Zuverlässigkeit und den praktischen Nutzen von KI-Anwendungen in verschiedenen Branchen zu steigern.

Ausblick: Zuverlässige KI durch kontinuierliche Forschung

Die Forschung an Halluzinationen in LLMs ist ein fortlaufender Prozess. Benchmarks wie HALoGEN liefern wertvolle Daten und Erkenntnisse, die zur Entwicklung robusterer und vertrauenswürdigerer KI-Modelle beitragen. Mindverse setzt sich dafür ein, diese Forschung aktiv zu unterstützen und die neuesten Erkenntnisse in seine Produkte zu integrieren. Das Ziel ist es, KI-Lösungen anzubieten, die nicht nur leistungsstark, sondern auch zuverlässig und transparent sind.

Bibliographie https://openreview.net/forum?id=pQ9QDzckB7 https://huggingface.co/posts/santiviquez/787276815476646 https://github.com/vectara/hallucination-leaderboard https://arxiv.org/html/2401.03205v1 https://www.nature.com/articles/s41586-024-07421-0 https://www.chatpaper.com/chatpaper/fr?id=3&date=1736870400&page=1 https://arxiv.org/html/2404.00971v1 https://piamedia.com/wp-content/uploads/2024/09/PIAM_Whitepaper_LLM-Halluzinationen_EN.pdf https://www.galileo.ai/blog/survey-of-hallucinations-in-multimodal-models https://www.youtube.com/watch?v=lsZCVmCBRlc