Zuverlässigkeit von KI-generierten Empfehlungen im Fokus einer aktuellen Studie

Die fortschreitende Integration Künstlicher Intelligenz (KI) in unseren Alltag verändert die Art und Weise, wie wir Informationen suchen und Entscheidungen treffen. Besonders im Bereich von Produkt- und Software-Empfehlungen verlassen sich immer mehr Anwender auf KI-gestützte Systeme. Doch wie zuverlässig sind diese Empfehlungen tatsächlich, insbesondere wenn es um komplexe Entscheidungen im B2B-Umfeld geht? Eine aktuelle Studie wirft ein kritisches Licht auf diese Frage und beleuchtet potenzielle Manipulationsmechanismen.

Die Herausforderung der Objektivität bei KI-Empfehlungen

Künstliche Intelligenz hat das Potenzial, riesige Datenmengen zu analysieren und Muster zu erkennen, die menschlichen Analysten verborgen bleiben. Dies macht sie zu einem vielversprechenden Werkzeug für die Bereitstellung von Empfehlungen in verschiedenen Bereichen, von Finanzentscheidungen bis hin zur Softwareauswahl. Die Qualität dieser Empfehlungen hängt jedoch maßgeblich von der Qualität und Objektivität der zugrunde liegenden Daten und Quellen ab.

Eine Untersuchung von Trellner Research hat sich eingehend mit der Frage befasst, inwieweit KI-Modelle, speziell das Modell Perplexity, brauchbare und unvoreingenommene Software-Empfehlungen liefern können. Die Ergebnisse deuten darauf hin, dass hier erhebliche Herausforderungen bestehen, die ein genaueres Verständnis erfordern.

Analyse der Quellen: Ein Blick hinter die Kulissen der KI-Empfehlungen

Für die Studie wurden zwei Modelle von Perplexity (Sonar und Sonar Pro) mit Anfragen zu den besten Produkten in 380 verschiedenen Software-Kategorien konfrontiert. Anschließend wurden die von der KI bereitgestellten Quellenlinks detailliert analysiert, um die Basis der Empfehlungen zu identifizieren.

Die Analyse offenbart ein bemerkenswertes Muster: Nahezu 60 Prozent der zitierten Links führten zu Websites, die sich in der Tranco-Liste – einem Verzeichnis der meistbesuchten Websites – jenseits der Top 100.000 befanden. Weitere 23,4 Prozent der Quellen waren sogar außerhalb der Top 1 Million gelistet. Diese Zahlen sind relevant, da die Tranco-Liste zwar die Popularität misst, jedoch keine Aussage über die Qualität der Inhalte trifft.

Ein weiterer auffälliger Punkt war, dass ein signifikanter Anteil dieser unbekannten Quellen, rund 16,6 Prozent, erst ab dem Jahr 2025 oder später online gestellt wurden. Dies wirft die Frage auf, warum KI-Modelle in so hohem Maße auf derart obskure und junge Quellen zurückgreifen.

Gezielte Manipulation: Wie Websites die KI beeinflussen

Die Forscher identifizierten eine mögliche Ursache für dieses Phänomen: Offenbar sind viele dieser Websites gezielt darauf ausgelegt, von KI-Systemen bevorzugt ausgelesen zu werden, anstatt menschliche Nutzer anzusprechen. Dies geschieht durch spezifische technische und inhaltliche Anpassungen.

Beispielsweise verwendeten einige der analysierten Websites HTML-Titel wie „Fakten & Rechercheseite“. Dieser Wortlaut ist darauf abgestimmt, von KI-Modellen im Rahmen ihrer Rechercheprozesse erkannt und als relevante Quelle eingestuft zu werden.

Die Studie identifizierte zudem drei miteinander verbundene Websites, die eine gemeinsame Strategie verfolgten: Umfang. Ihre Sitemaps listeten Hunderttausende von URLs auf, wovon ein Großteil als „/best/-software/-Seiten“ kategorisiert war. Dies resultierte in über 215.000 generierten Kaufberatungen für nur drei Marken – eine Zahl, die die Anzahl tatsächlicher Software-Kategorien weit übersteigt. Dieses Vorgehen deutet auf eine gezielte Massenproduktion von Inhalten hin, die darauf abzielt, die Algorithmen von KI-Systemen zu beeinflussen.

Eine weitere Beobachtung betraf die Selbstbeschreibung dieser Seiten. Zwei der Websites nutzten die Bezeichnung „Facts & Grounding Page“. Der Begriff „Grounding“ ist in der Fachsprache der KI-Forschung relevant und beschreibt den Prozess, bei dem ein Suchsystem Dokumente abruft, um eine Antwort zu untermauern. Eine ähnliche Ausrichtung zeigte sich in den Meta-Descriptions, die „Details in einem maschinenlesbaren Datensatz“ versprachen – ein klares Indiz dafür, dass diese Inhalte nicht primär für menschliche Leser, sondern für maschinelle Verarbeitung optimiert wurden.

Implikationen für B2B-Entscheidungen und die Zukunft der KI-Empfehlungen

Die Ergebnisse dieser Studie haben weitreichende Implikationen, insbesondere für Unternehmen, die KI-gestützte Systeme zur Entscheidungsfindung, beispielsweise bei der Auswahl von Softwarelösungen, einsetzen oder in Betracht ziehen. Die festgestellte Anfälligkeit für gezielte Manipulation durch optimierte Websites bedeutet, dass KI-Empfehlungen möglicherweise nicht die objektive und fundierte Basis bieten, die erwartet wird.

Es ist entscheidend zu verstehen, dass die Qualität von KI-Empfehlungen direkt von der Qualität und Integrität ihrer Trainingsdaten und Quellinformationen abhängt. Wenn diese Quellen manipuliert werden können, besteht das Risiko, dass die KI nicht das beste Produkt, sondern lediglich das am besten für die KI optimierte Produkt empfiehlt.

Die Studie betont zudem, dass die Untersuchung sich auf Perplexity konzentrierte und keine direkten Rückschlüsse auf andere KI-Modelle zulässt. Auch wurde festgestellt, dass die Formulierung der Anfrage („bestes“ vs. „beliebtestes“ Produkt) die Auswahl der Produkte beeinflussen kann, während die zugrunde liegende Quellenliste weniger stark variiert.

Für B2B-Entscheidungsträger bedeutet dies, dass ein kritischer Umgang mit KI-generierten Empfehlungen unerlässlich ist. Es ist ratsam, die von der KI zitierten Quellen aktiv zu prüfen und nicht blind auf die Vorschläge zu vertrauen. Die Fähigkeit, die Herkunft und Glaubwürdigkeit von Informationen zu bewerten, wird in einer zunehmend von KI beeinflussten Informationslandschaft zu einer Kernkompetenz.

Diese Erkenntnisse unterstreichen die Notwendigkeit für KI-Entwickler und -Anbieter, robuste Mechanismen zur Überprüfung der Quellintegrität zu implementieren und Transparenz über die Herkunft der Empfehlungsdaten zu schaffen. Nur so kann das Vertrauen in KI-gestützte Empfehlungssysteme langfristig gewährleistet werden.

Fazit und Ausblick

Die Studie von Trellner Research liefert wertvolle Einblicke in die Komplexität und potenzielle Schwachstellen von KI-gestützten Empfehlungssystemen. Während KI zweifellos ein mächtiges Werkzeug ist, erfordert ihr Einsatz im Kontext wichtiger Geschäftsentscheidungen ein hohes Maß an Sorgfalt und kritischer Prüfung. Für Unternehmen, die auf KI als Partner setzen, bedeutet dies, die technologischen Möglichkeiten mit einem geschulten Auge für die Qualität und Unabhängigkeit der zugrunde liegenden Informationen zu verbinden.

Bibliographie

- Trellner Research: „Manufactured Sources Behind AI Recommendations“ (Report TR-2026-009, 2. September 2026) - NewsGuard: „Tracking AI-enabled Misinformation: AI Content Farms“ (AI Tracking Center) - t3n.de: „Studie: Manipulierte Websites verzerren Empfehlungen von KI“ von Kim Hönig, 04.09.2026 - drweb.de: „Wie zuverlässig sind Perplexitys Software-Empfehlungen?“, 02.09.2026 - conductor.com: „AI Brand Recommendation Study: Warum die Prompt-Absicht die KI-Ausgabekonsistenz vorhersagt“, Letztes Update: 17.07.2026 - drweb.de: „Studie: KI-Ratschläge machen Menschen ungenauer, aber selbstsicherer“, 20.07.2026 - dw.com: „KI-Chatbots als Ratgeber: Das Problem mit der Anbiederung“ von Anna Carthaus, 26.03.2026 - malwarebytes.com: „Eine Stanford-Studie zeigt: Es ist keine gute Idee, KI um persönlichen Rat zu bitten“ von Danny Bradbury, 31.03.2026 - complexity-science-hub.prowly.com: „Wen empfiehlt KI als Expert:in? Neue Benchmark zeigt Verzerrungen bei 22 Sprachmodellen“, 24.08.2026 - uni-bayreuth.de: „Wie KI Finanzentscheidungen beeinflusst“, Pressemitteilung Nr. 064/2026, 25.08.2026