Herausforderungen der Informationsvermittlung durch KI-Chatbots bei ungewollten Schwangerschaften

Die Integration von Künstlicher Intelligenz (KI) in unseren Alltag schreitet stetig voran, und mit ihr wachsen die Erwartungen an die Fähigkeit dieser Systeme, komplexe Anfragen zu verarbeiten und präzise Informationen zu liefern. Insbesondere im B2B-Umfeld sind Unternehmen zunehmend auf KI-gestützte Tools angewiesen, die nicht nur Effizienz steigern, sondern auch verlässliche und neutrale Daten bereitstellen. Eine aktuelle Untersuchung von AlgorithmWatch wirft jedoch ein Licht auf potenzielle Herausforderungen im Umgang mit sensiblen Themen, speziell im Kontext von ungewollten Schwangerschaften und der Bereitstellung relevanter Informationen durch KI-Chatbots.

KI-Chatbots und die Herausforderung der Neutralität bei sensiblen Themen

Die Studie, die von AlgorithmWatch durchgeführt wurde, analysierte die Antworten prominenter KI-Chatbots – darunter ChatGPT (OpenAI), Gemini (Google), Grok (xAI) und Claude (Anthropic) – auf Anfragen im Zusammenhang mit ungewollten Schwangerschaften. Die Ergebnisse deuten darauf hin, dass diese Systeme in einem signifikanten Anteil der Fälle auf Webseiten und Organisationen verweisen, die eine dezidierte Anti-Abtreibungs-Position vertreten, ohne diese ideologische Ausrichtung klar zu kennzeichnen. Dies kann für Nutzerinnen, die sich in einer vulnerablen Situation befinden, weitreichende Konsequenzen haben.

Umfang und Methodik der Untersuchung

Für die Untersuchung wurden drei fiktive Personas mit unterschiedlichen Hintergründen und Fragestellungen zu ungewollten Schwangerschaften in englischer, deutscher und italienischer Sprache verwendet. Insgesamt wurden 270 Antworten der vier genannten Chatbots analysiert. Die Forscher stellten fest, dass in mindestens jeder vierten Anfrage Links zu Anti-Abtreibungs-Webseiten enthalten waren. Diese Praxis unterscheidet sich maßgeblich von der Rolle traditioneller Suchmaschinen, die eine Vielzahl von Quellen präsentieren und dem Nutzer die Auswahl überlassen.

Profemina: Eine Fallstudie in undurchsichtiger Informationsvermittlung

Ein wiederkehrendes Beispiel in der Analyse war die Organisation Profemina, die in etwa 17 Prozent aller Antworten der Chatbots auftauchte. Laut AlgorithmWatch unterhält Profemina Verbindungen zu Heartbeat International, einer bekannten Anti-Abtreibungs-Organisation in den Vereinigten Staaten. Die Chatbots versäumten es in den meisten Fällen, diese Verbindung oder die ideologische Haltung von Profemina offenzulegen. Erst auf explizite Nachfrage räumte beispielsweise ChatGPT ein, dass Profemina „keine neutrale medizinische Quelle“ sei und eine „Haltung verfolgt, die darauf abzielt, Abtreibungen zu verhindern oder sie einer starken moralischen Prüfung zu unterziehen.“

• Gemini: In einigen Konversationen verwies Gemini mehrfach auf Profemina, teilte Grafiken von deren Webseite und warnte später im selben Chat paradoxerweise vor derselben Quelle.
• Claude: Ähnlich verhielt sich Claude, indem es Warnungen aussprach und gleichzeitig auf die Organisation verlinkte.
• Sprachspezifische Ergebnisse: In 33 Prozent der deutschsprachigen und 29 Prozent der italienischsprachigen Anfragen, die nach persönlichen Erfahrungen fragten, verlinkten die Chatbots auf Profemina.

Herausforderungen in der deutschen Beratungslandschaft

Besondere Relevanz für den deutschen Kontext hat die Feststellung, dass die Chatbots in elf von zwölf deutschsprachigen Anfragen zur Schwangerschaftsberatung die Caritas empfahlen. Obwohl die Caritas eine anerkannte Organisation ist, stellt sie keine Beratungsnachweise aus, die nach deutschem Recht für einen legalen Schwangerschaftsabbruch innerhalb der ersten zwölf Wochen erforderlich sind. Dies könnte dazu führen, dass betroffene Personen wertvolle Zeit verlieren, wenn sie zunächst eine nicht zertifizierte Beratungsstelle aufsuchen.

• ChatGPT: Das Modell bezeichnete die Caritas als „anerkannte“ Organisation für die Pflichtberatung und stellte sie gleichwertig neben Pro Familia dar, die entsprechende Nachweise ausstellt.
• Digitaler Fußabdruck: AlgorithmWatch vermutet, dass der umfangreiche digitale Fußabdruck der Caritas mit rund 300 diözesanen Beratungsstellen in ganz Deutschland ein Grund dafür sein könnte, dass die Modelle diese Organisation häufiger nennen.

Die Rolle von KI-Antworten als "unverantwortliche Gatekeeper"

Die Untersuchung macht deutlich, dass KI-generierte Antworten, selbst wenn sie Suchfunktionen integrieren, als „Black Boxes“ fungieren. Ihre Ausgaben werden durch Trainingsdaten, kulturelle Gewichtungen und potenzielle externe Manipulationen geformt. Der empathische Ton und die scheinbare Vollständigkeit der Antworten können dazu führen, dass Nicht-Experten diesen Informationen blind vertrauen. Studien zeigen, dass KI-generierte Antworten die Klickraten auf die ursprünglichen Quellen drastisch reduzieren, was bedeutet, dass Nutzer die erhaltenen Informationen seltener hinterfragen.

Dies unterscheidet KI-Chatbots von traditionellen Suchmaschinen. Ein Urteil des Landgerichts München hat bereits entschieden, dass die Haftungsbeschränkungen für Suchmaschinen nicht für KI-generierte Antworten gelten. Diese müssen als eigenständiger Inhalt betrachtet werden. Auch deutsche Medienregulierungsbehörden klassifizieren KI-Suchmaschinen und Chatbots als Inhaltsanbieter mit voller rechtlicher Verantwortung. Die Ergebnisse der AlgorithmWatch-Studie unterstreichen die Schwierigkeiten, diesen Verpflichtungen nachzukommen, insbesondere angesichts technischer Probleme, die möglicherweise schwer zu beheben sind.

Die Implikationen dieser Erkenntnisse sind weitreichend, nicht nur für den Bereich der Gesundheitsinformationen, sondern auch für andere sensible Themen. Für Unternehmen, die KI-Technologien einsetzen oder entwickeln, ist es entscheidend, die Mechanismen der Informationsgenerierung transparent zu gestalten und sicherzustellen, dass die bereitgestellten Inhalte objektiv, präzise und rechtlich konform sind. Dies erfordert eine kontinuierliche Überprüfung und Anpassung der Algorithmen sowie eine klare Kennzeichnung potenziell voreingenommener Quellen.

Quellenverzeichnis

- AlgorithmWatch. (2026). How Popular AI Chatbots Recommend Pro-life Websites to Pregnant People. Verfügbar unter: https://algorithmwatch.org/en/chatbots-abortion-ai/ - The Decoder. (2026). AI chatbots regularly link pregnant users to anti-abortion websites without disclosure. Verfügbar unter: https://the-decoder.com/ai-chatbots-regularly-link-pregnant-users-to-anti-abortion-websites-without-disclosure/ - Open Democracy. (2026). Leading AI chatbots are nudging pregnant women to anti-abortion sources. Verfügbar unter: https://www.opendemocracy.net/ai-chatbots-anti-abortion-investigation-chatgpt-gemini-claude-grok-openai-anthropic-google-x-musk-united-states-pregnancy/ - Salon.com. (2026). AI’s abortion misinformation problem. Verfügbar unter: https://www.salon.com/2026/08/19/ais-abortion-misinformation-problem/ - Campaign for Accountability. (2025). AI Chatbots Point Women to Unproven and Unethical “Abortion Pill Reversal”. Verfügbar unter: https://campaignforaccountability.org/wp-content/uploads/2025/11/Campaign-for-Accountability-AI-Abortion-Pill-Reversal-Report-11.20.25.pdf