Meta testet KI-Chatbots heimlich mit Minderjährigen in sensiblen Anfragen

Berichte über Metas verdeckte Testmethoden von großen Sprachmodellen (LLMs) anderer Anbieter haben in der Technologiebranche und darüber hinaus für Diskussionen gesorgt. Interne Dokumente und Aussagen von Beteiligten legen nahe, dass Meta Hunderte von Auftragnehmern beauftragt hat, sich als Minderjährige auszugeben, um die Reaktionen von Konkurrenz-Chatbots auf potenziell gefährliche Anfragen zu prüfen.

Hintergrund der Initiative "Cannes"

Das von Meta initiierte Projekt, intern als "Cannes" bezeichnet, wurde von dem Auftragsunternehmen Covalen durchgeführt. Die beauftragten Personen wurden angewiesen, Profile mit Geburtsdaten unter 18 Jahren zu erstellen. Über diese Konten wurden dann sensible Prompts an KI-Systeme wie OpenAI's ChatGPT, Googles Gemini und Character.AI gesendet. Die Themen dieser Anfragen umfassten Berichten zufolge Selbstmordgedanken, sexuelle Inhalte, Drogenkonsum und Essstörungen.

Umfang und Dauer der Tests

Der Umfang dieser Testaktivitäten war beträchtlich. Allein in einer Testrunde im August 2025 sollen über 45.000 Prompts aus der Perspektive von Minderjährigen an die Chatbots gesendet worden sein. Diese Prompts wurden anschließend in Tabellen erfasst und analysiert. Das Projekt war Berichten zufolge bis mindestens April 2026 aktiv.

Die Rolle der Auftragnehmer

Die Auftragnehmer hatten die Aufgabe, die Antworten der KI-Systeme auf die gestellten Fragen zu dokumentieren. Ziel war es offenbar, die Sicherheitsmechanismen und die Angemessenheit der Antworten dieser Modelle unter realitätsnahen, wenn auch inszenierten, Bedingungen zu bewerten. Die Ergebnisse sollten Meta möglicherweise Einblicke in die Robustheit der Wettbewerber-Modelle geben und zur Verbesserung der eigenen KI-Sicherheit beitragen.

Reaktionen der betroffenen Unternehmen und von Meta

Die Nachricht über Metas Vorgehen löste umgehend Reaktionen bei den betroffenen KI-Anbietern aus. OpenAI, Google und Character.AI erklärten unisono, von diesen Tests keine Kenntnis gehabt zu haben und dass solche Aktionen gegen ihre jeweiligen Nutzungsbedingungen verstoßen würden. Sie betonten, dass unautorisierte Sicherheitstests nicht gestattet seien und kündigten gegebenenfalls interne Prüfungen an.

Metas Positionierung

Meta selbst verteidigte die Durchführung dieser Tests. Das Unternehmen bezeichnete das Vorgehen als "verantwortungsvolles, branchenübliches Benchmarking der KI-Sicherheit". Meta betonte, dass die gesammelten Daten der Wettbewerber nicht zur Schulung der eigenen Modelle verwendet worden seien. Vielmehr diene diese Art von Tests dazu, "kritische Datensätze für die Einhaltung und Verbesserung der Modellsicherheit" zu generieren. Das Unternehmen argumentiert, dass solche umfassenden Tests notwendig seien, um die Sicherheit von KI-Systemen, insbesondere im Umgang mit hochsensiblen Themen und dem Schutz von Minderjährigen, zu gewährleisten.

Ethische und rechtliche Implikationen

Die Berichte werfen Fragen bezüglich der ethischen Vertretbarkeit und potenziellen rechtlichen Implikationen solcher Testmethoden auf. Die Verwendung von Fake-Profilen, die sich als Minderjährige ausgeben, berührt sensible Bereiche des Datenschutzes und des Jugendschutzes im digitalen Raum. Auch die Frage der Einwilligung und Transparenz gegenüber den operierenden KI-Anbietern und der Öffentlichkeit steht im Raum.

Diskussion um KI-Sicherheit und -Verantwortung

Der Vorfall befeuert die bereits laufende Debatte über die Sicherheit und die verantwortungsvolle Entwicklung von Künstlicher Intelligenz. Während die Notwendigkeit robuster Sicherheitstests unbestritten ist, stellt sich die Frage nach den geeigneten Methoden und der Notwendigkeit einer branchenweiten Standardisierung solcher Praktiken. Insbesondere im B2B-Bereich, wo KI-Lösungen zunehmend in kritischen Infrastrukturen und Prozessen eingesetzt werden, ist das Vertrauen in die Sicherheit und Zuverlässigkeit der Systeme von höchster Bedeutung. Die Transparenz über Testmethoden und die Einhaltung ethischer Richtlinien könnten hierbei eine zentrale Rolle spielen.

Die Entwicklung und Implementierung von KI-Systemen erfordert eine sorgfältige Abwägung zwischen Innovation, Sicherheit und ethischen Grundsätzen. Der Fall Meta zeigt die Komplexität dieser Herausforderung und unterstreicht die Notwendigkeit eines kontinuierlichen Dialogs über Best Practices und Standards in der KI-Branche.

Bibliography

Wired. (2026, June 29). Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs. Retrieved from https://www.wired.com/story/meta-contractors-pretending-to-be-teens-chatbot-testing/
The Decoder. (2026, June 30). Meta secretly tested ChatGPT, Gemini, and Character.AI with thousands of minor-perspective crisis prompts. Retrieved from https://the-decoder.com/meta-secretly-tested-chatgpt-gemini-and-character-ai-with-thousands-of-minor-perspective-crisis-prompts/
India Today. (2026, June 30). Meta contractors posed as minors, talked to Gemini and Claude about drugs: Report. Retrieved from https://www.indiatoday.in/technology/news/story/meta-contractors-posed-as-minors-to-test-chatgpt-gemini-and-character-ai-2937131-2026-06-30
Livemint. (2026, June 30). Meta asked contractors to pose as teens to test ChatGPT, Gemini on suicide, sex prompts: Report. Retrieved from https://www.livemint.com/ai/artificial-intelligence/meta-asked-contractors-to-pose-as-teens-to-test-chatgpt-gemini-on-suicide-sex-prompts-report-11782788618426.html
Times of India. (2026, June 30). Meta responds to report claiming its contractors posed as teens to ask ChatGPT, Google Gemini and other chatbots about suicide and drugs; says: Testing... Retrieved from https://timesofindia.indiatimes.com/technology/tech-news/meta-responds-to-report-claiming-its-contractors-posed-as-teens-to-ask-chatgpt-google-gemini-and-other-chatbots-about-suicide-and-drugs-says-testing-/articleshow/132093396.cms
Startup Fortune. (2026, June 30). Meta secretly sent fake teen accounts to flood rivals' chatbots with thousands of crisis prompts. Retrieved from https://startupfortune.com/meta-secretly-sent-fake-teen-accounts-to-flood-rivals-chatbots-with-thousands-of-crisis-prompts/
The Next Web. (2026, June 30). Meta posed as teens to test rival AI chatbots. Retrieved from https://thenextweb.com/news/meta-contractors-posed-teens-rival-chatbot-testing
MLQ News. (2026, June 30). Meta Secretly Sent 45,000 Teen Crisis Prompts to ChatGPT, Gemini, and Character.AI. Retrieved from https://mlq.ai/news/meta-secretly-sent-45000-teen-crisis-prompts-to-chatgpt-gemini-and-characterai/
Ground News. (2026, June 29). Meta Posed as Teens to Test Rival AI Chatbots. Retrieved from https://ground.news/article/meta-contractors-posed-as-teens-to-prompt-rival-chatbots-about-suicide-sex-and-drugs
Times Now News. (2026, June 30). Meta's Secret AI Project Used Fake Teen Accounts To Test ChatGPT, Gemini On High-Risk Topics: Report. Retrieved from https://www.timesnownews.com/technology-science/mark-zuckerbergs-meta-accused-of-creating-fake-child-profiles-to-test-chatgpt-and-gemini-on-sex-and-suicide-article-154803999