OpenAI beschreibt koordinierte Versuche, Modell-Reasoning zu extrahieren
Mindverse News
KI-gestützt erstellt, vor Veröffentlichung redaktionell geprüft 7 Quellen
Das Wichtigste in Kürze
- OpenAI kündigte am 20. November neue Forschung zu Distillation und Abwehrmaßnahmen an; der kurze Beitrag enthält selbst keine Zahlen oder technischen Einzelheiten. [1]
- Ein ausführlicher OpenAI-Bericht vom 30. September schildert eine Kampagne, bei der Angreifer geschützte Reasoning-Inhalte über manipulierte Modellinteraktionen sichtbar machen wollten. [3]
- OpenAI zufolge begann die beobachtete Aktivität am 1. Juli; ein Muster aus 16.000 Anfragen wurde bei mehr als 4.000 Nutzern festgestellt. Die Zahlen bezeichnen Versuche, nicht nachweislich erfolgreiche Extraktionen. [3]
- Anthropic und Google berichten ebenfalls von Distillations- beziehungsweise Modell-Extraktionsversuchen und beschreiben eigene Schutzmaßnahmen. [2][4][6]
- Für Unternehmen liegt die praktische Herausforderung darin, legitime API-Nutzung von koordinierten Extraktionsmustern zu unterscheiden, ohne reguläre Kunden unnötig zu beeinträchtigen. [2][5]
Inhalt · 7 Abschnitte
- Ankündigung und dokumentierter Sachstand
- Was Distillation über eine API ermöglicht
- OpenAI schildert eine mehrstufige Extraktionskampagne
- Die Abwehr setzt an mehreren Stellen an
- Anbieterangaben zeigen ähnliche Muster, aber keine einheitliche Messbasis
- Bedeutung für Unternehmen und Plattformbetreiber
- Ein Sicherheitsproblem, das Kooperation erfordert
- Quellen
Ankündigung und dokumentierter Sachstand
OpenAI kündigte am 20. November 2026 in einem kurzen Beitrag neue Forschung zum Schutz seiner Modelle vor Distillation an. Das Unternehmen erklärte, es untersuche, wie Fähigkeiten zwischen Modellen übertragen werden und wie koordinierte Extraktionsversuche erkannt und unterbrochen werden können. Zahlen, Methoden oder konkrete Ergebnisse nannte der Beitrag nicht. [1]
Eine ausführlichere OpenAI-Veröffentlichung zu einer koordinierten Kampagne war bereits am 30. September erschienen. Sie beschreibt Aktivitäten, die OpenAI ab Juli beobachtet und nach eigener Darstellung durch technische Kontrollen, Kontomaßnahmen und die Zusammenarbeit mit Partnern unterbrochen hat. Der verfügbare Kurzbeitrag vom 20. November belegt nicht, dass diese frühere Veröffentlichung mit der dort angekündigten neuen Forschung identisch ist. [1][3]
Die Unterscheidung ist wichtig: Ein Anbieterbericht dokumentiert zunächst die Beobachtung und Bewertung des jeweiligen Unternehmens. Die darin genannten Angriffsmuster lassen sich mit Berichten anderer Anbieter und einer gemeinsamen US-Sicherheitswarnung vergleichen; die konkrete Wirksamkeit der einzelnen Abwehrmaßnahmen ist damit jedoch nicht unabhängig bestätigt. [2][3][5][6]
Was Distillation über eine API ermöglicht
Bei der Wissensdestillation, kurz Distillation, dient ein leistungsfähigeres Modell als „Lehrmodell“: Ein Entwickler stellt ihm Aufgaben und verwendet dessen Antworten, um ein anderes Modell zu trainieren. Das kann ein legitimes Verfahren sein, etwa wenn ein Anbieter eine kleinere oder auf bestimmte Aufgaben zugeschnittene Variante des eigenen Modells entwickelt. Unzulässig wird es nach den Berichten dann, wenn Fähigkeiten ohne Erlaubnis und unter Umgehung von Nutzungs- oder Zugriffsbeschränkungen abgeschöpft werden. [4][6][7]
Die Antworten können als synthetische Trainingsdaten in ein nachgeordnetes Modell eingehen. Dazu gehören beispielsweise gute Lösungen für Programmieraufgaben oder Bewertungen, mit denen Trainingsbeispiele sortiert und Modelle weiter angepasst werden. Eine solche Nutzung kann Fähigkeiten in bestimmten Bereichen gezielt übertragen, ohne dass der Angreifer die Modellgewichte oder interne Infrastruktur des ursprünglichen Anbieters stehlen muss. [6][7]
Besonders wertvoll können ausführliche Reasoning-Spuren sein: Sie zeigen nicht nur ein Endergebnis, sondern können Hinweise darauf geben, wie ein Modell eine Aufgabe bearbeitet. Anthropic beschreibt solche Spuren als potenziell nützliches Trainingsmaterial; OpenAI erklärt ebenfalls, dass der Zugriff auf geschütztes Reasoning die Reproduktion von Fähigkeiten erleichtern kann. Daraus folgt nicht, dass eine einzelne extrahierte Antwort ein Modell vollständig kopiert oder dessen gesamte Sicherheitsarchitektur überträgt. [2][3]
Für den Sicherheitsvergleich ist diese Einschränkung zentral. Ein nachtrainiertes Modell kann bestimmte Fähigkeiten des Vorbilds übernehmen, muss aber dessen Schutzmaßnahmen nicht automatisch mitübernehmen. Anthropic und OpenAI führen genau diese mögliche Lücke als Risiko an; die verfügbaren Berichte belegen damit eine Sorge der Anbieter, aber keine pauschale Aussage über jedes destillierte Modell. [2][3][4]
OpenAI schildert eine mehrstufige Extraktionskampagne
Nach OpenAIs Bericht begann die beobachtete Aktivität am 1. Juli zunächst mit geringem Umfang. Am 24. und 25. Juli registrierte das Unternehmen dann eine Spitze von 16.000 Anfragen mit einem relevanten Extraktionsmuster, die von mehr als 4.000 Nutzern ausgingen. Eine weitere Untersuchung identifizierte verwandte Prompt-Muster in einer Gruppe von mehr als 15.000 Nutzern; OpenAI zufolge war diese Aktivität bis zum 28. Juli vollständig unterbrochen. [3]
Die Zahlen sind nicht als Maß für den erfolgreichen Abfluss von Daten zu lesen. OpenAI weist ausdrücklich darauf hin, dass sie versuchte und nicht notwendigerweise erfolgreiche Extraktionen beschreiben. Der Bericht quantifiziert daher die beobachteten Anfragen und die Reichweite des Aktivitätsclusters, nicht den Umfang eines nachweislich gewonnenen Trainingsdatensatzes. [3]
Als eine Methode nennt OpenAI das Kopieren eines verschlüsselten Reasoning-Elements aus einem Gespräch und den Versuch, ein Modell in einer anderen Unterhaltung dazu zu bewegen, den verborgenen Inhalt zu entschlüsseln und wiederzugeben. Das Unternehmen betont, dass die Angreifer nach seiner Untersuchung weder Verschlüsselung gebrochen noch Datenbanken kompromittiert oder direkten Zugriff auf gespeicherte Nutzerunterhaltungen erlangt hätten. [3]
OpenAI ordnet einen Kernbereich der Aktivität Personen zu, die mit Moonshot AI, dem Entwickler der Kimi-Modelle, in Verbindung stünden. Zugleich erklärt das Unternehmen, es sei unklar, ob alle während des Zeitraums beobachteten Betreiber zu einem einzigen Akteur gehörten. Die Zuschreibung ist somit eine Bewertung OpenAIs und keine abschließende Identifizierung sämtlicher Beteiligter. [3]
Der Bericht erwähnt außerdem Forschung unabhängiger Sicherheitsforscher, die OpenAI über verwandte Risiken beim Wechsel zwischen Modellen und bei der Verdichtung von Gesprächskontext informiert hätten. OpenAI gibt an, diese Angriffspfade geprüft und als real bestätigt zu haben; die Forscher hätten dadurch die Untersuchung und Gegenmaßnahmen beschleunigt. [3]
Die Abwehr setzt an mehreren Stellen an
OpenAI beschreibt drei Antwortbereiche: betrügerische oder missbräuchlich verwendete Konten zu sperren beziehungsweise einzuschränken, technische Schutzmechanismen für geschütztes Reasoning zu verstärken und mit externen Diensten zusammenzuarbeiten, wenn verdächtige Aktivitäten über deren Infrastruktur laufen. Das Unternehmen berichtet zudem, den Schutz über Nutzer, Arbeitsbereiche, Organisationen und Modellfamilien hinweg ausgebaut zu haben. [3]
Zu den technischen Änderungen gehörten dem Bericht zufolge das Schließen eines Pfads, über den bereits vorhandenes verschlüsseltes Reasoning erneut eingespielt werden konnte, sowie zusätzliche Prüfungen von gestreamten Ausgaben, die geschützte Inhalte offenlegen könnten. Die Maßnahmen sollen demnach nicht nur einzelne verdächtige Prompts erkennen, sondern auch verhindern, dass geschützte Inhalte zwischen Gesprächen oder Konten wiederverwendet werden. [3]
Auch andere Anbieter setzen laut ihren eigenen Berichten auf gestaffelte Kontrollen. Anthropic beschreibt Maßnahmen, die Reasoning-Inhalte an eine Organisation binden, Änderungen am bisherigen Kontext bei neu angelegten API-Konten begrenzen und Anfragen mit Klassifikatoren prüfen. Das Unternehmen gibt an, diese Klassifikatoren intern und extern getestet und gefundene Schwachstellen behoben zu haben. [2]
Google Threat Intelligence Group berichtet von mehr als 100.000 Prompts, mit denen versucht worden sei, Gemini zur Ausgabe vollständiger Reasoning-Prozesse zu bewegen. Google zufolge erkannten Systeme das betreffende Muster in Echtzeit und begrenzten das Risiko für die geschützten Inhalte. Auch diese Angaben stammen aus dem Bericht des Anbieters. [6]
Eine gemeinsame Sicherheitswarnung von CISA, NSA und FBI empfiehlt KI-Anbietern, auffällige Prompts, Konten, Netzwerke und Verhaltensmuster zu erkennen, gezielte Reaktionen auf verdächtige Anfragen zu entwickeln und Informationen zwischen Organisationen auszutauschen. Die Behörden nennen als mögliche Hinweise unter anderem ungewöhnliche Nutzungsraten und sehr hohe Aktivität kurz nach der Kontoeröffnung. [5]
Anbieterangaben zeigen ähnliche Muster, aber keine einheitliche Messbasis
Anthropic bezifferte in einem eigenen Bericht drei Kampagnen mit zusammen mehr als 16 Millionen Interaktionen mit Claude über rund 24.000 betrügerische Konten. Das Unternehmen schrieb die Kampagnen DeepSeek, Moonshot AI und MiniMax zu und erklärte, sie hätten unter anderem Reasoning, Programmierung und den Einsatz von Werkzeugen adressiert. Diese Zahlen und Zuschreibungen sind Anthropic-Angaben. [4]
In einem späteren Bericht erklärte Anthropic, neue Maßnahmen hätten die von Distillern abgeschöpften Daten nach einer frühen Schätzung um etwa 90 bis 99 Prozent reduziert. Für bestimmte Modelle seien die von Distillern abgerufenen Reasoning-Token nach Einführung eines Klassifikators fortlaufend zehn- bis hundertmal niedriger gewesen als zuvor. Das Unternehmen verwies zugleich darauf, dass die Dauerhaftigkeit des Effekts offen sei und ein hochentwickelter, anhaltender Umgehungsversuch bislang nicht beobachtet worden sei. [2]
Auch bei den Abwehrmaßnahmen nennt Anthropic Zielkonflikte. Das Unternehmen berichtet von einer Falsch-Positiv-Rate unter 0,1 Prozent für den beschriebenen Klassifikator, weist aber darauf hin, dass legitime Anfragen dennoch blockiert werden könnten. Außerdem hätten bestimmte Änderungen Anpassungen an Integrationen erfordert; für blockierte Anfragen würden in den genannten Fällen Gebühren erhoben. [2]
Die Berichte lassen sich nicht direkt zu einer Rangliste der Anbieter oder Schutzsysteme zusammenführen. Sie beziehen sich auf unterschiedliche Modelle, Zeiträume und Messgrößen: OpenAI zählt beobachtete Versuche, Anthropic berichtet unter anderem über Reasoning-Token und Google über erkannte Prompts. Keine der vorliegenden Quellen stellt eine unabhängige, standardisierte Prüfung dieser Kennzahlen bereit. [2][3][6]
Bedeutung für Unternehmen und Plattformbetreiber
Für Unternehmen, die Modelle über APIs oder Cloud-Plattformen nutzen, ist die zentrale operative Frage nicht allein, ob ein einzelner Prompt verdächtig wirkt. Die Berichte beschreiben koordinierte Muster über viele Konten, wiederholte ähnliche Anfragen und verteilte Zugangswege. Anthropic schildert Netzwerke, die Anfragen über zahlreiche Konten und Anbieter verteilen; die US-Behörden empfehlen ebenfalls, Aktivitäten über Organisationen und Plattformen hinweg zu vergleichen. [4][5]
Analyse: Daraus ergibt sich für Betreiber ein Bedarf an abgestuften Prüfungen, die Verhaltens- und Kontosignale mit dem Inhalt von Anfragen verbinden. Eine hohe Anfragezahl allein beweist keinen Missbrauch, ebenso wenig wie ein einzelner ungewöhnlicher Prompt eine Kampagne belegt. Die Quellen legen vielmehr nahe, wiederkehrende Muster und koordinierte Nutzung gemeinsam zu bewerten. [4][5][6]
Die Schutzmaßnahmen können auch legitime Nutzung beeinflussen. Anthropic nennt mögliche Fehlblockierungen, Gebühren für abgewiesene Anfragen und Anpassungsbedarf bei Integrationen; OpenAI beschreibt technische Schutzvorkehrungen und Kontobeschränkungen, veröffentlicht in dem vorliegenden Bericht aber keine vergleichbaren Kennzahlen zu Auswirkungen auf reguläre Kunden. Für Unternehmen ist deshalb relevant, wie Anbieter Fehlalarme behandeln, Änderungen ankündigen und betroffene API-Workflows unterstützen. [2][3]
Analyse: Wer externe Modelle in produktive Abläufe einbindet, sollte die Verfügbarkeit und Regeln des jeweiligen Anbieters als Teil des Betriebsrisikos betrachten. Die Quellen belegen, dass Anbieter Schutzmechanismen nach neuen Extraktionsmustern verändern und dass solche Änderungen Integrationen berühren können; sie liefern jedoch keine Grundlage für eine pauschale Aussage, wie häufig dies bei Unternehmen tatsächlich zu Ausfällen führt. [2][3]
Ein Sicherheitsproblem, das Kooperation erfordert
OpenAI erklärt, Informationen mit Branchenpartnern über das Frontier Model Forum sowie mit geeigneten staatlichen Stellen geteilt zu haben. Das Unternehmen verweist außerdem auf Zusammenarbeit mit Drittanbietern, wenn verwandte Aktivitäten über deren Dienste liefen. [3]
Die Notwendigkeit solcher Zusammenarbeit ergibt sich aus der verteilten Infrastruktur: Anthropic beschreibt den Einsatz von APIs, Cloud-Diensten und Vermittlern, während die US-Sicherheitswarnung ebenfalls mehrere Zugangswege und den Nutzen organisationsübergreifender Hinweise hervorhebt. Wenn jede Plattform nur einen Teil des Verhaltens sieht, kann der Vergleich von Konto-, Netzwerk- und Nutzungssignalen die Erkennung erleichtern. [4][5]
Die verfügbaren Erkenntnisse sprechen für ein fortlaufendes Wechselspiel zwischen Extraktionstechniken und Abwehr. OpenAI erwartet, dass Versuche ausgefeilter werden; Anthropic bezeichnet den Bereich als ein Problem, das weitere Anpassungen erfordert. Für die Branche heißt das: Schutzmechanismen sind keine einmalige Konfiguration, und ihre Wirksamkeit muss gegen Umgehungen ebenso wie gegen Auswirkungen auf legitime Kunden abgewogen werden. [2][3]
Der Kernbefund ist damit enger als die weitreichendsten geopolitischen Zuschreibungen in einzelnen Anbieter- und Behördenberichten: Modellfähigkeiten können über systematische Abfragen übertragen werden, ohne dass Modellgewichte gestohlen werden müssen; die dokumentierten Kampagnen und Gegenmaßnahmen sind jedoch überwiegend durch die betroffenen Anbieter selbst beschrieben. Verlässliche Vergleiche erfordern deshalb transparente Messgrößen und abgestimmte Verfahren zur Bewertung von Erkennung, erfolgreicher Extraktion und Fehlalarmen. [2][3][5][6][7]
Quellen
- [1] OpenAI — https://x.com/OpenAI/status/2123862344422088794 (abgerufen am 2026-11-20)
- [2] Strengthening our defenses against distillation attacks \ Anthropic — https://www.anthropic.com/news/distillation-defenses (abgerufen am 2026-11-20)
- [3] Disrupting a coordinated model-distillation campaign | OpenAI — https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign (abgerufen am 2026-11-20)
- [4] Detecting and preventing distillation attacks \ Anthropic — https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks (abgerufen am 2026-11-20)
- [5] China-Based Artificial Intelligence Companies Conducting Industrial-Scale Distillation Campaigns Against U.S. AI Companies | CISA — https://www.cisa.gov/news-events/cybersecurity-advisories/aa26-251a (abgerufen am 2026-11-20)
- [6] GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use | Google Cloud Blog — https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (abgerufen am 2026-11-20)
- [7] Adversarial Distillation | CNAS — https://www.cnas.org/publications/reports/adversarial-distillation (abgerufen am 2026-11-20)
Nächster Artikel
OpenAI
OpenAI-Studie zeigt ChatGPT als Werkzeug im ForschungsalltagOpenAIs Auswertung von 580.000 Forschungsnachrichten zeigt, wofür Wissenschaftler ChatGPT nutzen – und warum Zeitersparnis keinen Qualitätsgewinn belegt.

Artikel teilen
Mehr zu OpenAI & ChatGPT
Alle OpenAI-News- OpenAI öffnet interne Systeme für externe Sicherheitsprüfungen
OpenAI kündigt externe Prüfungen mit vier Forschungsorganisationen an. Details zu Zugang, Veröffentlichungsrechten und Ergebnissen sind bislang offen.
- GPT-6 Cyber startet mit begrenztem Zugang und offenen Fragen zur Sicherheit
OpenAI begrenzt GPT-6 Cyber zunächst auf geprüfte Sicherheitsteams. Die gemeldeten Funde sind umfangreich, aber bislang nicht unabhängig bestätigt.
- OpenAI will Pierre Computer übernehmen und Codex um Git-Infrastruktur erweitern
OpenAI will Pierre Computer übernehmen und Codex um Git-Infrastruktur erweitern. Was bereits integriert ist, was offenbleibt und was Firmen beachten sollten.
- GPT- und Claude-Agenten im Spieltest: Siegesserie trifft auf Bürokratie
Ein Video berichtet von GPT-Siegen in Minecraft und Mindustry. Die Tests zeigen auch Koordinationsprobleme und aufwendige Regelbildung.
Dranbleiben
Mindverse News folgen
Neue Meldungen erhalten Sie über unseren RSS-Feed oder auf LinkedIn.
Passend dazu in Mindverse Studio
- Eigene Modelle und Assistenten trainierenBilden Sie einen digitalen Marken-Experten auf Ihrem Wissen aus.
- KI-Chat mit allen führenden ModellenGPT, Claude und Gemini in einer Oberfläche – mit Websuche und Quellenangaben.
- Studio mit Ihren Tools verbindenIntegrationen für Microsoft 365, Google Workspace, Slack, Notion und mehr.
Recherchieren Sie KI-News wie diese selbst – mit Mindverse Studio.
7 Tage kostenlos testen – ohne Kreditkarte, mit 200 Credits. Für Fragen zur Umsetzung buchen Sie eine persönliche Demo.