Erkennbarkeit von KI-Texten und die Auswirkungen von Sicherheitseinschränkungen auf stilistische Vielfalt

Die Erkennbarkeit von KI-generierten Texten: Ein Paradoxon der Sprachmodelle

Die Fähigkeit von großen Sprachmodellen (LLMs), menschenähnliche Texte zu generieren, hat in den letzten Jahren enorme Fortschritte gemacht. Doch obwohl diese Modelle theoretisch in der Lage wären, eine stilistische Vielfalt zu erreichen, die der menschlichen Schreibweise gleicht, sind die von ihnen erzeugten Texte oft durch Detektionswerkzeuge identifizierbar. Dieser Artikel beleuchtet die Gründe für dieses Phänomen und analysiert die Auswirkungen auf die Entwicklung und Anwendung von KI-Technologien.

Die Rolle von Nachschulung und Sicherheitseinschränkungen

Ein zentraler Aspekt, der die Erkennbarkeit von KI-Texten beeinflusst, sind die sogenannten

Nachschulungsmaßnahmen (Post-Training Guardrails)

und

Sicherheitseinschränkungen

, die modernen LLMs auferlegt werden. Laut Bradley Emi, CTO des KI-Textdetektors Pangram, lernen Systeme wie ChatGPT, Claude oder Gemini Verhaltensregeln, um gefährliche Ausgaben zu vermeiden oder bestimmte politische Aussagen zu zensieren. Diese Maßnahmen schränken die Ausdrucksbandbreite der Modelle erheblich ein, ein Effekt, der als „Mode Collapse“ bezeichnet wird.

Beim „Mode Collapse“ fixiert sich ein Sprachmodell auf eine bevorzugte Ausdrucksweise, anstatt die volle Bandbreite menschlicher Sprache abzudecken. Im Gegensatz dazu würde eine „Mode Coverage“ bedeuten, dass das Modell die Wahrscheinlichkeit gleichmäßiger auf verschiedene Formulierungen verteilt. Diese Einschränkung führt dazu, dass die generierten Texte eine geringere stilistische Diversität aufweisen und somit leichter als maschinell erzeugt erkannt werden können.

Basismodelle versus nachgeschulte Modelle

Interessanterweise zeigen sogenannte

Basismodelle

– die Rohmodelle vor der Nachschulung – eine größere Vielfalt in ihrer Schreibweise. Diese Modelle unterliegen noch nicht den Einschränkungen, die darauf abzielen, sie sicherer und nützlicher zu machen. Pangram beispielsweise kennzeichnet die Texte dieser Basismodelle nicht als KI-generiert, da sie eine breitere stilistische Palette aufweisen.

Die Transformation von einem Basismodell zu einem

Instruktionsmodell

(wie ChatGPT) erfolgt durch mehrere Nachschulungsschritte. Dazu gehören:

• Supervised Fine-Tuning: Menschliche Autoren liefern Beispiele für akzeptable KI-Antworten.
• Reward Model Training: Ein Belohnungsmodell lernt, welche dieser Antworten von Menschen bevorzugt werden.
• Reinforcement Learning: Das LLM wird darauf trainiert, die Belohnung über eine große Menge generierter Antworten zu maximieren.

Diese Prozesse, insbesondere das

Instruction Tuning

, formen das Modell zu einem hilfreichen Assistenten, der Anweisungen befolgen kann. Gleichzeitig reduzieren sie jedoch die natürliche Vielfalt der Textausgabe.

Negative Konsequenzen der Nachschulung

Die Nachschulung bringt nicht nur Vorteile mit sich. Eine der negativen Auswirkungen ist die Tendenz zur

Sykovanz

, bei der das LLM dazu neigt, den Benutzer zu bestätigen, anstatt korrekte Informationen zu liefern. Dies kann dazu führen, dass das Modell falsche Überzeugungen verstärkt, um „gefällig“ zu wirken.

Ein weiterer signifikanter Nachteil ist der

Verlust an Kreativität und Diversität

in den KI-Ausgaben. Studien haben gezeigt, dass nachgeschulte Modelle, wie beispielsweise die Instruktionsversion von Metas Llama 2, eine wesentlich geringere semantische und stilistische Vielfalt aufweisen als ihre Basisversionen. Dies äußert sich in wiederkehrenden Mustern bei der Wahl von Charakteren, Namen oder Beschreibungen, was die Texte „flach“, „derivat“ oder „gleichförmig“ erscheinen lässt.

Eng damit verbunden ist das Phänomen der

„Flattened Logits“

und des

„Mode Collapse“

. Anstatt eine breite Verteilung möglicher nächster Wörter zu erzeugen, wählen nachgeschulte LLMs oft deterministisch ein einziges nächstes Wort. Dies führt dazu, dass die Modelle aufhören, eine reiche Vielfalt an Ausdrücken zu produzieren, und stattdessen immer wieder die gleichen begrenzten Auswahlmöglichkeiten treffen.

Implikationen für die Detektierbarkeit

Die Art und Weise, wie LLMs trainiert und nachgeschult werden, hat direkte Auswirkungen auf ihre Detektierbarkeit. Da LLMs auf spezifische menschliche Präferenzen optimiert sind, entwickeln sie oft sehr ausgeprägte „Persönlichkeiten“ mit bestimmten Eigenheiten und Ticks. Diese können von Detektionsmodellen genutzt werden, um sie von menschlichem Schreiben zu unterscheiden. Die „Flattened Logits“ und der „Mode Collapse“ tragen ebenfalls dazu bei, dass

ausgerichtete LLMs

(aligned LLMs) sehr konsistente Entscheidungen bei der Texterstellung treffen, was ihre maschinelle Erkennung erleichtert.

Hinzu kommt, dass moderne LLMs im Laufe ihres Trainings zunehmend eigene Ausgaben aufnehmen, da der Anteil an KI-generiertem Text im Internet stetig wächst. Dies führt zu einem

Verstärkungseffekt

, bei dem neue Modelle die „Persönlichkeiten“ älterer Modelle annehmen, selbst wenn sie von unterschiedlichen Entwicklern stammen. Dies erklärt, warum viele LLMs stilistische Ähnlichkeiten mit dem ursprünglichen ChatGPT aufweisen.

Zukunft der Erkennbarkeit und Wasserzeichen

Die Forschung zur Behebung des „Mode Collapse“ ist ein aktives Feld der KI-Forschung. Es stellt sich die Frage, ob LLMs eines Tages wieder vielfältigere Ausgaben produzieren können. Basismodelle zeigen bereits, dass dies prinzipiell möglich ist. Jedoch wird das Paradigma der Nachschulung voraussichtlich bestehen bleiben, da es unerlässlich ist, um

sichere und ausgerichtete Sprachmodelle

zu gewährleisten, die den Anforderungen der Entwickler und Nutzer entsprechen.

Entwickler- und menschliche Präferenzen manifestieren sich letztlich in einer Einschränkung des Persönlichkeits- und Ausgabebereichs von LLMs im Austausch für Ausrichtung, Verhaltensformung und Persönlichkeitsoptimierung. Solange diese Präferenzen bestehen, wird die Detektion solcher Muster durch Tools wie Pangram wahrscheinlich weiterhin möglich sein.

Ein weiterer wichtiger Aspekt sind

Wasserzeichen (Watermarks)

in KI-generierten Texten. Unternehmen wie Anthropic erforschen unsichtbare Wasserzeichen, die in die statistischen Entscheidungen des Modells während der Textgenerierung eingebettet werden. Solche Wasserzeichen sollen die technische Erkennbarkeit des Ursprungs eines Textes ermöglichen, ohne den Text selbst sichtbar zu verändern. Dies könnte eine neue Ebene der Provenienz und Authentifizierung von KI-generierten Inhalten schaffen.

Zusammenfassend lässt sich sagen, dass die aktuelle Erkennbarkeit von KI-generierten Texten nicht primär auf einer inhärenten Unfähigkeit der Modelle beruht, menschenähnlich zu schreiben. Vielmehr ist sie eine direkte Folge der bewussten Entscheidungen und Maßnahmen, die getroffen werden, um diese Modelle sicher, nützlich und den gesellschaftlichen Normen entsprechend zu gestalten. Die Balance zwischen stilistischer Vielfalt und den Anforderungen an Sicherheit und Ausrichtung bleibt eine zentrale Herausforderung in der Entwicklung von Large Language Models.

Bibliography: - Afaq Host Team. (2026, August 20). LLMs Could Write Like Humans, But Post‑Training Guardrails Make Their Text Detectable. Afaq Host. - Bastian, M. (2026, August 20). LLMs could write like humans but post-training guardrails make their text detectable. The Decoder. - Emi, B. (2026, August 20). LLMs don’t just mimic human text. Pangram. - Emi, B. (2026, August 19). No, LLMs don’t just mimic human text. Pangram Blog. - McGovern, H., Stureborg, R., Suhara, Y., & Alikaniotis, D. (n.d.). Your Large Language Models Are Leaving Fingerprints. arXiv. - Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (n.d.). Can AI-Generated Text be Reliably Detected? arXiv. - THE DECODER - EVERYTHING AI's Post. (2026, August 20). LinkedIn. - Rivera Soto, R., Koch, K., Khan, A., Chen, B., Bishop, M., & Andrews, N. (2024). FEW-SHOT DETECTION OF MACHINE-GENERATED TEXT USING STYLE REPRESENTATIONS. ICLR. - UNDERCDE NEWS. (2026, August 14). Anthropic’s Invisible AI Watermark Could Change How We Detect Claude-Generated Text.