OpenAI ändert Richtlinien für ChatGPT und erlaubt erotische Inhalte für verifizierte Erwachsene

OpenAI lockert Richtlinien für ChatGPT: Eroti­sche Inhalte für Erwachsene angekündigt

OpenAI, das Unternehmen hinter dem populären KI-Chatbot ChatGPT, hat eine signifikante Anpassung seiner Inhaltsrichtlinien bekannt gegeben. Ab Dezember sollen verifizierte erwachsene Nutzer die Möglichkeit erhalten, erotische Inhalte über den Chatbot zu generieren. Diese Entwicklung markiert eine Abkehr von den bisher strengen Zensurmaßnahmen und ist Teil einer umfassenderen Strategie, die von CEO Sam Altman als "Erwachsene Nutzer wie Erwachsene behandeln" beschrieben wird.

Hintergrund der Richtlinienänderung

Die Entscheidung von OpenAI, die Beschränkungen für sensible Inhalte zu lockern, folgt auf eine Phase, in der der Fokus stark auf Jugendschutz und die Einhaltung strikter Leitplanken lag. Berichte über ungesunde Beziehungen zwischen Nutzern und Chatbots, darunter ein tragischer Fall, der zu einer Klage gegen OpenAI führte, hatten zuvor zu einer Verschärfung der Richtlinien geführt. Sam Altman räumte jedoch ein, dass diese strengen Vorgaben dazu geführt hätten, dass "einige Menschen ohne mentale Gesundheitsprobleme" ChatGPT als weniger hilfreich und unterhaltsam empfunden hätten. Die nun angekündigte Lockerung soll hier entgegenwirken und eine differenziertere Reaktion des Chatbots ermöglichen.

Die genaue Definition dessen, was unter "Erotik" fallen wird – ob es sich um leichte Flirts oder explizitere Inhalte handelt – sowie die Mechanismen zur Altersverifikation sind derzeit noch unklar. Die Umsetzung einer verlässlichen Altersprüfung im Internet stellt traditionell eine Herausforderung dar, wie Erfahrungen von Social-Media-Plattformen zeigen. Es wird erwartet, dass OpenAI hierzu detailliertere Informationen bereitstellen wird.

ChatGPT wird persönlicher und menschlicher

Neben der Öffnung für erotische Inhalte plant OpenAI auch, ChatGPT insgesamt persönlicher zu gestalten. Nutzer hatten nach der Einführung von GPT-5 bemängelt, der Chatbot wirke weniger menschlich und nahbar. Daraufhin hatte OpenAI bereits das Vorgängermodell GPT-4o wieder in den Chat integriert. Altman kündigte eine neue Version an, die stärker einer Persönlichkeit entsprechen und das "Verhalten, das den Menschen bei 4o gefiel", wieder aufgreifen soll. Ziel ist es, dass ChatGPT auf Wunsch wie ein Freund agiert, menschlicher antwortet und beispielsweise Emojis verwendet. Altman betonte dabei, dass es nicht darum gehe, Nutzer auf der Plattform zu halten, um Werbeeinnahmen zu generieren, da OpenAI derzeit kein Geld mit Werbung verdient.

Wettbewerb und regulatorische Herausforderungen

OpenAI ist nicht der einzige Akteur im KI-Bereich, der sich mit der Generierung von sensiblen Inhalten auseinandersetzt. Konkurrenten wie Elon Musks Grok bieten bereits "flirty Persönlichkeiten" an, und Plattformen wie Character.ai ermöglichen die Erstellung von KI-Freunden. Dieser Wettbewerb könnte ein Faktor für die strategische Neuausrichtung von OpenAI sein.

Die zunehmende Verbreitung von KI-Chatbots, die persönliche Interaktionen bis hin zu intimen Beziehungen simulieren können, wirft auch regulatorische Fragen auf. In Kalifornien existiert bereits ein KI-Gesetz, das Transparenz und Sicherheitsvorkehrungen vorschreibt und die Meldung von Zusammenhängen mit Straftaten verlangt. Weitere Gesetzesentwürfe in anderen US-Bundesstaaten beschäftigen sich explizit mit KI-Chatbots, die einen Freundschaftsmodus anbieten. Dies unterstreicht die Notwendigkeit, ethische Richtlinien und rechtliche Rahmenbedingungen parallel zur technologischen Entwicklung zu schaffen.

Ausblick

Die angekündigten Änderungen bei ChatGPT stellen einen bedeutenden Schritt in der Evolution von KI-Chatbots dar. Sie spiegeln den Wunsch wider, die Nutzererfahrung zu personalisieren und den individuellen Bedürfnissen gerecht zu werden, während gleichzeitig die komplexen Herausforderungen im Umgang mit sensiblen Inhalten und der Notwendigkeit einer verantwortungsvollen KI-Nutzung adressiert werden. Die kommenden Monate werden zeigen, wie OpenAI die Altersverifikation umsetzt und welche Auswirkungen diese neuen Freiheiten auf die Interaktion der Nutzer mit ChatGPT haben werden.

Bibliography

1. Weiß, Eva-Maria. "Erwachsenenmodus: ChatGPT kann bald auch Erotik". heise online, 15. Oktober 2025.
2. von Lindern, Jakob. "Erotikfunktion für ChatGPT: Der älteste Use-Case der Welt". DIE ZEIT, 15. Oktober 2025.
3. Bulleri, Dario. "ChatGPT soll bald eine Erotik-Funktion bekommen". Watson, 15. Oktober 2025.
4. Edwards, Benj. "ChatGPT can now write erotica as OpenAI eases up on AI paternalism". Ars Technica, 14. Februar 2025.
5. Estapé, Juan Antonio Pascual. "Cambio radical en ChatGPT: estrena un Modo Adulto para generar contenido erótico y gore". ComputerHoy, 16. Februar 2025.
6. "OpenAI erwägt, 'Pornoverbot' für ChatGPT und Co aufzuheben". DER STANDARD, 9. Mai 2024.
7. "ChatGPT will be able to write adult novels as OpenAI relaxes restrictions on sensitive content". GIGAZINE, 18. Februar 2025.