Künstliche Intelligenz und das Risiko der Enshittification: Eine kritische Betrachtung

Künstliche Intelligenz und die Falle der "Enshittification": Eine Analyse

Die rasante Entwicklung der Künstlichen Intelligenz (KI) prägt zunehmend unseren Alltag und verspricht transformative Veränderungen in Wirtschaft und Gesellschaft. Von personalisierten Empfehlungen bis hin zur Automatisierung komplexer Prozesse – KI-Systeme bieten einen immensen Mehrwert. Doch mit dieser Entwicklung wächst auch die Diskussion über potenzielle Risiken. Eine zentrale Sorge, die in Fachkreisen intensiv diskutiert wird, ist die sogenannte "Enshittification"-Falle, ein Begriff, der von dem Technologiekritiker Cory Doctorow geprägt wurde. Diese Analyse beleuchtet, ob und wie die KI-Branche diesem Phänomen begegnen kann.

Was bedeutet "Enshittification"?

Der Begriff "Enshittification" beschreibt einen Prozess, bei dem digitale Plattformen, die ursprünglich darauf abzielen, den Nutzern einen hervorragenden Dienst zu bieten, im Laufe der Zeit ihren Wert und ihre Nützlichkeit verlieren. Doctorow skizziert diesen Verfall in drei Phasen:

• Phase 1: Nutzerbindung. Die Plattform lockt Nutzer mit attraktiven, oft kostenlosen oder sehr günstigen Diensten an, um eine große Basis aufzubauen.
• Phase 2: Monetarisierung der Geschäftskunden. Sobald eine kritische Masse an Nutzern erreicht ist, beginnt die Plattform, Wert von den Anbietern oder Geschäftskunden (z.B. Werbetreibenden) zu extrahieren, indem sie deren Sichtbarkeit oder Reichweite begrenzt und für den Zugang Gebühren verlangt.
• Phase 3: Extraktion von Wert von den Nutzern. Schließlich wird der Fokus auf die Maximierung des Profits für die Anteilseigner verlagert, oft auf Kosten der Nutzererfahrung. Dies kann sich in Form von übermäßiger Werbung, manipulativen Algorithmen oder einer allgemeinen Verschlechterung der Dienstqualität äußern.

Dieses Muster wurde bei etablierten Technologiegiganten wie Google, Amazon und sozialen Medien beobachtet, wo die ursprüngliche Nutzerfreundlichkeit zunehmend durch Werbeinhalte und algorithmische Manipulationen beeinträchtigt wurde.

Die Anfälligkeit von KI-Systemen

Die Diskussion, ob KI ähnlichen Mechanismen unterliegen könnte, ist von großer Relevanz. KI-Modelle, insbesondere große Sprachmodelle (LLMs), erfordern immense Investitionen in Forschung, Entwicklung und Rechenleistung. Unternehmen, die diese Modelle entwickeln und betreiben, stehen unter erheblichem Druck, diese Investitionen zu amortisieren und Rentabilität zu erzielen. Dies könnte Anreize schaffen, die zu einer "Enshittification" führen könnten:

• Werbebasierte Empfehlungen: Eine primäre Befürchtung ist, dass KI-Modelle Empfehlungen nicht mehr auf Basis der objektiv besten Option, sondern aufgrund von bezahlten Platzierungen generieren könnten. Obwohl führende KI-Unternehmen wie OpenAI betonen, solche Praktiken sorgfältig zu handhaben, werden Werbemodelle aktiv evaluiert. Die Zusammenarbeit zwischen OpenAI und Unternehmen wie Walmart, die Einkaufsmöglichkeiten direkt in der ChatGPT-App integrieren, veranschaulicht das Potenzial für solche Entwicklungen.
• Erhöhte Gebühren und Funktionsbeschränkungen: Um die kontinuierlich steigenden Kosten für den Betrieb und die Verbesserung von KI-Modellen zu decken, könnten Unternehmen dazu übergehen, grundlegende Funktionen hinter Paywalls zu verstecken oder für höhere Qualitätsstufen der KI-Interaktion zusätzliche Gebühren zu verlangen. Dies würde bedeuten, dass Nutzer, die das gleiche Niveau an Intelligenz und Leistung wünschen, in teurere Abonnements wechseln müssten.
• Qualitätsverlust durch Datenmanipulation: Eine weitere Sorge ist die mögliche Degradierung der Datenqualität, auf denen KI-Modelle trainiert werden, oder die bewusste Steuerung der Modellausgabe, um bestimmte kommerzielle oder strategische Ziele zu erreichen. Doctorow weist darauf hin, dass die "Black-Box"-Natur vieler LLMs es erschweren könnte, solche Manipulationen zu erkennen.

Perspektiven der KI-Anbieter und Experten

Vertreter der KI-Branche zeigen sich der Problematik bewusst. Sam Altman, CEO von OpenAI, hat die Notwendigkeit betont, sehr vorsichtig zu sein, um den Nutzern zu dienen und nicht primär den eigenen Interessen. Er äußerte die Überzeugung, dass "coole Werbeprodukte" entwickelt werden könnten, die sowohl für den Nutzer als auch für die Beziehung zum Nutzer einen Mehrwert darstellen. Perplexity, eine KI-Suchplattform, bietet bereits gesponserte Ergebnisse, versichert jedoch, dass diese die Verpflichtung zu unvoreingenommenen Antworten nicht beeinträchtigen werden.

Cory Doctorow bleibt jedoch skeptisch. Seine These lautet, dass, sobald ein Unternehmen die Möglichkeit hat, seine Produkte durch "Enshittification" zu entwerten, es der ständigen Versuchung ausgesetzt sein wird, dies auch zu tun. Er argumentiert, dass die enormen wirtschaftlichen Zwänge im KI-Sektor dazu führen könnten, dass Unternehmen diesen Weg einschlagen, noch bevor sie einen nachhaltigen Wert für die Nutzer liefern. Einige Experten gehen sogar so weit zu sagen, dass KI noch nicht einmal die "gut für Nutzer"-Phase erreicht hat, sondern direkt in die "Enshittification" übergehen könnte, da die internen Prozesse der LLMs schwer zu durchschauen sind.

Strategien zur Vermeidung der "Enshittification"

Um die "Enshittification" der KI zu verhindern, werden verschiedene Ansätze diskutiert:

• Open-Source-Initiativen: Projekte im Bereich Open-Source-KI fördern Transparenz und ermöglichen es einer breiteren Gemeinschaft, die Entwicklung und Funktionsweise von Modellen zu überprüfen und zu verbessern. Dies könnte der zentralisierten Kontrolle und der damit verbundenen Versuchung zur Wertextraktion entgegenwirken.
• Regulierung und Kartellrecht: Regulatorische Eingriffe und kartellrechtliche Maßnahmen könnten Monopolstellungen verhindern und den Wettbewerb fördern. Dadurch würde der Druck auf Unternehmen, den Wert auf Kosten der Nutzer zu extrahieren, reduziert.
• Transparenz und Interoperabilität: Eine erhöhte Transparenz darüber, wie KI-Systeme funktionieren und welche Daten sie nutzen, sowie die Förderung von Interoperabilitätsstandards könnten Nutzern mehr Kontrolle und die Möglichkeit geben, zwischen Anbietern zu wechseln, sollte die Dienstqualität nachlassen.
• Ethische Rahmenwerke und nutzerzentrierte Entwicklung: Die Verankerung ethischer Prinzipien in der KI-Entwicklung, die den langfristigen Nutzen für die Nutzer über kurzfristige Profitmaximierung stellen, ist von entscheidender Bedeutung. Dies erfordert einen kulturellen Wandel innerhalb der Branche.

Fazit und Ausblick

Die "Enshittification" ist ein ernstzunehmendes Risiko für die Zukunft der Künstlichen Intelligenz. Die Erfahrungen mit früheren digitalen Plattformen zeigen, dass die Verlockung, kurzfristige Gewinne über die langfristige Nutzerzufriedenheit zu stellen, erheblich ist. Die KI-Branche und ihre Stakeholder stehen vor der Aufgabe, Mechanismen zu entwickeln, die eine transparente, faire und nutzerzentrierte Entwicklung gewährleisten.

Die Fähigkeit von KI, immense Vorteile zu bieten, ist unbestreitbar. Die Herausforderung besteht darin, sicherzustellen, dass diese Vorteile nicht durch eine Kommerzialisierung und Wertumverteilung untergraben werden, die letztlich zu einer Verschlechterung der Dienstqualität und einem Vertrauensverlust führen könnte. Das Bewusstsein für die "Enshittification"-Falle und die aktive Suche nach Gegenmaßnahmen sind entscheidend, um das volle Potenzial der KI zum Wohle aller entfalten zu können.

Bibliographie

- Levy, Steven. "Can AI Avoid the Enshittification Trap?" WIRED, 17. Oktober 2025. - Callegari, Ava. "Avoiding AI Enshittification: Lessons from Tech Platforms." WebProNews, 18. Oktober 2025. - Doctorow, Cory. "The Enshittification of TikTok." WIRED, 2022. - O’Reilly, Tim und Doctorow, Cory. "Tim O’Reilly and Cory Doctorow on “Enshittification” and the Future of AI: How Do We Avoid the Race to the Bottom with AI?" O’Reilly Media, 15. Mai 2024. - Nario, Maria. "Enshittification in AI: What It Is and How to Stop It." BitsKingdom, 26. August 2025. - Parham, Jason. "The Blurred Truths of Sora." WIRED, 17. Oktober 2025. - Marti, Don. "the coming de-enshittification boom." blog.zgp.org, 25. Mai 2025.