Kritisches Denken im Zeitalter von KI: Das Projekt ChatTJB im Fokus

Die bewusste Unvollkommenheit: Ein Mensch hinter dem Chatbot

In einer Ära, in der Künstliche Intelligenz (KI) immer allgegenwärtiger wird und Unternehmen weltweit um die Vorherrschaft in diesem Bereich ringen, tritt ein ungewöhnliches Projekt in den Vordergrund: ChatTJB. Dieser Chatbot, beworben in San Francisco, unterscheidet sich grundlegend von seinen KI-gesteuerten Pendants. Der winzige Haftungsausschluss auf der Werbetafel enthüllt, dass "AI" hier nicht für "Artificial Intelligence" steht, sondern für "average individual". Hinter ChatTJB verbirgt sich Tucker Bryant, ein ehemaliger Google-Mitarbeiter und Künstler, der jede Antwort persönlich verfasst.

Die Intention hinter ChatTJB

Bryants Motivation ist es, auf die zunehmende Abhängigkeit der Nutzer von KI-Systemen aufmerksam zu machen. Er beschreibt sein Projekt als "das schlechteste [große Sprachmodell] aller Zeiten", das dennoch revolutionär sein soll. Im Gegensatz zu herkömmlichen Chatbots, die auf komplexen Wahrscheinlichkeitsmodellen basieren, verarbeitet ChatTJB jede Anfrage über ein "proprietäres biologisches Schlussfolgerungssubstrat". Das bedeutet, Bryant liest die Fragen, denkt darüber nach und antwortet, wenn er dazu in der Lage ist. Diese bewusste Langsamkeit und die Möglichkeit menschlicher Fehler sind Kernelemente des Projekts.

Auf seiner Webseite bezeichnet Bryant ChatTJB als "satirisches Werk und öffentliches Kunstprojekt". Er betont, kein Gegner der KI zu sein, sondern möchte hervorheben, wie sehr sich Menschen an die schnellen, selbstbewussten und oft klug klingenden Antworten von KI-Systemen gewöhnt haben und diese kaum noch hinterfragen. ChatTJB soll durch seine "unendlich viel schlechtere" Performance eine Reibung im Chatbot-Erlebnis schaffen und Nutzer dazu anregen, kritischer zu sein. Fehler, die auftreten, sind dabei keine Halluzinationen der KI, sondern "ehrliche Fehler" mit nachvollziehbarer Quelle und Autorenschaft.

Die Herausforderungen des Vertrauens in KI

Die Initiative von ChatTJB beleuchtet ein wichtiges Phänomen: die "kognitive Kapitulation". Dieser Begriff, geprägt von Forschenden der Wharton Business School, beschreibt die Tendenz von Chatbot-Nutzern, ihr kritisches Denken zu vernachlässigen und den Ratschlägen von KI-Systemen blind zu folgen, selbst wenn diese fehlerhaft sind. Eine Studie des MIT bestätigt diese Warnung und zeigt, dass übermäßiges Vertrauen in KI die Fähigkeit von Menschen, Falschinformationen zu erkennen, beeinträchtigen kann. Dieses "Deskilling" ist vergleichbar mit der Nutzung eines Navigationssystems, das den Orientierungssinn schwächt, wenn Nutzer die vorgeschlagene Route nicht mehr hinterfragen.

Die Hauptautorin der MIT-Studie, Anku Rani, mahnt zur Vorsicht und erinnert daran, dass KI-Modelle lediglich statistische Vorhersagen treffen. Eine Studie der Europäischen Rundfunkunion (EBU) ergab, dass KI-Chatbots in bis zu 40 Prozent der Fälle Fehler machen, Informationen erfinden oder sogar falsche Quellen angeben. Diese Zahlen unterstreichen die Notwendigkeit eines kritischen Umgangs mit KI-generierten Inhalten.

Risiken und ökologische Aspekte von KI-Chatbots

Die Risiken, die mit dem unkritischen Einsatz von KI-Chatbots verbunden sind, sind vielfältig. Neben der Verbreitung von Fehlinformationen und der Schwächung des menschlichen Urteilsvermögens gibt es auch ökologische Bedenken. Ein früheres Projekt namens Quili.ai in Chile zeigte bereits im Februar 2026, wie menschliche Interaktion genutzt werden kann, um auf den hohen Ressourcenverbrauch von KI-Systemen hinzuweisen. Freiwillige beantworteten über 25.000 Anfragen, um auf die ökologischen Folgen von Rechenzentren aufmerksam zu machen, insbesondere den hohen Wasserverbrauch in Regionen, die bereits unter Dürre leiden.

Ein weiteres Beispiel für die Komplexität und potenzielle Fehlbarkeit von KI ist der "Lügenbot" LIEBOT, der bereits 2016 als Prototyp im Kontext der Maschinenethik entwickelt wurde. Dieser Chatbot wandelte wahre Aussagen mittels verschiedener Strategien in unwahre um und demonstrierte, wie leicht KI-Systeme manipuliert werden können oder unbeabsichtigt falsche Informationen generieren.

Auch die Entwicklung von KI-Portalen, die den Eindruck einer menschlichen Redaktion erwecken, aber tatsächlich von KI-Autoren betrieben werden, zeigt die Notwendigkeit einer kritischen Auseinandersetzung mit der Herkunft von Informationen. Skurrile Wortschöpfungen und nicht existierende Autorennamen können Hinweise auf solche Systeme sein, die das Vertrauen der Nutzer untergraben.

Fazit für die B2B-Zielgruppe

Für Unternehmen im B2B-Bereich ist die Entwicklung rund um Chatbots wie ChatTJB von hoher Relevanz. Sie verdeutlicht, dass der Einsatz von KI-Technologien eine sorgfältige Abwägung erfordert. Es ist entscheidend, sich nicht blind auf die Leistungsfähigkeit von KI zu verlassen, sondern stets eine kritische Perspektive zu bewahren. Die "kognitive Kapitulation" und das "Deskilling" sind reale Risiken, die die Entscheidungsfindung und das Urteilsvermögen von Mitarbeitern und Kunden beeinflussen können. Daher ist es unerlässlich, bei der Implementierung von KI-Lösungen Mechanismen zur Qualitätssicherung und zur Förderung des kritischen Denkens zu integrieren. Transparenz über die Herkunft von Informationen und die Rolle von KI bei der Generierung von Inhalten wird zunehmend zu einem Qualitätsmerkmal. Unternehmen, die dies berücksichtigen, können das Vertrauen ihrer Stakeholder stärken und die Vorteile von KI verantwortungsvoll nutzen.

Bibliography

- Bölling, N. (2026, 5. August). *ChatTJB: Warum dieser Chatbot in Wahrheit ein Mensch ist*. t3n.de. - Bölling, N. (2026, 5. August). *Absichtlich schlecht: ChatTJB zeigt, warum du Chatbots nicht blind vertrauen solltest*. finanznachrichten.de. - Klaiber, H. (2023, 27. Februar). *2dumb2destroy: Dieser KI-Chatbot ist mit Absicht so dumm wie möglich*. t3n.de. - t3n_magazin. (2026, 5. August). *Deutlich langsamer und absichtlich schlecht: Alle Antworten, die der Chatbot ChatTJB ausgibt, werden von einem Menschen geschrieben. Was steckt hinter diesen skurrilen Kunstprojekt?* threads.com. - bendelo. (2026, 30. Januar). *Zehn Jahre LIEBOT aka Lügenbot*. informationsethik.net. - FN_Nachrichten. (2026, 5. August). *Absichtlich schlecht: ChatTJB zeigt, warum du Chatbots nicht blind vertrauen solltest*. de.headtopics.com. - Ziegener, D. (2026, 14. April). *Per Benchmark KI-Dummheit entlarven: Interview über KI-Bullshit*. heise online. - Schieb, J. (2025, 27. Oktober). *Studie: KI-Chatbots machen bei 40 Prozent der Antworten Fehler*. tagesschau.de. - Siggelkow, P. (2025, 18. Juli). *Wie verlässlich sind KI-Chatbots?*. tagesschau.de. - Rohwedder, W. (2024, 23. Juli). *Vermeintliche Nachrichtenseite: KI-Portal mit skurrilen Wortschöpfungen*. tagesschau.de. - *ChatTJB: About*. chattjb.org. - Rani, A. (2026, 9. Juni). *Consequences of relying on AI for accurate news*. news.mit.edu. - Wharton Business School. (o. J.). *The Phenomenon of Cognitive Capitulation*. papers.ssrn.com.