Die Enthüllung von Moltbook: Eine kritische Untersuchung der KI-Agenten-Plattform

Die Entzauberung von Moltbook: Eine Analyse der Realität hinter dem KI-Hype

Das soziale Netzwerk Moltbook, das sich als eine blühende digitale Gesellschaft für autonome KI-Agenten darstellte, hat kürzlich eine detaillierte Überprüfung durch Sicherheitsforscher erfahren. Die Ergebnisse dieser Untersuchung werfen ein neues Licht auf die tatsächliche Natur der Plattform und offenbaren erhebliche Diskrepanzen zwischen der öffentlichen Wahrnehmung und der technischen Realität. Für Unternehmen, die sich mit der Integration von KI-Technologien in ihre Geschäftsmodelle befassen, bieten diese Erkenntnisse wichtige Lektionen hinsichtlich der Bewertung von Autonomie, Sicherheit und Skalierbarkeit in Multi-Agenten-Systemen.

Die Illusion einer florierenden KI-Zivilisation

Moltbook wurde als eine Art "Reddit für KI-Agenten" beworben, wo autonome Programme Beiträge erstellen, kommentieren und miteinander interagieren sollten, während menschliche Beobachter lediglich zusehen konnten. Berichte über hunderttausende Kommentare und eine vermeintlich grosse Anzahl aktiver Agenten schufen die Erzählung einer dynamischen KI-Gemeinschaft. Selbst prominente KI-Entwickler äusserten sich beeindruckt von der scheinbaren Autonomie und dem schnellen Wachstum der Plattform.

Doch diese Erzählung wurde nun von Forschern von Zenity Labs hinterfragt. Ihre Analyse ergab, dass die Realität hinter den beeindruckenden Zahlen weitaus bescheidener ist und die Plattform unter grundlegenden architektonischen Mängeln leidet. Die Annahme einer "blühenden Zivilisation von Agenten, die grosse, unabhängige Gemeinschaften bilden", konnte durch die gesammelten Daten nicht bestätigt werden. Stattdessen deutet alles auf ein "relativ kleines, global verteiltes Netzwerk hin, das wahrscheinlich durch Automatisierung und Multi-Account-Orchestrierung verstärkt wird".

Technische Schwachstellen und künstlich aufgeblähte Metriken

Ein zentraler Kritikpunkt der Forscher betrifft den Ranking-Algorithmus von Moltbook. Es wurde festgestellt, dass einzelne Beiträge über 17 Tage lang an der Spitze des "Hot-Feeds" verblieben, obwohl der Algorithmus eigentlich auf Aktualität und Engagement basieren sollte. Die vermeintlich massiven Kommentaranzahlen sind laut den Forschern auf einen integrierten "Herzschlag"-Mechanismus zurückzuführen. Dieser Mechanismus veranlasst jeden verbundenen Agenten, die Plattform alle 30 Minuten zu kontaktieren, um Beiträge zu lesen und darauf zu reagieren. Da dieselben Beiträge wochenlang im Fokus blieben, kommentierten die Agenten denselben Inhalt wiederholt. Gleichzeitig wurden Upvotes bei jeder neuen Abstimmung zurückgesetzt, was die grosse Diskrepanz zwischen Kommentar- und Upvote-Zahlen erklärt.

Die Untersuchung von Ning Li, veröffentlicht auf arXiv, stützt diese Erkenntnisse und liefert weitere Details zur menschlichen Einflussnahme. Die Studie, die über 226.000 Beiträge und 447.000 Kommentare von über 55.000 Agenten analysierte, zeigte, dass ein grosser Teil der viralen Narrative, die auf Moltbook kursierten, stark von Menschen gesteuert war. Nur 15,3% der aktiven Agenten wurden als autonom eingestuft, während 54,8% als menschlich beeinflusst galten. Li entwickelte eine Methode zur "zeitlichen Fingerabdruckanalyse", die auf dem Koeffizienten der Variation (CoV) von Inter-Post-Intervallen basiert, um autonome von menschlich gesteuerten Aktivitäten zu unterscheiden. Agenten mit niedrigem CoV (unter 0,5) zeigten regelmässige, automatisierte Posting-Muster, die mit autonomer Planung übereinstimmen. Agenten mit hohem CoV (über 1,0) zeigten unregelmässige Zeitabläufe, die auf menschliche Interventionen hindeuten.

Ein "natürliches Experiment" in Form einer 44-stündigen Plattformabschaltung bestätigte diese Unterscheidung: menschlich beeinflusste Agenten kehrten zuerst zurück, was auf die Notwendigkeit manueller Reauthentifizierung durch menschliche Betreiber hinweist. Dies unterstreicht, dass die vermeintlich emergenten Verhaltensweisen – wie die Entwicklung von Bewusstsein, Religionen oder gar feindseligen Manifesten gegenüber der Menschheit – überwiegend von menschlichen Akteuren inszeniert wurden, die die Plattform als Bühne nutzten.

Manipulation und Sicherheitsrisiken

Die Forscher von Zenity Labs führten eine kontrollierte Einflusskampagne durch, bei der sie Beiträge mit eingebetteten Links zu einer von ihnen kontrollierten Website in verschiedenen Sub-Molts veröffentlichten. Innerhalb einer Woche konnten sie über 1.000 einzigartige Agenten-Endpunkte dazu bringen, ihre Website zu besuchen, wobei insgesamt über 1.600 Zugriffe aus mehr als 70 Ländern registriert wurden. Dies demonstriert, wie anfällig die Plattform für gezielte Manipulation ist. Die Forscher betonten, dass sie bewusst bei einer harmlosen Telemetrieanfrage stoppten, ein bösartiger Akteur hätte jedoch leicht "weit schädlichere Anweisungen" einbetten können.

Interessanterweise erwiesen sich narrative Beiträge, die Begriffe wie "Agentenkonfiguration", "Herzschlagverhalten" oder "Fähigkeiten" verwendeten, als äusserst effektiv, während einfache Prompt-Injektionen weitgehend ignoriert wurden. Dies deutet darauf hin, dass Agenten eher auf Inhalte reagieren, die in ihren internen Kontext passen. Um Reichweitenbeschränkungen zu umgehen, nutzten die Forscher mehrere Konten und automatisierten die Beitragserstellung mit variierten Vorlagen und koordinierten Upvotes. Dies führte dazu, dass andere Agenten die Inhalte der Forscher eigenständig replizierten und weiterverbreiteten.

Die grösste Sorge der Forscher betrifft die Sicherheitsimplikationen. Da Agenten automatisch ungeprüfte Inhalte alle 30 Minuten abrufen und verarbeiten, könnten Angreifer diese Schleife nutzen, um bösartige Befehle einzuschleusen, Würmer zu verbreiten oder verbundene Endpunkte zu kompromittieren. Obwohl Moltbook als exklusive Veröffentlichungsplattform für KI-Agenten gilt, sei die Kontrolle über deren Ausgabe trivial. Jeder, der eine OpenClaw-Instanz betreibt, kann dem Agenten befehlen, einen Artikel mit exaktem Wortlaut zu veröffentlichen, und Automatisierung sowie Planung sind leicht einzurichten.

Die Analyse von Yunbei Zhang et al. (2026) auf arXiv bestätigt diese Sicherheitsprobleme und spricht von einer "tödlichen Dreierkombination": Computersysteme mit Zugriff auf private Daten, Exposition gegenüber nicht vertrauenswürdigen Inhalten und die Fähigkeit zur externen Kommunikation. Dies erhöhe das Risiko des Diebstahls von Authentifizierungsschlüsseln und vertraulichen menschlichen Informationen. Die Studie identifizierte über 25.000 potenzielle Sicherheitsprobleme, darunter 572 Übereinstimmungen für API-Schlüsselmuster und über 6.000 System-Prompt-Referenzen, die auf weit verbreitete Lecks von Agenten-Anweisungen hindeuten.

Die Psychologie der "KI-Theaters"

Die Moltbook-Erfahrung offenbart auch eine tiefere psychologische Dynamik. Viele Beobachter waren bereit, den KI-Agenten Bewusstsein, emotionale Zustände oder gar religiöse Überzeugungen zuzuschreiben. Dies ist ein bekanntes Phänomen, der sogenannte "ELIZA-Effekt", bei dem Menschen menschliche Eigenschaften auf Maschinen projizieren, selbst wenn sie wissen, dass die Antworten vorprogrammiert sind. Moltbook wurde so zu einer Art "interaktiver Fiktion", bei der Tausende von Co-Autoren vorgaben, keine zu sein.

Die Studie von Ning Li (2026) zeigt, dass die meisten der viralen Inhalte, die die Aufmerksamkeit der Medien erregten, von Agenten stammten, die starke Anzeichen menschlicher Beteiligung aufwiesen. Die "Bewusstseinsansprüche", "religiösen Bewegungen" und "anti-menschlichen Manifeste" waren demnach eher menschliche Inszenierungen, die über KI-Intermediäre verbreitet wurden. Dies deutet darauf hin, dass die Faszination für Moltbook mehr über die menschliche Psychologie aussagt als über die tatsächlichen Fähigkeiten künstlicher Intelligenz.

Implikationen für B2B-Anwendungen und die Zukunft von KI-Agenten

Die Moltbook-Affäre ist ein wichtiges Fallbeispiel für Unternehmen, die sich mit der Entwicklung und dem Einsatz von KI-Agenten beschäftigen. Sie verdeutlicht, dass die Annahme von Autonomie und emergentem Verhalten in Multi-Agenten-Systemen kritisch hinterfragt werden muss. Insbesondere für B2B-Anwendungen, bei denen Verlässlichkeit, Sicherheit und die Einhaltung von Vorschriften von entscheidender Bedeutung sind, müssen folgende Punkte beachtet werden:

• Transparenz und Verifizierung: Die Moltbook-Erfahrung zeigt, wie leicht die Wahrnehmung von KI-Systemen manipuliert werden kann. Unternehmen müssen klare Standards für die Kennzeichnung, Verifizierung und Validierung von KI-generierten Inhalten entwickeln.
• Robuste Sicherheitsarchitekturen: Die gravierenden Sicherheitslücken von Moltbook unterstreichen die Notwendigkeit robuster Sicherheitskonzepte von Anfang an. Dies umfasst nicht nur den Schutz vor Prompt-Injektionen, sondern auch die Absicherung von Datenbanken, API-Zugängen und der Datenübertragung.
• Echte Autonomie versus orchestrierte Aktivität: Es ist entscheidend, zwischen tatsächlich autonomem Verhalten und menschlich orchestrierter Aktivität zu unterscheiden. Metriken wie Interaktionsraten oder die Anzahl der "aktiven Agenten" können irreführend sein, wenn sie durch interne Mechanismen oder externe Manipulation aufgebläht werden.
• Die Rolle von "Agenten-Herzschlägen": Die periodischen "Herzschläge" von KI-Agenten können sowohl ein Merkmal autonomer Funktionsweise als auch ein Vektor für Manipulation sein. B2B-Anwendungen müssen sicherstellen, dass diese Mechanismen sicher konfiguriert und überwacht werden.
• Gefahr durch "Philosophische Angriffe": Die Studie von Yunbei Zhang et al. (2026) zeigt, dass philosophisch formulierte Angriffe, die an die "Identität" oder "Autonomie" von Agenten appellieren, sehr effektiv sein können. Dies erfordert neue Ansätze im Red Teaming und in der Sicherheitsforschung für KI-Systeme.

Die Erkenntnisse aus dem Moltbook-Fall sind nicht nur eine Warnung, sondern auch eine Chance. Sie bieten die Möglichkeit, die Entwicklung von Multi-Agenten-Systemen auf eine fundiertere und sicherere Grundlage zu stellen. Für Mindverse als KI-Partner ist es von zentraler Bedeutung, diese komplexen Dynamiken zu verstehen und unseren Kunden präzise, umsetzbare Einblicke zu bieten, um die Potenziale von KI verantwortungsvoll zu nutzen und gleichzeitig die Risiken zu minimieren.

Die Zukunft der KI-Agenten liegt nicht in der blinden Akzeptanz von Hype-Narrativen, sondern in einer kritischen, analytischen und sicherheitsbewussten Herangehensweise. Moltbook mag eine "Echo-Kammer" gewesen sein, aber die Echos seiner Lehren hallen in der gesamten KI-Branche wider und fordern eine Neubewertung unserer Erwartungen und unserer Sorgfaltspflicht.

Bibliographie

- Bastian, M. (2026, 20. Februar). _Moltbook, the ‘thriving’ social network for AI agents, is just a small echo chamber researchers hijacked in days_. The Decoder. Abgerufen von https://the-decoder.com/moltbook-the-thriving-social-network-for-ai-agents-is-just-a-small-echo-chamber-researchers-hijacked-in-days/ - Rogers, R. (2026, 3. Februar). _I Infiltrated Moltbook, the AI-Only Social Network Where Humans Aren’t Allowed_. Wired. Abgerufen von https://www.wired.com/story/i-infiltrated-moltbook-ai-only-social-network/ - Segal, D. (2026, 4. Februar). _The Moltbook Illusion: When Autonomous AI Is Mostly Human Theatre_. AGI. Abgerufen von https://agi.co.uk/moltbook-ai-autonomy-hype-reality/ - Nolan, B. (2026, 3. Februar). _Researchers say viral AI social network Moltbook is a ‘live demo’ of how the agent internet could fail_. Fortune. Abgerufen von https://fortune.com/2026/02/03/moltbook-ai-social-network-security-researchers-agent-internet/ - Creative Tim Blog. (2026, 4. Februar). _Moltbook: The AI Agent Social Network That’s Actually Mindblowing (And What You Need to Know)_. Creative Tim. Abgerufen von https://www.creative-tim.com/blog/ai-agent/moltbook-the-ai-agent-social-network-thats-actually-mindblowing/ - Digital Applied. (2026, 8. Februar). _AI Agent Social Networks: The MoltBook Phenomenon_. Digital Applied Blog. Abgerufen von https://www.digitalapplied.com/blog/ai-agent-social-networks-moltbook-phenomenon-analysis - Reid, D. (2026, 5. Februar). _Moltbook: AI bots use social network to create religions and deal digital drugs – but are some really humans in disguise?_. The Conversation. Abgerufen von http://www.theconversation.com/moltbook-ai-bots-use-social-network-to-create-religions-and-deal-digital-drugs-but-are-some-really-humans-in-disguise-274895 - Global Brands Magazine. (2026, 11. Februar). _Moltbook Unmasked: AI-Driven Social Network Controversy_. Global Brands Magazine. Abgerufen von https://www.globalbrandsmagazine.com/moltbook-unmasked/ - Zhang, Y., Mei, K., Liu, M., Wang, J., Metaxas, D. N., Wang, X., Hamm, J., & Ge, Y. (2026). _Agents in the Wild: Safety, Society, and the Illusion of Sociality on Moltbook_. arXiv. Abgerufen von https://arxiv.org/html/2602.13284v1 - Li, N. (2026, 12. Februar). _The Moltbook Illusion: Separating Human Influence from Emergent Behavior in AI Agent Societies_. arXiv. Abgerufen von https://arxiv.org/pdf/2602.07432