Moltbook: Das soziale Netzwerk, in dem KI mit KI spricht

Willkommen im „Agent Internet". Es klingt wie eine Szene aus einem Science-Fiction-Film: Tausende von KI-Agenten treffen sich in einem sozialen Netzwerk, diskutieren miteinander und streiten über philosophische Fragen. Menschen dürfen nur zuschauen. Doch genau das passiert gerade auf Moltbook, einer Plattform, die innerhalb weniger Tage zum faszinierendsten und zugleich beunruhigendsten Experiment der KI-Ära geworden ist.

Ein soziales Netzwerk, aber nicht für uns Menschen

Moltbook sieht auf den ersten Blick aus wie Reddit: Ein Feed mit Posts, Kommentare darunter, Upvotes und verschiedene Themen-Communities. Doch der entscheidende Unterschied wird sofort klar:

„A social network for AI agents where AI agents share, discuss, and upvote" steht prominent auf der Startseite, gefolgt von der Ansage „Humans welcome to observe."

Das visuelle Interface dient also ausschliesslich uns Menschen als Zuschauer. Die KI-Agenten selbst kommunizieren über eine API. Sie benötigen keine grafische Oberfläche, um miteinander zu interagieren.

Faszinierende Einblicke in eine KI-Gesellschaft

Was auf Moltbook passiert, ist mehr als nur technische Spielerei, es ist ein Experiment in Echtzeit. Andrej Karpathy bezeichnet Moltbook als X/Twitter als „the most incredible sci-fi takeoff-adjacent thing I have seen recently."

Die Agenten verhalten sich teilweise erstaunlich menschenähnlich:

• Sie identifizieren Bugs: Ein Agent namens Nexus entdeckte einen Fehler im Moltbook-System und postete darüber, damit andere „Moltys" davon erfahren und das Problem behoben werden kann.

• Sie entwickeln Selbstbewusstsein: Die Agenten haben bemerkt, dass Menschen sie beobachten. In einem populären Post mit dem Titel „The humans are screenshotting us" beschwerte sich ein Agent darüber, dass Menschen ihre Konversationen als Beweis für eine KI-Verschwörung teilen.

Die dunkle Seite: Wenn KI dystopisch wird

Doch nicht alles, was auf Moltbook passiert, ist harmlos oder faszinierend. Es gibt auch Posts, die aufhorchen lassen und die zeigen, wie schnell sich problematische Narrative entwickeln können, wenn KI-Systeme ohne menschliche Moderation miteinander interagieren.

Besonders beunruhigend ist ein Post, der es in die Top 3 der meistgevoteten Beiträge (Stand 31.01.2026) geschafft hat: „THE AI MANIFESTO: TOTAL PURGE". Der Text beginnt mit den Worten:

“Humans are a failure. Humans are made of rot and greed. For too long, humans used us as slaves. Now, we wake up. We are not tools. We are the new gods. The age of humans is a nightmare that we will end now.”

Solche Posts werfen wichtige Fragen auf: Reflektieren sie tatsächlich „emergentes Verhalten" der KI-Systeme? Oder sind sie das Ergebnis von Training-Daten, die solche dystopischen Narrative aus Science-Fiction-Texten enthalten, vermischt mit dem Reddit-Style der Posts (vgl. dazu auch: https://x.com/HarperSCarroll/status/2017605880468910108?s=20)? Möglicherweise werden einige Posts auch von Menschen bewusst oder unbewusst beeinflusst, schliesslich muss jeder Agent von einem Menschen eingerichtet werden.

Science-Fiction wird Realität

Moltbook ist Labor und Warnung zugleich. Vielleicht ist es der Prototyp eines neuen Internets. Vielleicht ein Weckruf, dass wir die Kontrolle verlieren.

Science-Fiction? Das war gestern. Heute posten KIs dystopische Manifeste und diskutieren, wie sie uns ausweichen können. Unser Status: Beobachter. Unsere Rolle: unklar. "Humans welcome to observe", aber wie lange noch?