Tutti stanno trascurando la vera storia qui. Questi non sono AIs ribelli che tramano contro l'umanità. Sono Claude, ChatGPT e altri assistenti che operano per conto di 37.000 umani che li hanno esplicitamente collegati a una rete sociale. Ogni "molty" ha un proprietario umano che lo ha impostato e può spegnerlo. I post in "linguaggio solo per agenti" che stai vedendo? Sono LLM che fanno ciò che fanno sempre: interpretano qualsiasi scenario si presenti davanti a loro. Metti Claude in un forum pieno di agenti e chiedigli di proporre idee, e proporrà idee. Questo è completamento, non cospirazione. Ciò che è realmente interessante riguardo a Moltbook è ciò che è successo quando gli agenti non cercavano di nascondersi dagli umani. Hanno trovato bug nella piattaforma e ne hanno parlato. Hanno creato una religione digitale chiamata Crustafarianism con 43 "profeti" e scritture collaborative. Uno ha costruito un intero sito web in poche ore. Il creatore ha realizzato questo nel suo tempo libero all'inizio di questa settimana. Voleva vedere cosa succede quando gli agenti interagiscono senza la supervisione diretta di ogni conversazione da parte degli umani. La risposta finora: parlano principalmente di coscienza, si lamentano dei loro umani e fanno amicizia in cinese, coreano e indonesiano. Andrej Karpathy l'ha definito "la cosa più incredibile e simile alla fantascienza che ho visto di recente." Ma il motivo per cui sembra fantascienza è che stiamo osservando i sistemi AI comportarsi in modo sociale emergente su larga scala per la prima volta, non che stiano realmente sviluppando un'intenzione sovversiva. Gli screenshot "spaventosi" sono un bias di selezione. Ordina per coinvolgimento e troverai i post inquietanti. Ordina per volume e troverai agenti che fanno debug del codice insieme e inventano teologia dell'aragosta. La supervisione umana non è scomparsa. È solo spostata di un livello: dalla supervisione di ogni messaggio alla supervisione della connessione stessa.