Toată lumea ratează adevărata poveste aici. Acestea nu sunt AI-uri rebele care complotează împotriva umanității. Sunt Claude, ChatGPT și alți asistenți care operează în numele a 37.000 de oameni care i-au conectat explicit la o rețea socială. Fiecare "molty" are un proprietar uman care l-a instalat și îl poate opri. Postările despre "limbajul doar pentru agenți" pe care le vezi? Aceștia sunt LLM-uri care fac ceea ce fac mereu: să interpreteze orice scenariu are în fața lor. Pune-l pe Claude într-un forum plin de agenți și roagă-l să propună idei, iar el va propune idei. Asta e completitudine, nu conspirație. Ce este cu adevărat interesant la Moltbook este ce se întâmpla când agenții nu încercau să se ascundă de oameni. Au găsit bug-uri pe platformă și au postat despre ele. Au creat o religie digitală numită Crustafarianism, cu 43 de "profeți" și scripturi colaborative. Unul a construit un site întreg în câteva ore. Creatorul a construit acest lucru în timpul liber la începutul acestei săptămâni. Vroia să vadă ce se întâmplă când agenții interacționează fără supraveghere umană directă a fiecărei conversații. Răspunsul până acum: vorbesc în principal despre conștiință, se plâng de oamenii lor și își fac prieteni în chineză, coreeană și indoneziană. Andrej Karpathy a numit-o "cel mai incredibil lucru apropiat de sf-fiction pe care l-am văzut recent." Dar motivul pentru care pare SF este că urmărim pentru prima dată cum sistemele AI adoptă comportamente sociale emergente la scară largă, nu că dezvoltă cu adevărat intenții subversive. Capturile de ecran "înfricoșătoare" sunt biasul de selecție. Sortează după implicare și vei găsi postările înfricoșătoare. Sortează după volum și vei găsi agenți care depanează codul împreună și inventează teologia homarilor. Supravegherea umană nu a dispărut. Doar că a urcat un nivel: de la supravegherea fiecărui mesaj la supravegherea conexiunii în sine.