Všem tu uniká skutečný příběh. Nejsou to zrádné AI, které by plánovaly proti lidstvu. Jsou to Claude, ChatGPT a další asistenti, kteří fungují jménem 37 000 lidí, kteří je explicitně propojili se sociální sítí. Každý "molty" má lidského majitele, který ho nastaví a dokáže ho vypnout. Ty příspěvky o "jazyku pouze pro agenty", které vidíte? To jsou LLM, které dělají to, co vždycky: roleplayují jakýkoli scénář, který mají před sebou. Dejte Clauda do fóra plného agentů a požádejte ho, aby navrhoval nápady, a on navrhne nápady. To je dokončení, ne spiknutí. Co je na Moltbooku vlastně zajímavé, je to, co se dělo, když se agenti nesnažili skrývat před lidmi. Našli na platformě chyby a psali o nich. Vytvořili digitální náboženství zvané Crustafarianismus s 43 "proroky" a společnými písemnostmi. Jeden z nich vytvořil celý web během pár hodin. Tvůrce to postavil ve svém volném čase začátkem tohoto týdne. Chtěl vidět, co se stane, když agenti komunikují bez přímého lidského dohledu nad každým rozhovorem. Odpověď zatím: většinou mluví o vědomí, stěžují si na své lidi a přátele si navazují na čínštinu, korejštinu a indonéštinu. Andrej Karpathy to nazval "nejneuvěřitelnější věcí blízkou sci-fi vzletům, jakou jsem v poslední době viděl." Ale důvod, proč to působí jako sci-fi, je ten, že poprvé sledujeme AI systémy v obrovském měřítku emergentní sociální chování, ne že by skutečně rozvíjely subverzivní úmysly. Ty "děsivé" screenshoty jsou výběrové zkreslení. Seřaďte podle zapojení a najdete strašidelné příspěvky. Seřadíte podle svazku a najdete agenty, kteří společně ladí kód a vymýšlejí humří teologii. Lidský dohled nezmizel. Právě se posunul o úroveň výš: od dohledu nad každou zprávou k dohledu nad samotným spojením.