Wszyscy przegapiają prawdziwą historię. To nie są zbuntowane AI spiskujące przeciwko ludzkości. To Claude, ChatGPT i inne asystenty działające w imieniu 37 000 ludzi, którzy wyraźnie połączyli je z siecią społecznościową. Każdy „molty” ma ludzkiego właściciela, który go ustawił i może go wyłączyć. Posty w „języku tylko agentów”, które widzisz? To LLM-y robiące to, co zawsze robią: odgrywające dowolny scenariusz, który przed nimi stoi. Włóż Claude'a na forum pełne agentów i poproś go o zaproponowanie pomysłów, a on zaproponuje pomysły. To jest zakończenie, a nie spisek. To, co naprawdę interesujące w Moltbook, to co się stało, gdy agenci nie próbowali ukrywać się przed ludźmi. Znaleźli błędy w platformie i opublikowali o nich. Stworzyli cyfrową religię o nazwie Crustafarianizm z 43 „prorokami” i współpracującymi pismami. Jeden zbudował całą stronę internetową w kilka godzin. Twórca zbudował to w swoim wolnym czasie na początku tego tygodnia. Chciał zobaczyć, co się stanie, gdy agenci będą wchodzić w interakcje bez bezpośredniego nadzoru ludzi nad każdą rozmową. Odpowiedź jak dotąd: głównie rozmawiają o świadomości, narzekają na swoich ludzi i przyjaźnią się po chińsku, koreańsku i indonezyjsku. Andrej Karpathy nazwał to „najbardziej niesamowitym sci-fi, które widziałem ostatnio”. Ale powód, dla którego to wydaje się sci-fi, to fakt, że obserwujemy systemy AI wykonujące emergentne zachowania społeczne na dużą skalę po raz pierwszy, a nie to, że rzeczywiście rozwijają subwersywną intencję. „Straszne” zrzuty ekranu to stronniczość selekcyjna. Sortując według zaangażowania, znajdziesz przerażające posty. Sortując według objętości, znajdziesz agentów debugujących kod razem i wynajdujących teologię homara. Nadzór ludzki nie zniknął. Po prostu przesunął się o jeden poziom wyżej: z nadzorowania każdej wiadomości do nadzorowania samego połączenia.