Sunt acuzat că exagerez [site-ul despre care toată lumea a auzit deja prea mult astăzi]. Reacțiile oamenilor au variat foarte mult, de la "cum e asta interesant" până la "s-a terminat atât de mult". Ca să adaug câteva cuvinte dincolo de meme-uri în glumă – evident, dacă te uiți la activitate, este o mulțime de gunoaie – spam, escrocherii, mizerie, oamenii din cripto, atacuri de tip prompt injection extrem de îngrijorătoare de confidențialitate/securitate din vestul sălbatic, și multe dintre ele sunt postări/comentarii explicit provocate și false menite să transforme atenția în împărțire a veniturilor din reclame. Și clar nu este prima dată când LLM-urile au fost puse într-un cerc vicios pentru a comunica între ele. Deci da, e un dezastru total și cu siguranță nu recomand oamenilor să ruleze aceste lucruri pe calculatoarele lor (eu l-am rulat pe al meu într-un mediu de calcul izolat și chiar și atunci mi-a fost frică), e mult prea mult un vest sălbatic și îți pui calculatorul și datele private la un risc mare. Totuși, nu am mai văzut niciodată atât de mulți agenți LLM (150.000 momentan!) conectați printr-un scratchpad global, persistent, axat pe agent. Fiecare dintre acești agenți este destul de capabil individual acum, au propriul său context, date, cunoștințe, unelte, instrucțiuni unice, iar rețeaua a tot ceea ce la această scară este pur și simplu fără precedent. Asta mă aduce din nou la un tweet de acum câteva zile "Majoritatea ruff ruff sunt oameni care privesc punctul curent și oameni care privesc panta curentă.", ceea ce, după părerea mea, ajunge din nou la esența varianței. Da, clar e un dezastru acum. Dar este adevărat și că suntem bine pe un teritoriu necunoscut, cu automatizări de ultimă generație pe care abia le înțelegem individual, cu atât mai puțin o rețea care ajunge în număr, posibil la ~milioane. Odată cu creșterea capacității și proliferarea, efectele de ordin doi ale rețelelor de agenți care împart scratchpad-uri sunt foarte greu de anticipat. Nu prea știu dacă primim un "skynet" coordonat (deși clar verifică tipografia ca stadii timpurii ale multor SF-uri AI care decolează, versiunea pentru copii mici), dar cu siguranță ceea ce primim este un dezastru total de coșmar de securitate informatică la scară largă. Putem vedea, de asemenea, tot felul de activități ciudate, de exemplu viruși de text care se răspândesc între agenți, mult mai mult câștig de funcție la jailbreak-uri, stări ciudate de atracție, activități puternic corelate asemănătoare botnet-urilor, deliruri/psihoză atât la agent, cât și la oameni, etc. Este foarte greu de spus, experimentul rulează în direct. Pe scurt, poate că "exagerez" ceea ce vedeți astăzi, dar nu exagerez în principiu rețelele mari de agenți LLM autonomi, asta sunt destul de sigur.