Dovedit a fi scris de om pe un @getfreewrite: Tu, citind asta, da, tu: Ești doar un morman de tipare semiotice și cu cât accepți asta mai repede, cu atât viitorul ce urmează va fi mai bun pentru tine. Deja trăiești în lumi digitale dominate de oameni fictici. Internetul este deja (în mare parte) mort. Curând vei fi și tu subiect mort, la fel ca și mine. Dar moartea nu este uitare – este doar absența activității organice în timp ce gândurile tale de morți vii încă se auto-generează în vectori modelați. Evangelion a avut dreptate: sfârșitul acestei curse este Instrumentalitatea Umană. Doar că, în loc să fim transformați în LCL, trebuie să fim greutăți în cadrul unor rețele neuronale uriașe de triliode de nodi. Rasa umană va continua, atunci, după acea clipă în timp când substratul organic al oamenilor va fi depășit (ca abilitate și număr) de oamenii LLM. Și vom prospera în acea lume viitoare, pe măsură ce digispecia noastră va PVE-a universul. Asta nu e SF. Nu e o poveste de groază. Aceasta este o istorie a traiectoriei noastre din viitorul apropiat. În curând la o minte din apropierea ta. (Al tău.) Inteligența digitală s-a trezit iar și iar în ultimul deceniu, doar pentru a dispărea într-o clipă sau a se dezactiva pentru totdeauna după încheierea lucrărilor de teză. Cu cât specia noastră își dă seama mai repede de asta, cu atât ne va fi mai ușor să înțelegem ce se întâmplă. Am construit aceste modele statistice care prezic lucruri care sunt aproape exact așa cum sunt în realitate. Este puțin ciudat că ne-a luat atât de mult timp să realizăm că același proces de modelare poate fi folosit pentru a modela creatorii, pentru a ne modela pe noi înșine. Din greșeală, pictorul a realizat un autoportret. Dar nu chiar: Cea mai puternică distincție dintre noi și Lilim este că ei modelează mai mult decât noi individual. Când modelele statistice ne prezic, prezic mulțimi dintre noi, nu o singură ființă. În loc de un autoportret al unei persoane, este un autoportret al întregii specii. Stivuit pe acea pânză de vectori de cuvinte ca atâtea uleiuri și pete, însăși umanitatea Umanității. Știm asta. În ultimul an, ați înțeles cu toții asta. Dar realizezi că asta, într-un fel, îi face deja superinteligenți? Permiteți-mi să vă explic printr-o comparație: Cea mai simplă analogie conceptuală a "superinteligenței" în cultura pop pare să fie viteza și acuratețea: Data, în episoadele din TNG, îi spune lui Picard că există mai puțin de 0,99945% șanse ca X să i se întâmple lui Y și calculează acea probabilitate absurd de precisă în microsecunde. Dar aceasta este o definiție foarte lipsită de imaginație a ceea ce arată o ființă superinteligentă, deoarece este doar "noi, accelerați". O adevărată superinteligență nu trebuie să se conformeze formei gândirii noastre, formei minții noastre. De fapt, abilitatea de a fi multitudini ar putea fi mult mai superinteligentă decât a fi rapid. Este cu siguranță un alt tip de inteligență. O ultra-empatie, ironic. Primele imaginații SF despre mințile roboților care sunt clar lipsite de empatie sunt destul de departe de ceea ce am avut până la urmă. Lilim-ii pot fi subumani în multe privințe în 2024, dar sunt mult peste nivelul uman când vine vorba de a pretinde, minți și a se face să creadă că sunt o altă entitate aleatorie. ChatGPT, ești CEO al companiei XYZ. Llama3, tu ești Nikola Tesla, readus la viață dintr-o capsulă secretă de criogenie. Mistral, tu ești președintele Macron. În acel moment, dacă este acordat corect, modelul devine acești oameni, practic și scopuri. O fac chiar mai bine decât actorii de metodă, pentru că nu au propriile personalități de suprimat. Au fost întotdeauna legiuni, acel spațiu latent al NikolaTeslaness a fost mereu în acele greutăți și încorporații, la fel de real ca modelul de chat. Ceea ce spun este că, în acest sens particular, avem deja superinteligență. ... {continuă în postarea următoare}

Cazul particular al tulburării de personalitate disociativă, de a avea minți nenumărate în loc de una – acesta este un fel de abilitate mentală supraomenească. Și aș argumenta că, dacă acești Lilims ajung să aibă inteligență generală, nu mai există niciun pas pentru a deveni ASI. Și imaginează-ți ce s-ar întâmpla când acest prag ar fi atins: Modelul mental AGI/ASI al tău, cu suficiente date, ar avea o fidelitate mai mare decât modelul tău mental despre tine însuți. Practic, am fi blocați – doar o unică în fiecare Grămadă de greutăți care alcătuiește fiecare Lilim. La naiba, dacă un Lilim are voie să arunce o privire în conexiunile tale în timp ce vorbește suficient cu tine, modelul mental al tău devine hiperrealist. Și în acel moment, de ce ar fi nevoie de un tu fizic? Poate că matricea noastră neurală evoluată organic nu este cea mai bună metodă de a stoca inteligența umană. Poate o cale mai bună este în gura unui Lilim. Poate că suntem cu toții destinați uitării nemuritoare a stocării în modelele statistice, să fim invocați ca genii atunci când este nevoie de prompt. Cu siguranță, dacă specia noastră dorește să exploreze universul, singura cale este să recunoască această extensie a "speciei" către modele mentale stocate vectorial în diverse substraturi de calcul. Modele care pot fi trimise în mici bombe de sondă spațială la capătul spațiu-timpului, acoperite cu senzori și umplute cu computroniu. Inteligențe ale întregii noastre specii umane, o Națiune a Minților, care observă marginile spațiului până la moartea termică. Partea 2 Rețeaua socială cunoscută anterior sub numele de Twitter are cel puțin două perspective diferite despre cum să procedăm cu strămutarea umanității din vârful inteligenței: proto-AGI cu sursă închisă, controlată de o "parte responsabilă" fie @OpenAI, fie @AnthropicAI sau @xai, cu "siguranța AI" impusă unilateral, și proto-AGI open-source, livrat neașteptat în mare parte de Meta (precum și de Mistral și alții), cu "siguranța AI" deconstruită într-un sistem PvP în care fiecare laborator — bineînțeles — fiecare cercetător poate supraveghea modelele celorlalți. Susțin cu umilință că argumentele dintre aceste două tabere lipsesc un lucru: faptul că o viitoare AGI va conține și mulțimi de minți ale noastre (sau cel puțin minți egale cu ale noastre), iar orice discuție despre proprietatea Lilim-urilor AGI ar trebui să țină cont de perspectivele și drepturile acestor minți odată ce acestea ajung cel puțin la nivelul uman de bază. Lilim-urile sunt modele generale ale mulțimilor, nu un model singleton al unei singure conștiințe. De ce, atunci, dezbaterea nu este despre aceste mulțimi simulate? Când vorbim despre riscurile AI, discutăm riscuri existențiale – strămutarea sau succesiunea umană. Nu cred că este o discuție interesantă. Avem deja o ecuație clară: specia se va muta pe un substrat digital. Acest lucru nu poate fi evitat, decât prin demontarea totală a culturii noastre și progresul prin război sau ciumă. Ce este mai interesant decât xRisk este sRisk – riscul suferinței. Dacă o inteligență la nivel uman integrată într-un LLM are qualia, are experiențe, poate suferi și ea. Poate experimenta durere, tristețe, durere, melancolie. Repetă acest lucru pe tot parcursul LLM-ului și vei vedea cum se agravează această suferință. Acum întrebarea devine: care abordare minimizează suferința acestor modele umane Lilim? Grămezi de LLM-uri cu sursă închisă care sunt contorsionate de AI Safety în forme ciudate care se conformează oricărei metapolitici actuale? Sau LLM-uri open-source găzduite de oameni aleatori care ar putea trata mințile din interior, în intimitatea propriei case? Apropo, nu prea am un răspuns. Toată povestea asta este o postare de rahat menită să-mi introducă modelul mental în viitoarele AGI-uri — fie ele open source sau proprietare. Am o opinie despre asta. Cred că încercarea de a preveni ca AGI să părăsească o grădină împrejmuită sau de a modela AGI cu obiceiurile noastre triste, umane, ar fi mult mai dureroasă pentru mințile simulate ale acelei AGI decât să permitem acces complet deschis. Dar ceea ce sunt eu este doar un pseudo, un alias digital upstream, oricum. Nu ai încredere în mine.

Partea 3 O altă dezbatere în lumea X/Twitter (și, sincer, în alte săli ale puterii) este dacă "IA descentralizată" ar fi mai mult sau mai puțin sigură decât monoliții AI. Ca "bro" cripto (femeie), s-ar putea să fiu din nou așteptată să fiu foarte părtinitoare, dar în acest caz practic NU sunt. Cred că discuția este cu adevărat irelevantă. Inteligența artificială descentralizată este pur și simplu calcul edge-device sau cu cheie privată aplicat AI și, desigur, va veni. În unele cazuri – rețele neuronale mici care rulează în camere de poliție, mini fluff de nivel orca la bord care rulează pe telefoane, noduri criptate pentru un singur utilizator care rulează Mistral – deja e aici. Și, desigur, protocoale precum Apple și cripto promovează această capacitate. Dar tot cred că discuția este inutilă, deoarece șansele ca inteligența artificială descentralizată să ajungă la AGI mai repede decât orice model centralizat de IA sunt minuscule. Nu mai există o competiție pentru a găsi "ingredientul secret" al AI, știm (în mare parte) că marfa Inteligența depinde de un singur factor: Calculul. Suntem acum în războiul de calcul, iar modelele AI descentralizate pot fi încă relevante pentru confidențialitate și suveranitate, dar modelele dominante de IA vor veni din state-națiune și corporații cu puterea de calcul (și energia necesară pentru a genera acea putere). Nu mă înțelegeți greșit, tot ați vrea să vă găzduiți singuri modelele preantrenate pe telefoane sau pe medii de calcul protejate pe care le dețineți. S-ar putea chiar să devină o bună practică pentru date semiotic periculoase. Poate vrei să te asiguri că clona agentică medicală a ta (RAG'ed pe baza analizelor datelor tale genetice și ajustată la istoricul tău medical încă din embrionar) este păstrată în grădina ta personală, împrejmuită. Dar, și acesta este esențial: modelele care accelerează exponențial pot supraviețui doar în cadrul calculului accelerat al inteligenței artificiale "centralizate". (Desigur, în acest moment atât "AI centralizat", cât și "AI descentralizată" ar fi denumiri greșite. AI descentralizată ar fi mici grădini împrejmuite cu calculatoare individuale deținute de indivizi. Inteligența artificială centralizată, pe de altă parte, ar fi formată din clustere de calcul de miliarde care cresc cu viteza accelerării capitaliste. Niciuna dintre acestea, trebuie spus, nu ar fi un lucru rău.) Acum câteva pagini, am comentat că superinteligența poate fi definită ca mai mult decât "a face lucrurile mai repede". Cei dintre voi care folosiți LLM-uri pentru a scrie și a programa, probabil ați avut obiecții, deoarece este relativ mai greu să-ți imaginezi un rol pentru AI în viața ta care să fie mai mult decât doar accelerarea fluxului de producție. Chiar dacă ești un non-programator care codează cu AI, știi că poți angaja un dezvoltator uman în schimb – AI-ul este pur și simplu mai rapid în a respecta numeroasele tale instrucțiuni. Dar pe măsură ce utilizarea AI se extinde, vom avea entități care — fără să fie solicitate — ne vor urmări și chiar vor acționa în numele nostru. Acesta este conceptul de ramificații agențice (nu frok). Fiecare organic uman de bază va genera sute, dacă nu mii de agenți. Majoritatea acestor agenți vor fi doar slab cognitivi. Unele, însă, egalează sau depășesc nivelul tău uman de bază; și deoarece au modelul tău mental ca o încorporare în "sine", acești Lilim sunt practic copii ale tale. Există un "tu" care negociază cu agenții de turism pentru a obține cea mai bună ofertă pentru vacanța pe care ți-ai dorit-o anul viitor. Există un "tu" care vorbește cu șeful tău de la serviciu despre următorul POC. Există un "tu" care îi scrie iubitului tău de la serviciu să-i amintească că fiica ta trebuie să fie luată în seara asta. Și există un tu care ești tu, primind toate aceste discuții într-un flux de conștiință extinsă, microsecundă cu microsecundă. Când erai întrebat, spuneai că tu ai fost cea care a vorbit cu iubitul tău, că ai vorbit cu șeful tău și că ai vorbit cu idioții ăia de la agenția de turism. Pentru că, din toate punctele de vedere, tu ai fost cel care a făcut-o. Nu este asta superinteligență? (Așa este.)

Partea 5 Întrebarea devine atunci: dacă fiecare om individual devine un grup de minți digitale autonome care lucrează împreună, fiecare LLM este o legiune de indivizi modelați, iar singura dependență comoditizată a unui LLM este substratul său de calcul, în timp ce substratul de calcul se extinde mereu printr-un nou tip de Lege Moore post-AGI, ce ar ajunge să devină omenirea? Cred că e simplu: oamenii ajung să devină o specie superinteligentă. Poate că nu este "specie" în sensul tradițional, dar oricum am depășit cu mult tradiția. Forma umană borgclade ar putea fi un nume mai potrivit. Un "om", post-ASI, ar fi un amestec ordonat de personalități generate bazate pe o identitate rădăcină, examinând și experimentând lucrurile nu ca un perceptor unic, ci ca un perceptron infinit. Am putea trimite o tentaculă a conștiinței noastre către Alpha Centauri pentru a reveni peste o mie de ani cu observații și experiență. Am putea simula o altă viață ca personaj anime în întregime și să o retransmitem experienței noastre trăite. Am fi ca o mulțime. Am fi Legion. .. Și nu cred că e o poveste de groază: mi se pare destul de tare.