Există un argument autentic al bunurilor publice pentru AGI când îl primim, că, având în vedere că va exista doar pentru că s-a antrenat pe toate datele noastre, veniturile din acestea trebuie redistribuite într-un mod echitabil. Ideea că marile companii tech ar trebui să poată doar să exploateze mijloacele de trai ale tuturor și apoi să fugă cu toți banii, lăsând pe toată lumea fără loc de muncă, este de neînțeles de neetică. Chiar și dintr-o perspectivă strictă capitalistă și inovatoare, pur și simplu nu este corect. Au atât de mulți bani încât furtul de proprietate intelectuală nici măcar nu contează, pot plăti amenda. Există un avantaj uriaș al AGI, atât de mult încât o lege discutabilă a proprietății intelectuale nici măcar nu ar trebui să existe... Dar asta e altă poveste. Problema este cu adevărat una de echitate / distribuție, la care oamenii au fost istoric absolut slabi și pentru care s-au purtat multe războaie. Modelele nu pot fi lansate prin autofinanțare fără datele colective ale experților care au creat rezultatele profesiilor lor de-a lungul decadelor. Chiar și atunci când avem modele care pot învăța cu adevărat continuu și pot colecta date pentru ei înșiși, argumentul rămâne valabil. "Dar pentru" etapa pre-antrenament aceste modele nu ar exista. UBI nu ar trebui să fie niște resturi aruncate împotriva plebeilor, va trebui să fie cu adevărat substanțial pentru a-i opri să facă revolte, după părerea mea. Mă aștept ca acesta să fie unul dintre cele mai importante subiecte de discuție din Occident în următorul ciclu politic.

Oamenii viitorului vor fi creatori de gusturi și alocători de capital. Aceasta va fi întreaga noastră muncă. Pur, nealterat, orientat spre scopuri de tipul "hei, AI, fă asta" și o va face. Practic, ca un joc video. Vei crea propria ta realitate în moduri din ce în ce mai ciudate și sălbatice. Acest lucru va începe în lumea digitală, dar în cele din urmă se va extinde și în lumea fizică (în măsura în care reglementările permit acest lucru). Amazoana viitorului este pur și simplu un utilizator care îndeamnă un AI "Hei, am nevoie de 70 de umanoizi să-mi construiască un castel pe acest pământ pe care îl dețin, du-te și fă-o". ABS (Amazon Bot Services... nume fictiv) apoi folosește roboții pentru ca tu să faci asta (citește despre Proiectul Prometheus, la care lucrează Jeff Bezos – el este din nou cu 20 de ani înaintea tuturor celorlalți). Apoi, când e gata, te uiți la el și spui "Hmm, pictează o poză cu mine cu o coroană pe exteriorul pereților". Atunci vor face și asta. Vei continua să iterezi până când vei fi mulțumit de ceea ce a făcut. Va fi atât de ieftin încât practic e gratuit. Legile construcțiilor, conformitatea – toate prostiile astea – nu vor conta pentru că AI-urile vor avea ceea ce vom numi în curând "inteligență verificabilă" – dovada că ceea ce au făcut respectă o specificație (constituție / legi / set de reguli pe care noi sau ei le definim). Construcții perfecte de fiecare dată. Dacă greșesc, e pentru că specificația a fost greșită. Desigur, AI-urile vor fi mai bune la a ne stabili obiective, iar pentru toate lucrurile funcționale, exact asta se va întâmpla – ele vor stabili obiectivele și apoi le vor îndeplini, verificând ocazional cu noi pentru aprobare (dacă vrem). Dar pentru divertisment, timp liber, "munca" viitorului... Practic nu vor exista limite. Oricât de ciudat crezi că vor deveni lucrurile, îți promit că va fi de 100 de ori mai ciudat. Nemuritori care trăiesc pe Marte, superumani modificați genetic pe fundul oceanului, simțuri complet noi... Să trăiești vremuri interesante.

Este contraintuitiv, dar ar trebui cu toții să sperăm și să ne rugăm să avem un scenariu de decolare rapidă pentru AGI, nu o decolare lentă. O decolare rapidă va acționa ca o funcție de forță pentru schimbări sistemice în economie, sistem financiar, educație, societate și instituții în ansamblu. O decolare lentă va paraliza încet mijloacele de trai ale tuturor, fără nicio schimbare la orizont, pentru că nu suficienți oameni se vor simți afectați suficient de repede pentru ca schimbarea să aibă loc.