Existuje skutečný argument pro veřejné statky pro AGI, když ho dostaneme, že protože bude existovat jen proto, že se vytrénovalo na všech našich datech, musí být příjmy z něj spravedlivě přerozděleny. Myšlenka, že by velké technologické firmy měly prostě sklízet obživu všech a pak utéct se všemi penězi, čímž by všechny nechaly bez práce, je nepředstavitelně neetická. I z přísně kapitalistického a inovačního hlediska to prostě není správné. Mají tolik peněz, že krádež duševního vlastnictví ani nehraje roli, mohou prostě zaplatit pokutu. Z AGI je obrovský přínos, natolik, že by ani nemělo existovat sporné právo duševního vlastnictví... Ale to je jiná věc. Problém je opravdu v rovnosti / rozdělení, v čemž byli lidé historicky naprosto hrozní a kvůli čemu se vedlo mnoho válek. Modely nelze vytvořit samostatně bez kolektivních dat odborníků, kteří po desetiletí vytvářeli výsledky svých profesí. I když máme modely, které se skutečně mohou neustále učit a sbírat data samy, argument stále platí. "Kdyby nebylo" předtréninkové stadium, tyto modely by neexistovaly. UBI by nemělo být jen pár kousků házených na plebejce, podle mě to bude muset být opravdu podstatné, aby se zastavili v nepokojích. Očekávám, že to bude jeden z největších témat na Západě v příštím politickém cyklu.

Lidé budoucnosti budou tvůrci vkusů a alokátory kapitálu. To bude rozsah naší práce. Čisté, nefalšované, cílevědomé 'hej AI, udělej tohle' a ona to zvládne. V podstatě jako videohra. Vytvoříte si vlastní realitu čím dál podivnějšími a divočejšími způsoby. To začne v digitálním světě, ale nakonec se rozšíří i do fyzického světa (pokud to regulace dovolí). Amazonka budoucnosti je jednoduše uživatel, který AI vyzve: 'Hej, potřebuji 70 humanoidů, aby mi postavili hrad na této půdě, kterou vlastním, tak to udělejte.' ABS (Amazon Bot Services... fiktivní jméno) pak nasadí boty, aby to udělali (přečtěte si o projektu Prometheus, na kterém pracuje Jeff Bezos – je opět o 20 let napřed před ostatními). Až to bude hotové, podíváte se na to a řeknete si: 'Hmm, namalujte mě s korunou na vnější straně stěn.' Pak to udělají taky. Budete dál iterovat, dokud nebudete spokojeni s tím, co se udělalo. Bude to tak levné, že je to v podstatě zdarma. Stavební zákony, dodržování – všechny ty nesmysly – nebudou mít význam, protože AI budou mít to, co brzy nazveme 'ověřitelnou inteligencí' – důkaz, že to, co udělaly, splňuje určitou specifikaci (ústavu / zákony / soubor pravidel, která my nebo oni definujeme). Perfektní stavby pokaždé. Pokud to pokazí, je to proto, že specifikace byla špatná. Samozřejmě, AI budou také lepší v přicházení s cíli, a u všech funkčních věcí se to přesně stane – stanoví cíle a pak je také splní, občas se nás zeptají na schválení (pokud budeme chtít). Ale pro zábavu, volný čas, 'práci' budoucnosti... Prakticky nebudou žádné limity. Ať už si myslíte, že to bude jakkoliv divné, slibuji vám, že to bude stokrát divnější. Nesmrtelní žijící na Marsu, geneticky modifikovaní superlidé žijící na mořském dně, zcela nové smysly... Ať žijete v zajímavých časech.

To je proti intuici, ale všichni bychom měli doufat a modlit se, že dostaneme scénář rychlého vzletu pro AGI, ne pomalý vzlet. Rychlý start bude působit jako síla systémových změn v ekonomice, finančním systému, vzdělávání, společnosti i institucích obecně. Pomalý vzlet jen pomalu ochromí obživu všech bez jakékoli změny na obzoru, protože dost lidí nebude cítit dost rychle ovlivněno, aby ke změnám došlo.