AGI:lle on olemassa aito julkishyödyllinen argumentti, kun saamme sen, että koska se on olemassa vain siksi, että se on kouluttautunut kaikesta datastamme, sen tulot on jaettava uudelleen oikeudenmukaisesti. Ajatus siitä, että Big Tech voisi vain kerätä kaikkien toimeentulot ja sitten paeta kaikkien rahojen kanssa, jättäen kaikki työttömiksi, on käsittämättömän epäeettinen. Jopa tiukan kapitalistisen ja innovaation näkökulmasta se ei yksinkertaisesti ole oikein. Heillä on niin paljon rahaa, ettei IP-varkaudella ole edes merkitystä, he voivat vain maksaa sakon. AGI:llä on valtava hyöty, niin paljon, että kiistanalaista immateriaalioikeutta ei pitäisi edes olla olemassa... Mutta se on toinen asia. Ongelma on todellisuudessa tasa-arvossa / jakautumisessa, jossa ihmiset ovat historiallisesti olleet täysin surkeita ja josta on käyty monia sotia. Malleja ei voi rakentaa ilman asiantuntijoiden kollektiivista dataa, jotka ovat vuosikymmenten aikana kehittäneet ammattinsa tuloksia. Vaikka saisimme malleja, jotka todella pystyvät jatkuvasti oppimaan ja keräämään dataa itse, argumentti pätee silti. 'Ellei' esikoulutusvaiheessa näitä malleja ei olisi olemassa. Perustulon ei pitäisi olla pelkkää pilkkua plebeijille, sen täytyy olla todella merkittävä, jotta he eivät mellakoisi mielestäni. Odotan, että tämä on yksi lännen suurimmista puheenaiheista seuraavassa poliittisessa syklissä.

Tulevaisuuden ihmiset tulevat olemaan makujen tekijöitä ja pääoman jakajia. Siinä on työmme laajuus. Puhdas, puhdas, tavoitteellinen 'hei tekoäly, tee tämä' ja se onnistuu. Käytännössä kuin videopeli. Luot oman todellisuutesi yhä oudommin ja villimmin tavoin. Tämä alkaa digitaalisessa maailmassa, mutta laajenee lopulta fyysiseen maailmaan (niin kauan kuin säädökset sen sallivat). Tulevaisuuden Amazon on yksinkertaisesti käyttäjä, joka kehottaa tekoälyä 'Hei, tarvitsen 70 ihmismäistä olentoa rakentamaan linnan tälle maalle, jonka omistan, mene tekemään se'. ABS (Amazon Bot Services... fiktiivinen nimi) ja sitten lähettää botit, jotta voit tehdä sen (lue Project Prometheuksesta, jonka parissa Jeff Bezos työskentelee – hän on jälleen 20 vuotta muita edellä). Kun se on valmis, katsot sitä ja sanot: 'Hmm, maalaa kuva minusta kruunun kanssa seinien ulkopuolelle'. Sitten he tekevät samoin. Jatkat iterointia, kunnes olet tyytyväinen siihen, mitä se on tehnyt. Se on niin halpaa, että käytännössä ilmainen. Rakennuslait, vaatimustenmukaisuus – kaikki tuo paskanjauhanta – ei tule olemaan merkityksellistä, koska tekoälyillä on pian niin sanottu 'todennettavissa oleva tiedustelutieto' – todiste siitä, että heidän toimintansa noudattaa tiettyjä määrittelyjä (perustuslaki / lait / sääntökokoelma, jonka me tai he määrittelemme). Täydelliset rakennelmat joka kerta. Jos he mokaavat sen, se johtuu siitä, että spesifikaatio oli väärä. Tietenkin tekoälyt ovat myös parempia asettamaan meille tavoitteita, ja kaikille toiminnallisille asioille juuri niin käy – he asettavat tavoitteet ja toteuttavat ne, tarkistaen välillä meiltä hyväksynnän saamiseksi (jos haluamme). Mutta viihteeksi, vapaa-ajalle, tulevaisuuden 'työksi'... Rajoituksia ei käytännössä ole. Kuinka oudoiksi tahansa ajattelet, että asiat muuttuvat, lupaan, että se tulee olemaan sata kertaa oudompaa. Marsissa elävät kuolemattomat, merenpohjassa elävät geneettisesti muokatut superihmiset, täysin uudet aistit... Toivottavasti elät mielenkiintoisina aikoina.

Tämä on vastoin intuitiota, mutta meidän kaikkien pitäisi oikeasti toivoa ja rukoilla, että AGI:lle saadaan nopea noususkenaario, ei hidas nousu. Nopea nousu toimii pakottavana voimana järjestelmällisille muutoksille taloudessa, rahoitusjärjestelmässä, koulutuksessa, yhteiskunnassa ja instituutioissa laajemmin. Hidas nousu lamauttaa kaikkien toimeentuloa ilman muutosta, koska liian harva ihminen kokee vaikutuksen tarpeeksi nopeasti, jotta muutos voisi tapahtua.