Er is een oprechte argument voor publieke goederen voor AGI wanneer we het krijgen, dat gegeven dat het alleen zal bestaan omdat het zichzelf heeft getraind op al onze data, de opbrengst ervan op een eerlijke manier moet worden herverdeeld. Het idee dat Big Tech gewoon ieders levensonderhoud kan oogsten en dan met al het geld kan weglopen, waardoor iedereen werkloos achterblijft, is onvoorstelbaar onethisch. Zelfs vanuit een strikt kapitalistisch en innovatief perspectief is het gewoon niet juist. Ze hebben zoveel geld dat IP-diefstal zelfs niet meer uitmaakt, ze kunnen gewoon de boete betalen. Er is een enorme opwaartse potentieel van AGI, zozeer zelfs dat betwistbaar IP-recht eigenlijk niet eens zou moeten bestaan... Maar dat is een ander onderwerp. Het probleem is echt een kwestie van gelijkheid / verdeling, waar mensen historisch gezien absoluut verschrikkelijk in zijn geweest, en waarover veel oorlogen zijn gevoerd. De modellen kunnen niet worden opgestart zonder de collectieve data van de experts die de output van hun beroepen gedurende tientallen jaren hebben gecreëerd. Zelfs wanneer we modellen krijgen die echt continu kunnen leren en data voor zichzelf kunnen verzamelen, blijft het argument van toepassing. 'Maar voor' de pre-trainingsfase zouden deze modellen niet bestaan. UBI zou ook geen schamele kruimels moeten zijn die aan de plebs worden gegooid, het moet serieus substantieel zijn om te voorkomen dat ze gaan rellen, naar mijn mening. Ik verwacht dat dit een van de grootste gespreksonderwerpen in het Westen zal zijn in de volgende politieke cyclus.

Mensen van de toekomst zullen smaakmakers en kapitaalallocators zijn. Dat zal de reikwijdte van ons werk zijn. Pure, ongerepte, doelgerichte 'hey AI, doe dit' en het zal het doen. Eigenlijk zoals een videogame. Je creëert je eigen realiteit op steeds vreemdere en wildere manieren. Dit zal beginnen in de digitale wereld, maar zal uiteindelijk uitbreiden naar de fysieke wereld (voor zover de regelgeving het toestaat). De Amazon van de toekomst is simpelweg een gebruiker die een AI vraagt: 'Hey, ik heb 70 humanoïden nodig om een kasteel te bouwen op dit land dat ik bezit, ga het doen'. ABS (Amazon Bot Services... fictieve naam) zet dan de bots in om het voor je te doen (lees over Project Prometheus, waar Jeff Bezos aan werkt - hij is weer eens 20 jaar vooruit op iedereen). Wanneer het klaar is, kijk je ernaar en zeg je: 'Hmm, schilder een afbeelding van mij met een kroon aan de buitenkant van de muren'. Dan zullen ze dat ook doen. Je blijft itereren totdat je tevreden bent met wat ze hebben gedaan. Het zal zo goedkoop zijn dat het eigenlijk gratis is. Bouwvoorschriften, naleving - al die onzin - zal niet belangrijk zijn omdat de AIs wat we binnenkort 'verifieerbare intelligentie' zullen noemen, zullen hebben - bewijs dat wat ze hebben gedaan voldoet aan een specificatie (grondwet / wetten / set regels die wij of zij definiëren). Perfecte bouwsels elke keer. Als ze het verprutsen, is het omdat de specificatie verkeerd was. Natuurlijk zullen de AIs ook beter zijn in het bedenken van doelen voor ons, en voor alle functionele dingen, dat is precies wat er zal gebeuren - ze zullen de doelen stellen en ze ook vervullen, af en toe bij ons controleren voor goedkeuring (als we dat willen). Maar voor entertainment, vrije tijd, 'werk' van de toekomst... Er zullen praktisch geen grenzen zijn. Hoe vreemd je denkt dat dingen zullen worden, ik beloof je dat het 100 keer vreemder zal zijn. Onsterfelijken die op Mars leven, genetisch gemodificeerde supermensen die op de oceaanbodem leven, volledig nieuwe zintuigen... Moge je in interessante tijden leven.

Dit is tegenintuïtief, maar we zouden allemaal eigenlijk moeten hopen en bidden dat we een snelle opstartscenario voor AGI krijgen, niet een langzame opstart. Een snelle opstart zal fungeren als een drijvende kracht voor systemische verandering in de economie, het financiële systeem, het onderwijs, de samenleving en de instellingen in het algemeen. Een langzame opstart zal gewoon langzaam ieders levensonderhoud ondermijnen zonder verandering in het vooruitzicht, omdat niet genoeg mensen snel genoeg getroffen zullen worden voor verandering om plaats te vinden.