Det finnes et genuint argument for AGI når vi får det, at siden det bare vil eksistere fordi det har trent seg på alle våre data, må inntektene fra det omfordeles på en rettferdig måte. Ideen om at Big Tech bare skal kunne høste alles levebrød og så stikke av med alle pengene, og etterlate alle arbeidsløse, er ufattelig uetisk. Selv fra et strengt kapitalistisk og innovasjonsperspektiv er det rett og slett ikke riktig. De har så mye penger at IP-tyveri ikke engang betyr noe, de kan bare betale boten. Det er enorme fordeler med AGI, så mye at en diskutabelt IP-lov ikke engang burde eksistere... Men det er en annen sak. Problemet er egentlig rettferdighet / fordeling, som mennesker historisk sett har vært helt elendige på, og som mange kriger har blitt utkjempet om. Modellene kan ikke bootstrappes uten de samlede dataene til ekspertene som har utformet resultatene fra sine yrker over flere tiår. Selv når vi får modeller som virkelig kontinuerlig kan lære og samle data selv, gjelder argumentet fortsatt. 'Uten fortreningsfasen ville ikke disse modellene eksistert. UBI bør heller ikke være noen smuler som kastes på plebeierne, det må være alvorlig substansielt for å hindre dem i å lage opprør, etter min mening. Jeg forventer at dette blir et av de største samtalepunktene i Vesten i neste politiske syklus.

Fremtidens mennesker vil være smaksskapere og kapitalallokatorer. Det vil være omfanget av vårt arbeid. Ren, uforfalsket, målrettet 'hei AI, gjør dette' og den vil gjøre det. I bunn og grunn som et videospill. Du vil skape din egen virkelighet på stadig mer merkelige og ville måter. Dette vil starte i den digitale verden, men vil etter hvert utvides til den fysiske verden (så langt reguleringene tillater det). Amazonas i fremtiden er rett og slett en bruker som ber en AI: 'Hei, jeg trenger 70 humanoider for å bygge meg et slott på dette landet jeg eier, gå og gjør det'. ABS (Amazon Bot Services... fiktivt navn) sender så ut robotene for at du skal gjøre det (les om Project Prometheus, som Jeff Bezos jobber med – han er igjen 20 år foran alle andre). Når det er ferdig, ser du på det og sier 'Hmm, mal et bilde av meg med en krone på utsiden av veggene'. Da gjør de det også. Du vil fortsette å iterere til du er fornøyd med det som er gjort. Det blir så billig at det i praksis er gratis. Byggelovgivning, etterlevelse – alt det tullet – kommer ikke til å spille noen rolle fordi AI-ene vil ha det vi snart vil kalle 'verifiserbar intelligens' – bevis på at det de har gjort oppfyller en spesifikasjon (grunnlov / regler som vi eller de definerer). Perfekte bygg hver gang. Hvis de roter det til, er det fordi spesifikasjonen var feil. Selvfølgelig vil AI-ene også være flinkere til å komme opp med mål for oss, og for alle funksjonelle ting er det akkurat det som vil skje – de setter målene og oppfyller dem også, og sjekker av og til med oss for godkjenning (hvis vi ønsker det). Men for underholdning, fritid, 'arbeid' i fremtiden... Det vil praktisk talt ikke være noen grenser. Uansett hvor merkelig du tror det blir, lover jeg deg at det kommer til å bli hundre ganger merkeligere. Udødelige som bor på Mars, genetisk modifiserte supermennesker som bor på havbunnen, helt nye sanser... Må du leve i interessante tider.

Dette er motintuitivt, men vi bør alle faktisk håpe og be om at vi får et raskt takeoff-scenario for AGI, ikke et sakte takeoff. En rask oppsving vil fungere som en drivkraft for systemisk endring på tvers av økonomien, finanssystemet, utdanningen, samfunnet og institusjonene generelt. En langsom oppstart vil bare sakte lamme alles levebrød uten noen endring i horisonten, fordi ikke nok vil føle seg påvirket raskt nok til at endring kan skje.