Det finns ett genuint argument för allmänna nyttigheter när vi får det, att eftersom det bara kommer att existera eftersom det har tränat sig på all vår data, måste intäkterna från det omfördelas på ett rättvist sätt. Idén att Big Tech bara ska kunna skörda allas försörjning och sedan sticka iväg med alla pengar, vilket lämnar alla arbetslösa, är ofattbart oetisk. Även ur ett strikt kapitalistiskt och innovationsperspektiv är det helt enkelt inte rätt. De har så mycket pengar att stöld av immateriella rättigheter inte ens spelar någon roll, de kan bara betala bötern. Det finns enorma fördelar med AGI, så pass att en rimlig IP-lagstiftning inte ens borde existera... Men det är en annan sak. Problemet är egentligen rättvisa / fördelning, vilket människor historiskt sett har varit helt usla på, och som många krig har utkämpats om. Modellerna kan inte bootstrappas utan den samlade datan från de experter som utformat resultaten från sina yrken under årtionden. Även när vi får modeller som verkligen kontinuerligt kan lära sig och samla data själva gäller argumentet fortfarande. 'Om det inte vor' förträningsstadiet skulle dessa modeller inte existera. UBI borde inte heller vara några småbitar som kastas på plebejerna, det måste vara allvarligt substantiellt för att stoppa dem från att göra upplopp enligt mig. Jag förväntar mig att detta blir en av de största samtalsämnena i väst under nästa politiska cykel.

Framtidens människor kommer att vara smakmakare och kapitalfördelare. Det kommer att vara omfattningen av vårt arbete. Ren, oförfalskad, målinriktad 'hej AI, gör det här' så kommer den att göra det. I princip som ett videospel. Du kommer att skapa din egen verklighet på allt märkligare och vildare sätt. Detta kommer att börja i den digitala världen, men kommer så småningom att spridas till den fysiska världen (i den mån reglerna tillåter det). Framtidens Amazonas är helt enkelt en användare som uppmanar en AI 'Hej, jag behöver 70 humanoider för att bygga ett slott på den här marken jag äger, gör det'. ABS (Amazon Bot Services... fiktivt namn) skickar sedan ut robotarna för att du ska göra det (läs om Project Prometheus, som Jeff Bezos arbetar med – han ligger återigen 20 år före alla andra). När det är klart kommer du titta på det och säga 'Hmm, måla en bild av mig med en krona på utsidan av väggarna'. Då gör de det också. Du fortsätter iterera tills du är nöjd med vad det har gjort. Det kommer vara så billigt att det i princip är gratis. Bygglagar, efterlevnad – allt det där tramset – kommer inte spela någon roll eftersom AI:erna kommer att ha det vi snart kommer att kalla 'verifierbar intelligens' – bevis på att det de har gjort följer en specifikation (konstitution / lagar / regelverk som vi eller de definierar). Perfekta byggen varje gång. Om de misslyckas är det för att specifikationen var fel. Självklart kommer AI:erna också att vara bättre på att sätta upp mål för oss, och för alla funktionella saker är det precis vad som kommer att hända – de sätter målen och uppfyller dem också, och kollar ibland med oss för godkännande (om vi vill). Men för underhållning, fritid, 'arbete' i framtiden... Det kommer praktiskt taget inte finnas några gränser. Hur konstigt du än tror att det kommer bli, lovar jag att det kommer bli hundra gånger konstigare. Odödliga som bor på Mars, genetiskt modifierade supermänniskor som lever på havsbotten, helt nya sinnen... Må du leva i intressanta tider.

Detta är kontraintuitivt, men vi borde alla faktiskt hoppas och be att vi får ett snabbt startscenario för AGI, inte ett långsamt startscenario. En snabb uppskjutning kommer att fungera som en drivande funktion för systemförändring i hela ekonomin, det finansiella systemet, utbildningen, samhället och institutionerna i stort. En långsam start kommer bara långsamt att förlama allas försörjning utan någon förändring i sikte, eftersom inte tillräckligt många kommer att känna sig påverkade tillräckligt snabbt för att förändring ska kunna ske.