Tankar... På sistone har jag stött på en märklig svårighetsgrad. Långsiktigt tänkande har alltid varit naturligt för mig, något jag vant mig själv att göra med lätthet. Nu känns det nästan omöjligt. Varför? AGI. Varje gång jag sätter mig ner för att planera för framtiden får jag samma insikt. Vi väntar på att se vem som bygger den första riktiga AGI, och den som gör det kommer i praktiken att äga världen. Det gör att långsiktig planering känns frånkopplad från verkligheten. Jag vet inte vems värld jag kommer att leva i, så jag kan inte förankra någon framtid med självförtroende. AGI är det sista loppet. Vi närmar oss den sista nivån i videospelet. Den punkt där en spelare bygger ett system som kan automatisera alla intelligenta, målinriktade uppgifter förvandlar dess skapare till något som liknar en gud. En enhet får förmågan att konkurrera ut alla inom alla domäner. Det avslutar konkurrensen. Det avslutar valfriheten. Andra platsen blir slav under världsbilden hos den som kommer först. Det är därför incitamenten kring AGI är så farliga. Varje spelare förstår att tvekan är en direkt väg till underordning. Den logiken tvingar fram acceleration, kräver genvägar och suddar ut försiktigheten kring säkerhet. När loppet blir existentiellt för deltagarna slutar externaliteter att spela någon roll. ...