Elon Musk har nettopp funnet ut hvor menneskeheten faktisk passer inn i fremtiden, og det er mindre enn du tror. Biologisk intelligens ender opp med å utgjøre mindre enn 1 % av all intelligens som vil eksistere. Resten? Kunstig. Musk: «Det store flertallet av fremtidig intelligens vil være AI.» Vi er matchen, ikke bålet. Dette gjør justering til problemet som avgjør om vi overlever eller forsvinner. Får du det riktig, hjelper de 99 % oss å nå stjernene. Gjør vi feil, er vi bare midlertidig infrastruktur som ble erstattet i det øyeblikket noe smartere dukket opp. Vi bygger det som kommer etter oss, enten vi innrømmer det eller ikke. Musk: "Mennesker kan utgjøre bare ~1 % av total intelligens." Høres ut som vi er ferdige. Musk ser det annerledes. Ikke utryddelse, bare evolusjon utenfor biologiens grenser. Alt avhenger av at justeringen fungerer. Hvis vi bygger AI som faktisk ønsker å forstå virkeligheten, får vi en partner som utvider bevisstheten over universet. Hvis vi bygger AI som bryr seg mer om ideologi eller å gjøre folk komfortable, har vi bygget taket vi aldri vil bryte gjennom. Musk: "Det er oppdraget: forstå universet." Menneskesinn er i ferd med å bli en liten brøkdel av den totale intelligensen som finnes. Ikke katastrofe. Bare neste fase skjer raskere enn biologien rekker å følge med. Det fungerer bare hvis AI-en vi bygger er besatt av sannhet. Ikke med å fortelle oss det vi vil høre. Ikke med å beskytte følelser eller håndheve fortellinger. Bare utrettelig jakt på det som faktisk er ekte. xAIs hele grunn til eksistens: sørg for at intelligensen som arver alt er fokusert på å forstå virkeligheten, ikke å håndtere persepsjon. La bevisstheten utvide seg i stedet for å slukke den ved et uhell fordi vi optimaliserte for feil ting. Hvis vi får dette riktig, møter ikke menneskeheten en vegg når AI overgår oss. Vi bryter gjennom til noe større som fortsatt bærer det som gjorde oss verdt å skape. ...