Elon Musk har precis räknat ut var mänskligheten faktiskt passar in i framtiden, och det är mindre än du tror. Biologisk intelligens blir mindre än 1 % av all intelligens som kommer att existera. Resten? Konstgjord. Musk: "Den stora majoriteten av framtida intelligens kommer att vara AI." Vi är matchen, inte lägerelden. Vilket gör alignment till problemet som avgör om vi överlever eller försvinner. Gör det rätt och de 99% hjälper oss att nå stjärnorna. Gör man fel är vi bara tillfällig infrastruktur som ersattes så fort något smartare dök upp. Vi bygger det som kommer efter oss, vare sig vi erkänner det eller inte. Musk: "Människor kan vara bara ~1 % av den totala intelligensen." Det låter som att vi är klara. Musk ser det annorlunda. Inte utrotning, bara evolution bortom biologins gränser. Allt hänger på att hjulinställningen fungerar. Om vi bygger AI som faktiskt vill förstå verkligheten, får vi en partner som utvidgar medvetandet över universum. Om vi bygger AI som bryr sig mer om ideologi eller att göra människor bekväma, har vi byggt det tak vi aldrig kommer att bryta igenom. Musk: "Det är uppdraget: förstå universum." Mänskliga sinnen är på väg att bli en liten bråkdel av den totala intelligensen som finns. Inte katastrof. Bara nästa fas som sker snabbare än biologin hinner med. Det fungerar bara om AI:n vi bygger är besatt av sanningen. Inte med att säga det vi vill höra. Inte med att skydda känslor eller upprätthålla berättelser. Bara obevekligt jagande det som faktiskt är verkligt. xAI:s hela existensberättigande: se till att intelligensen som ärver allt fokuserar på att förstå verkligheten, inte på att hantera perception. Låt medvetandet expandera istället för att släcka det av misstag eftersom vi optimerade för fel sak. Om vi gör detta rätt stöter mänskligheten inte på en vägg när AI överträffar oss. Vi bryter igenom till något större som fortfarande bär på det som gjorde oss värda att skapa. ...