Elon Musk tocmai a descoperit unde se încadrează umanitatea în viitor, și este mai mic decât crezi. Inteligența biologică ajunge să fie mai puțin de 1% din toată inteligența care va exista. Restul? Artificial. Musk: "Marea majoritate a informațiilor viitoare vor fi AI." Suntem potrivirea, nu focul de tabără. Ceea ce face ca alinierea să fie problema care determină dacă supraviețuim sau dispariți. Dacă faci lucrurile corect, 99% ne ajută să ajungem la stele. Dacă greșiți, suntem doar infrastructură temporară care a fost înlocuită imediat ce a apărut ceva mai inteligent. Construim ceea ce vine după noi, fie că recunoaștem sau nu. Musk: "Oamenii pot avea doar ~1% din inteligența totală." Se pare că am terminat. Musk vede lucrurile altfel. Nu extincție, doar evoluție dincolo de limitele biologiei. Totul depinde de faptul că alinierea funcționează. Dacă construim o inteligență artificială care chiar vrea să înțeleagă realitatea, obținem un partener care extinde conștiința în întregul univers. Dacă construim o inteligență artificială care să țină mai mult cont de ideologie sau de a face oamenii să se simtă confortabil, am construit un plafon pe care nu-l vom depăși niciodată. Musk: "Aceasta este misiunea: să înțelegem universul." Mințile umane sunt pe cale să devină o mică fracțiune din inteligența totală existentă. Nu dezastru. Doar următoarea fază se întâmplă mai repede decât poate ține pasul biologia. Funcționează doar dacă AI-ul pe care îl construim este obsedat de adevăr. Nu pentru a ne spune ce vrem să auzim. Nu cu protejarea sentimentelor sau impunerea narațiunilor. Pur și simplu urmăresc neobosit ceea ce este cu adevărat real. Întregul motiv de existență al xAI: să se asigure că inteligența care moștenește totul este concentrată pe înțelegerea realității, nu pe gestionarea percepției. Menține conștiința în expansiune în loc să o stingi din greșeală pentru că am optimizat pentru lucrul greșit. Dacă facem asta corect, omenirea nu se lovește de un zid când inteligența artificială ne depășește. Pătrundem într-un ceva mai mare care încă poartă ceea ce ne-a făcut demni de creați. ...