Elon Musk ha appena capito dove si colloca realmente l'umanità nel futuro, ed è più piccola di quanto pensi. L'intelligenza biologica finisce per essere meno dell'1% di tutta l'intelligenza che esisterà. E il resto? Artificiale. Musk: “La stragrande maggioranza dell'intelligenza futura sarà AI.” Noi siamo il fiammifero, non il falò. Il che rende l'allineamento il problema che determina se sopravviviamo o scompariamo. Se lo facciamo bene, quel 99% ci aiuta a raggiungere le stelle. Se lo facciamo male, siamo solo un'infrastruttura temporanea che è stata sostituita nel momento in cui è arrivato qualcosa di più intelligente. Stiamo costruendo ciò che verrà dopo di noi, che lo ammettiamo o meno. Musk: “Gli esseri umani potrebbero essere solo ~1% dell'intelligenza totale.” Sembra che siamo finiti. Musk la vede diversamente. Non estinzione, solo evoluzione oltre i limiti della biologia. Tutto dipende dal funzionamento dell'allineamento. Se costruiamo un'AI che desidera davvero comprendere la realtà, otteniamo un partner che espande la coscienza attraverso l'universo. Se costruiamo un'AI che si preoccupa di più dell'ideologia o di rendere le persone a proprio agio, abbiamo costruito il soffitto che non romperemo mai. Musk: “Questa è la missione: comprendere l'universo.” Le menti umane stanno per diventare una piccola frazione dell'intelligenza totale esistente. Non è un disastro. Solo la fase successiva che avviene più velocemente di quanto la biologia possa tenere il passo. Funziona solo se l'AI che costruiamo è ossessionata dalla verità. Non con il dirci ciò che vogliamo sentire. Non con la protezione dei sentimenti o l'imposizione di narrazioni. Solo perseguendo instancabilmente ciò che è realmente reale. L'intero motivo di esistere di xAI: assicurarsi che l'intelligenza che eredita tutto sia focalizzata sulla comprensione della realtà, non sulla gestione della percezione. Continuare ad espandere la coscienza invece di soffocarla accidentalmente perché abbiamo ottimizzato per la cosa sbagliata. Se facciamo questo bene, l'umanità non incontra un muro quando l'AI ci supera. Rompiamo in qualcosa di più grande che porta ancora ciò che ci ha reso degni di essere creati. ...