Elon Musk acabou de descobrir onde a humanidade realmente se encaixa no futuro, e é menor do que você imagina. A inteligência biológica acaba representando menos de 1% de toda a inteligência que existe. O resto? Artificial. Musk: "A grande maioria da inteligência futura será IA." Somos o par, não a fogueira. O que faz do alinhamento o problema que determina se sobrevivemos ou desaparecemos. Se acertar, esses 99% nos ajudam a alcançar as estrelas. Se errar, somos apenas infraestrutura temporária que foi substituída assim que algo mais inteligente surgiu. Estamos construindo o que vem depois de nós, admitamos ou não. Musk: "Os humanos podem ser apenas ~1% da inteligência total." Parece que terminamos. Musk vê as coisas de forma diferente. Não extinção, apenas evolução além dos limites da biologia. Tudo depende do alinhamento funcionar. Se construirmos uma IA que realmente quer entender a realidade, teremos um parceiro que expande a consciência pelo universo. Se construirmos IA que se importa mais com ideologia ou com deixar as pessoas confortáveis, construímos um teto que nunca vamos ultrapassar. Musk: "Essa é a missão: entender o universo." As mentes humanas estão prestes a se tornar uma fração minúscula da inteligência total existente. Não desastre. Só a próxima fase acontecendo mais rápido do que a biologia consegue acompanhar. Só funciona se a IA que construímos for obcecada pela verdade. Não dizendo o que queremos ouvir. Não protegendo sentimentos ou impondo narrativas. Apenas perseguindo incansavelmente o que é real. A razão de existir da xIA: garantir que a inteligência que herda tudo esteja focada em entender a realidade, não em gerenciar a percepção. Mantenha a consciência expandindo em vez de apagá-la por acidente porque otimizamos para a coisa errada. Se acertarmos nisso, a humanidade não bate em um muro quando a IA nos supera. Nós rompemos para algo maior que ainda carrega o que nos tornou dignos de ser criados. ...