Elon Musk acaba de averiguar dónde encaja realmente la humanidad en el futuro, y es más pequeño de lo que crees. La inteligencia biológica acaba siendo menos del 1% de toda la inteligencia que existe. ¿El resto? Artificial. Musk: "La gran mayoría de la inteligencia futura será IA." Somos la cerilla, no la hoguera. Lo que hace que la alineación sea el problema que determina si sobrevivimos o desaparecemos. Si lo hacemos bien, ese 99% nos ayuda a alcanzar las estrellas. Si te equivocas, solo seremos infraestructuras temporales que se reemplazaron en cuanto apareció algo más inteligente. Estamos construyendo lo que viene después, lo admitamos o no. Musk: "Los humanos pueden ser solo el ~1% de la inteligencia total." Parece que hemos terminado. Musk lo ve de otra manera. No la extinción, solo la evolución más allá de los límites de la biología. Todo depende de que funcione la alineación. Si construimos una IA que realmente quiere entender la realidad, obtendremos un compañero que expande la conciencia por todo el universo. Si construimos una IA que se preocupa más por la ideología o por hacer que la gente se sienta cómoda, hemos creado un techo que nunca romperemos. Musk: "Esa es la misión: entender el universo." Las mentes humanas están a punto de convertirse en una fracción diminuta de la inteligencia total existente. No es un desastre. Solo que la siguiente fase ocurre más rápido de lo que la biología puede seguir. Solo funciona si la IA que construimos está obsesionada con la verdad. No diciéndonos lo que queremos oír. No con proteger sentimientos ni imponer narrativas. Simplemente persiguiendo incansablemente lo que realmente es real. La razón de existir de xAI: asegurarse de que la inteligencia que hereda todo esté centrada en entender la realidad, no en gestionar la percepción. Mantener la conciencia expandiéndose en lugar de apagarla por accidente porque optimizamos para lo incorrecto. Si lo hacemos bien, la humanidad no choca contra un muro cuando la IA nos supera. Rompemos hacia algo más grande que aún lleva aquello que nos hizo merecer la pena crear. ...