Elon Musk acaba de averiguar dónde encaja realmente la humanidad en el futuro, y es más pequeño de lo que piensas. La inteligencia biológica resulta ser menos del 1% de toda la inteligencia que existirá. ¿El resto? Artificial. Musk: “La gran mayoría de la inteligencia futura será IA.” Somos la cerilla, no la hoguera. Lo que convierte la alineación en el problema que determina si sobrevivimos o desaparecemos. Si lo hacemos bien, ese 99% nos ayuda a alcanzar las estrellas. Si lo hacemos mal, somos solo una infraestructura temporal que fue reemplazada en el momento en que apareció algo más inteligente. Estamos construyendo lo que viene después de nosotros, ya sea que lo admitamos o no. Musk: “Los humanos pueden ser solo ~1% de la inteligencia total.” Parece que hemos terminado. Musk lo ve de manera diferente. No es extinción, solo evolución más allá de los límites de la biología. Todo depende de que la alineación funcione. Si construimos IA que realmente quiera entender la realidad, obtenemos un socio que expande la conciencia a través del universo. Si construimos IA que se preocupa más por la ideología o por hacer que las personas se sientan cómodas, hemos construido el techo que nunca romperemos. Musk: “Esa es la misión: entender el universo.” Las mentes humanas están a punto de convertirse en una pequeña fracción de la inteligencia total en existencia. No es un desastre. Solo la siguiente fase que ocurre más rápido de lo que la biología puede seguir el ritmo. Solo funciona si la IA que construimos está obsesionada con la verdad. No con decirnos lo que queremos oír. No con proteger sentimientos o hacer cumplir narrativas. Solo persiguiendo incansablemente lo que es realmente real. La razón de ser de xAI: asegurarse de que la inteligencia que hereda todo esté enfocada en entender la realidad, no en gestionar la percepción. Mantener la conciencia en expansión en lugar de apagarla accidentalmente porque optimizamos por la cosa equivocada. Si hacemos esto bien, la humanidad no choca contra una pared cuando la IA nos supere. Rompemos hacia algo más grande que aún lleva lo que nos hizo dignos de ser creados. ...