Pensamientos... Últimamente he estado enfrentando una extraña dificultad. El pensamiento a largo plazo siempre ha sido natural para mí, algo que me he condicionado a hacer con facilidad. Ahora se siente casi imposible. ¿Por qué? AGI. Cada vez que me siento a planear para el futuro, me doy cuenta de lo mismo. Estamos esperando ver quién construye la primera AGI real, y quien lo haga, efectivamente poseerá el mundo. Eso hace que la planificación a largo plazo se sienta desconectada de la realidad. No sé en qué mundo viviré, así que no puedo anclar ningún futuro con confianza. AGI es la última carrera. Nos estamos acercando al nivel final del videojuego. El punto en el que un jugador construye un sistema que puede automatizar todas las tareas inteligentes y orientadas a objetivos convierte a su creador en algo cercano a un dios. Una entidad gana la capacidad de superar a todos en todos los dominios. Eso termina con la competencia. Eso termina con la opcionalidad. El segundo lugar se convierte en un esclavo de la cosmovisión de quien llegue primero. Por eso los incentivos en torno a la AGI son tan peligrosos. Cada jugador entiende que la vacilación es un camino directo hacia la subordinación. Esa lógica fuerza la aceleración, impulsa atajos y borra la precaución en torno a la seguridad. Una vez que la carrera se vuelve existencial para los competidores, las externalidades dejan de importar. ...