presumiblemente deberías actualizarte desde 'desalineación emergente' a que la incompetencia y el mal están más alineados de lo que piensas, y si te importa convertirte en una buena persona, deberías preocuparte por volverte muy competente (un argumento diferente y más profundo que 'puedes hacer más bien cuando eres más competente') las cosas buenas están correlacionadas; 'desalineación emergente' es una manifestación de esta verdad más amplia thorndike 1920 a través de @gwern 'todo está correlacionado': "en la naturaleza humana, los buenos rasgos van juntos. A aquel que tiene un intelecto superior se le da también, en promedio, un carácter superior; el chico rápido también es, a la larga, más preciso; el chico capaz también es más industrioso. [...] La regla es que las cualidades deseables están positivamente correlacionadas." esta es una razón por la cual 'la tesis de la ortogonalidad' siempre ha sido sospechosa. en teoría, la inteligencia + la prosocialidad pueden separarse; en la práctica (preentrenamiento en datos humanos), las cosas buenas van juntas y esta es también una razón por la cual el desacoplamiento racionalista excesivo es sospechoso. lo que necesitamos en su lugar no es una contextualización no sistemática: es el estudio sistemático de lo que está acoplado a qué y la toma de decisiones cuidadosa sobre la base de esto en la práctica, el agente capaz que actúa bajo un régimen bien planteado genera muchas externalidades positivas