Presumiblemente deberías actualizar desde 'desalineación emergente' que la incompetencia y el mal están más relacionados de lo que crees, y si te importa ser una buena persona, deberías preocuparte por ser muy competente (un argumento diferente y profundo de 'puedes hacer más bien cuando eres más competente'). Las cosas buenas están correlacionadas; La 'desalineación emergente' es una instanciación de esta verdad más amplia Throrndike 1920 vía @gwern 'Todo está correlacionado': "En la naturaleza humana los buenos rasgos van de la mano. A quien tiene un intelecto superior se le otorga también en promedio un carácter superior; El chico rápido también es, a largo plazo, más preciso; El chico capaz también es más trabajador. [...] La regla es que las cualidades deseables están positivamente correlacionadas." Esta es una de las razones por las que la 'tesis de la ortogonalidad' siempre ha sido dudosa. En teoría, inteligencia + prosocialidad pueden separarse; En la práctica (preentrenamiento sobre datos humanos), las cosas buenas van juntas Y esta es también una de las razones por las que el desacoplamiento racionalista excesivo es sospechoso. Lo que necesitamos en cambio no es una contextualización no sistemática: es el estudio sistemático de lo que está vinculado a qué y una toma de decisiones cuidadosa sobre la base de esto En la práctica, el agente capaz que actúa bajo un régimen bien planteado genera muchas externalidades positivas