Du bør antakelig oppdatere fra 'emergent misalignment' til at inkompetanse og ondskap er nærmere knyttet enn du tror, og hvis du bryr deg om å bli et godt menneske, bør du bry deg om å bli veldig kompetent (et annet, dypere argument enn 'du kan gjøre mer godt når du er mer kompetent'). gode ting henger sammen; 'Emergent misalignment' er en manifestasjon av denne bredere sannheten Throrndike 1920 via @gwern 'Alt er korrelert': «I menneskets natur hører gode egenskaper sammen. Den som har en overlegen intelligens gis også i gjennomsnitt en overlegen karakter; Den raske gutten er også på sikt mer presis; Den dyktige gutten er også mer flittig. [...] Regelen er at ønskelige egenskaper er positivt korrelerte.» Dette er en av grunnene til at 'ortogonalitetstesen' alltid har vært tvilsom. I teorien kan intelligens + prososialitet gå fra hverandre; I praksis (fortrening på menneskelige data) passer gode ting sammen Og dette er også en grunn til at overdreven rasjonalistisk frakobling er tvilsom. Det vi i stedet trenger, er ikke usystematisk kontekstualisering: det er systematisk studie av hva som er koblet til hva, og nøye beslutningstaking basert på dette I praksis genererer den kapable agenten som handler under et veldefinert regime mange positive eksternaliteter