Du solltest vermutlich von 'emergent misalignment' aktualisieren, dass Inkompetenz und Bösartigkeit enger miteinander verbunden sind, als du denkst, und wenn du daran interessiert bist, ein guter Mensch zu werden, solltest du dich darum kümmern, sehr kompetent zu werden (ein anderes, tiefergehendes Argument als 'du kannst mehr Gutes tun, wenn du kompetenter bist') Gute Dinge sind korreliert; 'emergent misalignment' ist eine Veranschaulichung dieser breiteren Wahrheit. Thorndike 1920 über @gwern 'alles ist korreliert': "In der menschlichen Natur gehen gute Eigenschaften zusammen. Dem, der einen überlegenen Intellekt hat, wird im Durchschnitt auch ein überlegener Charakter gegeben; der schnelle Junge ist auch auf lange Sicht genauer; der fähige Junge ist auch fleißiger. [...] Die Regel ist, dass wünschenswerte Eigenschaften positiv korreliert sind." Das ist ein Grund, warum 'die Orthogonalitätsthese' immer verdächtig war. In der Theorie können Intelligenz + prosoziale Eigenschaften auseinandergehen; in der Praxis (Vortraining mit menschlichen Daten) gehen gute Dinge zusammen. Und das ist auch ein Grund, warum übermäßige rationalistische Entkopplung verdächtig ist. Was wir stattdessen brauchen, ist keine unsystematische Kontextualisierung: es ist die systematische Untersuchung dessen, was mit was gekoppelt ist, und sorgfältige Entscheidungsfindung auf dieser Grundlage. In der Praxis erzeugt der fähige Agent, der unter einem gut definierten Regime handelt, viele positive Externalitäten.