VIKTIG POENG: Selv ***hvis*** vi løser alignment og bygger «lydige superintelligenser», kan vi fortsatt få en superfarlig verden hvor alles «lydige slavesuperhelter» kjemper Vi kan være maur trampet ned av elefanter som slåss Og hvis de IKKE er lydige...