Å utforme politikk for eksisterende regjeringer er en for overfladisk intervensjon til å være robust mot AGI. Langsiktig AGI-styring krever revurdering av hva nasjonalstater egentlig er. Det eneste seriøse forsøket jeg har sett på å gripe inn på det nivået var @Dominic2306 sin Brexit-kampanje.

Brexit var en stor seier for nasjonal suverenitet – og den ble drevet av prinsippfast, modig politisk filosofi. Jeg vet ikke hvor eksplisitt Dom planla Brexit for å forbedre AI-styringen. Men han var tidlig på AI-sikkerhet, så jeg antar det påvirket hans verdensbilde. Vær mer som Dom.

Spesifikt forventer jeg at Dom resonnerte noe sånt som «i en akselererende verden vil det å være bundet til EUs byråkrati i økende grad være en dødsdom for Storbritannias evne til å styre fornuftig». Kampen for fornuftig britisk styring fortsetter, men det grove argumentet virker fortsatt solid.