Jeg leste nylig «If Anyone Builds It, Everyone Dies» av @ESYudkowsky og @So8res. En måte å oppsummere argumentet på er som følger: 1. I et scenario med rask avgang er det nærmest sikkert at menneskeheten vil bli utslettet. 2. Vi vet ikke om vi er en måned unna, et år eller et tiår unna en forbedring som ville satt oss i en rask oppstartssituasjon. 3. Gitt premissene 1 og 2, bør vi stanse utviklingen av KI og lage internasjonale traktater for å håndheve etterlevelse.