Luin äskettäin @ESYudkowsky ja @So8res:n kirjan "If Anyone Builds It, Everyone Dies". Yksi tapa tiivistää argumentti on seuraava: 1. Nopeassa nousutilanteessa on lähes varmaa, että ihmiskunta tuhoutuu. 2. Emme tiedä, olemmeko kuukauden päässä, vuodessa vai kymmenen vuoden päässä parannuksesta, joka veisi meidät nopeaan nousutilanteeseen. 3. Lähtökohdan 1 ja 2 perusteella meidän tulisi pysäyttää tekoälyn kehitys ja luoda kansainvälisiä sopimuksia vaatimustenmukaisuuden varmistamiseksi.