Nedávno jsem četl knihu "If Anyone Builds It, Everyone Dies" od @ESYudkowsky and @So8res. Jedním ze způsobů, jak argument shrnout, je následující: 1. V rychlém startu je téměř jisté, že lidstvo bude vyhlazeno. 2. Nevíme, jestli jsme od zlepšení, které by nás dostalo do rychlého startu měsíc, rok nebo deset let. 3. S ohledem na předpoklady 1 a 2 bychom měli vývoj AI zastavit a vytvořit mezinárodní smlouvy k vynucení dodržování předpisů.