Yakın zamanda @ESYudkowsky ve @So8res'ın "If Anyone Builds It, Everybody Dies" adlı kitabını okudum. Argümanı özetlemenin bir yolu şöyledir: 1. Hızlı bir kalkış senaryosunda insanlığın yok olacağı neredeyse kesin. 2. Hızlı bir kalkış senaryosuna sokacak bir gelişmeye bir ay mı uzaktayız, bir yıl mı yoksa on yıl mı uzakta olduğumuzu bilmiyoruz. 3. 1. ve 2. öncüllere göre, yapay zeka geliştirmeyi durdurmalı ve uyumu sağlamak için uluslararası anlaşmalar oluşturmalıyız.