Yapay zekanın en büyük risklerinden biri, hiçbir insanın modelleyemeyeceği bir risktir. En büyük etkisi, sadece verimliliği artırmak değil, tüm insan faaliyeti kategorilerini (takdire dayalı ticaret dahil) ortadan kaldırmak olabilir. "Geliştirilmemiş insan zihnim, yapay zekanın aşmasının insanlık için ne anlama geleceğini anlama zihinsel kapasitesine sahip değil" @agurevich23