Salah satu risiko terbesar AI adalah risiko yang tidak dapat dimodelkan oleh manusia. Dampak terbesarnya mungkin menghilangkan seluruh kategori aktivitas manusia (termasuk perdagangan diskresioner), bukan hanya meningkatkan produktivitas. "Pikiran manusia saya yang tidak ditambah tidak memiliki kapasitas intelektual untuk memahami apa arti transendensi AI bagi umat manusia" @agurevich23