Yksi tekoälyn suurimmista riskeistä on sellainen, jota kukaan ihminen ei voi mallintaa. Sen suurin vaikutus saattaa olla kokonaisten ihmistoiminnan kategorioiden (mukaan lukien harkinnanvarainen kaupankäynti) poistaminen, ei pelkästään tuottavuuden lisääminen. "Täydennyksetön ihmismieleni ei kykene käsittämään, mitä tekoälyn yliluominen merkitsisi ihmiskunnalle" @agurevich23