En av KIs største risikoer er en som ingen menneske kan modellere. Den største effekten kan være å eliminere hele kategorier av menneskelig aktivitet (inkludert diskresjonær handel), ikke bare øke produktiviteten. "Mitt uforsterkede menneskelige sinn har ikke den intellektuelle kapasiteten til å forstå hva AI-transcendens ville bety for menneskeheten" @agurevich23