Um dos maiores riscos da AI é um que nenhum humano consegue modelar. O seu maior impacto pode ser a eliminação de categorias inteiras de atividade humana (incluindo a negociação discricionária), não apenas o aumento da produtividade. "A minha mente humana não aumentada não tem a capacidade intelectual para compreender o que a transcendência da AI significaria para a humanidade" @agurevich23