Um dos maiores riscos da IA é um que nenhum humano pode modelar. Seu maior impacto pode ser eliminar categorias inteiras de atividade humana (incluindo o comércio discricionário), e não apenas aumentar a produtividade. "Minha mente humana não aumentada não tem capacidade intelectual para compreender o que a transcendência da IA significaria para a humanidade" @agurevich23