Jednym z największych ryzyk AI jest to, którego żaden człowiek nie może modelować. Jego największy wpływ może polegać na eliminacji całych kategorii ludzkiej aktywności (w tym handlu dyskrecjonalnego), a nie tylko na zwiększaniu wydajności. "Mój niezmieniony ludzki umysł nie ma intelektualnej zdolności, aby pojąć, co oznaczałaby transcendencja AI dla ludzkości" @agurevich23