Se todos os humanos de repente caíssem mortos, a IA também deixaria de funcionar. Mas isso não é uma lei do universo. Quando é que a IA será capaz de continuar a funcionar sem nós? Ótimo novo artigo de @ajeya_cotra, investigando "IA auto-suficiente" e como estaremos então em maior risco.

"Quando pode a IA funcionar bem sem humanos?" é uma pergunta intensa, e esse é o ponto. Ajeya tem uma forte discordância sobre quão selvagem o futuro pode ser - mesmo com as pessoas atualmente a exagerar muito nas capacidades da IA. Admiro a clareza do marco.

Você pode ler o ensaio completo de Ajeya aqui: