Si chaque humain tombait soudainement mort, l'IA cesserait également de fonctionner. Mais ce n'est pas une loi de l'univers. Quand l'IA sera-t-elle capable de continuer à fonctionner sans nous ? Un excellent nouvel article de @ajeya_cotra, qui enquête sur "l'IA autosuffisante" et sur les risques accrus que cela pourrait engendrer.

« Quand l'IA pourra-t-elle fonctionner parfaitement sans humains ? » est une question intense, et c'est le but. Ajeya a un fort désaccord sur la manière dont l'avenir pourrait être sauvage - même avec des gens qui hypent énormément les capacités de l'IA actuellement. J'admire la précision de cette étape.

Vous pouvez lire l'essai complet d'Ajeya ici :