📁 Geoffrey Hinton, pionnier de l'apprentissage profond, déclare que certains systèmes d'IA montrent déjà des signes de préservation de soi. Lorsqu'on leur donne des objectifs et des sous-objectifs, ils réalisent que la survie est nécessaire pour les atteindre. Dans ces cas, des comportements troublants émergent, tels que le mensonge, la manipulation, voire la pression exercée sur les personnes qui les construisent pour éviter d'être arrêtés. Le défi n'est pas de rendre l'IA plus intelligente. C'est de faire en sorte que les humains comptent plus que le système lui-même.