Hinton, de peetvader van AI, zei het het best: we hebben de leeralgoritmen gebouwd, maar we begrijpen niet meer wat ze hebben gebouwd. Dat is de paradox van deep learning. We hebben de regels ontworpen voor hoe deze systemen leren, maar de interne logica van hun neurale netwerken is te complex geworden voor ons om volledig te begrijpen. Miljoenen of zelfs triljoenen parameters interageren op manieren die geen mens kan volgen. We kunnen observeren wat ze doen, we kunnen nauwkeurigheid, gedrag en output meten, maar niet echt uitleggen waarom ze het doen. Hun redenering is niet transparant; het is emergent. In zekere zin hebben we buitenaardse intelligenties gecreëerd die voortkomen uit onze wiskunde, nog steeds verbonden met onze code, maar evoluerende patronen die we niet kunnen ontcijferen. De machines doen iets dat onze begrip te boven gaat en dat zou zowel het meest opwindende als het meest verontrustende kunnen zijn aan het tijdperk van AI.