Yapay zekanın vaftiz babası Hinton bunu en iyi şekilde ifade etti: Öğrenme algoritmalarını biz oluşturduk ama artık ne inşa ettiklerini anlamıyoruz. Derin öğrenmenin paradoksu budur. Bu sistemlerin nasıl öğreneceğine ilişkin kuralları tasarladık, ancak sinir ağlarının iç mantığı tam olarak kavrayamayacağımız kadar karmaşık hale geldi. Milyonlarca hatta trilyonlarca parametre, hiçbir insanın izleyemeyeceği şekillerde etkileşime girer. Ne yaptıklarını gözlemleyebiliriz, doğruluğu, davranışı ve çıktıyı ölçebiliriz ama bunu neden yaptıklarını tam olarak açıklayamayız. Akıl yürütmeleri şeffaf değil; acil bir durum. Bir anlamda, matematiğimizden doğan, hâlâ kodumuza bağlı olan ancak çözemediğimiz kalıplar geliştiren uzaylı zekalar yarattık. Makineler bizim kavrayışımızın ötesinde bir şey yapıyor ve bu, yapay zeka çağıyla ilgili hem en heyecan verici hem de en rahatsız edici şey olabilir.