Hinton, o padrinho da IA, disse melhor: construímos os algoritmos de aprendizado, mas não entendemos mais o que eles construíram. Esse é o paradoxo do aprendizado profundo. Projetamos as regras de como esses sistemas aprendem, mas a lógica interna de suas redes neurais tornou-se complexa demais para entendermos completamente. Milhões ou mesmo trilhões de parâmetros interagem de maneiras que nenhum ser humano pode rastrear. Podemos observar o que eles fazem, podemos medir a precisão, o comportamento e a saída, mas não explicar verdadeiramente por que eles fazem isso. Seu raciocínio não é transparente; é emergente. De certa forma, criamos inteligências alienígenas nascidas de nossa matemática, ainda presas ao nosso código, mas evoluindo padrões que não podemos decodificar. As máquinas estão fazendo algo além da nossa compreensão e isso pode ser a coisa mais emocionante e perturbadora sobre a era da IA.