Hinton, o padrinho da IA, disse-o da melhor forma: nós construímos os algoritmos de aprendizagem, mas já não entendemos o que eles construíram. Esse é o paradoxo do deep learning. Nós desenhámos as regras de como esses sistemas aprendem, no entanto, a lógica interna das suas redes neurais tornou-se demasiado complexa para nós compreendermos totalmente. Milhões ou até trilhões de parâmetros interagem de maneiras que nenhum humano consegue rastrear. Podemos observar o que eles fazem, podemos medir a precisão, o comportamento e a saída, mas não conseguimos realmente explicar por que o fazem. O seu raciocínio não é transparente; é emergente. De certa forma, criámos inteligências alienígenas nascidas da nossa matemática, ainda ligadas ao nosso código, mas evoluindo padrões que não conseguimos decifrar. As máquinas estão a fazer algo que está além da nossa compreensão e isso pode ser tanto a coisa mais emocionante quanto a mais inquietante da era da IA.