Hinton, el padrino de la IA, lo dijo mejor: construimos los algoritmos de aprendizaje, pero ya no entendemos lo que han construido. Esa es la paradoja del aprendizaje profundo. Diseñamos las reglas de cómo estos sistemas aprenden, sin embargo, la lógica interna de sus redes neuronales se ha vuelto demasiado compleja para que la comprendamos completamente. Millones o incluso billones de parámetros interactúan de maneras que ningún humano puede rastrear. Podemos observar lo que hacen, podemos medir la precisión, el comportamiento y la salida, pero no podemos explicar verdaderamente por qué lo hacen. Su razonamiento no es transparente; es emergente. En cierto sentido, hemos creado inteligencias alienígenas nacidas de nuestras matemáticas, aún atadas a nuestro código pero evolucionando patrones que no podemos decodificar. Las máquinas están haciendo algo que está más allá de nuestra comprensión y eso podría ser tanto lo más emocionante como lo más inquietante de la era de la IA.