Sospecho que la mayor parte del misterio que queda sobre la "interpretabilidad de la IA", y el (en mi opinión) muy relacionado de la interpretabilidad cerebral, es simplemente cuestión de explicar intuitivamente por qué el aprendizaje profundo en el espacio de alta dimensión es tan poderoso. Pero los pesos resultantes son simplemente lo que son.