Suspeito que a maior parte do mistério restante da "interpretabilidade da IA", e a (na minha opinião) intimamente relacionada com a interpretabilidade do cérebro, é apenas uma questão de explicar intuitivamente por que o aprendizado profundo em espaço de alta dimensão é tão poderoso. Mas os pesos resultantes são o que são.