Suspeito que a maior parte do mistério restante da "interpretabilidade da IA", e o (na minha opinião) intimamente relacionado da interpretabilidade cerebral, seja apenas uma questão de explicar intuitivamente por que o deep learning em espaço de alta dimensão é tão poderoso. Mas os pesos resultantes são simplesmente o que são.