Я подозреваю, что большая часть оставшейся загадки «интерпретируемости ИИ», и (по моему мнению) тесно связанной с ней загадки интерпретируемости мозга, заключается в интуитивном объяснении того, почему глубокое обучение в пространстве высокой размерности так мощно. Но полученные веса просто есть то, что они есть.