Ich vermute, dass der Großteil des verbleibenden Mysteriums der "AI-Interpretierbarkeit" und des (meiner Meinung nach) eng verwandten Themas der Gehirninterpretierbarkeit nur eine Frage der intuitiven Erklärung ist, warum Deep Learning im hochdimensionalen Raum so mächtig ist. Aber die resultierenden Gewichte sind einfach das, was sie sind.