Samenvatting van belangrijke _nuttige_ inzichten voor de mechanistische interpretabiliteitsgemeenschap specifiek: Afstanddistributies zijn een goedkope diagnose voor geleerde geometrie. Gegeven een representatieruimte is de histogram van paargewijze afstanden tussen willekeurig geselecteerde punten een sterke geometrische vingerafdruk. Verschillende geometrieën—Euclidisch, sferisch, hyperbolisch—en verschillende topologieën—begrensd vs. periodiek—produceren scherp verschillende afstandsdistributies, zelfs bij gematigde dimensies. Deze handtekeningen ontstaan uit concentratie van maat, randeffecten en kromming, en ze zijn robuust tegen ruis. Het belangrijkste voorstel is om afstandshistogrammen niet als curiositeiten te beschouwen, maar als forensische probes van welke geometrie een geleerde representatie impliciet gebruikt. Topologie is belangrijk onafhankelijk van kromming. Een vlak n-torus en een n-dimensionale hyperkubus delen dezelfde lokale Euclidische geometrie, maar hun afstandsdistributies verschillen aanzienlijk. De torus elimineert randeffecten, wat resulteert in een lagere gemiddelde afstand en een strakkere concentratie (~0.289√n) dan de hyperkubus (~0.408√n). Deze verschillen blijven bestaan en worden scherper met de dimensie. Dit toont aan dat veel "hoog-dimensionale pathologieën" die aan dimensionaliteit alleen worden toegeschreven, in feite artefacten van randvoorwaarden zijn—een onderscheid dat zelden expliciet wordt gemaakt in de ML-praktijk. Laag-dimensionale anomalieën onthullen geometrische mechanismen. In lage dimensies onthullen afstandsdistributies niet-Gaussiaanse structuren die direct aan geometrie zijn gekoppeld. Bijvoorbeeld, de 2D vlakke torus vertoont een integreerbare cusp bij de maximale afstand vanwege hoekbeperkingen in het gewikkelde coördinatenvierkant. Dit verdwijnt snel met de dimensie naarmate de concentratie domineert. Dergelijke kenmerken zijn geen numerieke ruis; ze zijn analytische gevolgen van geometrie. Het zien (of niet zien) van deze artefacten in geleerde embeddings biedt informatie over de effectieve dimensionaliteit en onafhankelijkheidsstructuur van representatiesubruimten. Toepassing van interpretabiliteit: forensisch onderzoek van de embeddingruimte. Gegeven een getraind model kan men semantisch coherente subsets van embeddings selecteren (bijv. geografische entiteiten, taxonomieën, emoties, temporele concepten) en hun paargewijze afstandshistogrammen berekenen. Het vergelijken van deze histogrammen met theoretische voorspellingen maakt inferentie mogelijk over de geometrie die het model heeft geleerd voor dat domein. Sferische handtekeningen zouden wijzen op hoek- of manifoldachtige representaties; hyperbolische handtekeningen zouden wijzen op hiërarchische structuren; Euclidische of toroidale handtekeningen zouden wijzen op vlakke gelijkenisruimten met of zonder randartefacten. Implicatie: geleerde representaties zijn waarschijnlijk hybride-geometrisch. De meeste huidige werken gaan uit van een enkele globale geometrie (typisch Euclidisch of hyperbolisch). De histogrambenadering generaliseert natuurlijk naar gemengde geometrieën, waarbij verschillende semantische subruimten verschillende krommingen of topologieën instantiëren. Dit suggereert een pad naar architectonisch expliciete, geometrie-bewuste representaties, waarbij geometrie een ontwerpparameter is in plaats van een opkomend ongeluk—en waarbij interpretabiliteitstools kunnen lokaliseren wat voor soort structuur een model heeft geleerd, niet alleen waar informatie zich bevindt. Samenvatting. Afstandshistogrammen zijn eenvoudige, snelle en theoretisch onderbouwde probes die kromming, topologie en effectieve dimensionaliteit in geleerde representaties blootleggen. Ze bieden een diagnose op geometrieniveau die neuron-niveau en circuit-niveau interpretabiliteit aanvult, en ze suggereren concrete experimenten om te testen hoe modellen intern verschillende soorten kennis organiseren. (Samenvatting door Chat 5.2)