Podsumowanie kluczowych _przydatnych_ spostrzeżeń dla tłumu zajmującego się mechanistyczną interpretowalnością: Rozkłady odległości są tanim diagnostykiem dla nauczonej geometrii. Biorąc pod uwagę przestrzeń reprezentacji, histogram odległości par punktów losowo próbkowanych jest silnym odciskiem geometrycznym. Różne geometrie—euklidesowa, sferyczna, hiperboliczna—i różne topologie—ograniczone vs. okresowe—produkują wyraźnie różne rozkłady odległości, nawet w umiarkowanej wymiarowości. Te sygnatury wynikają z koncentracji miary, efektów brzegowych i krzywizny, i są odporne na szum. Kluczową propozycją jest traktowanie histogramów odległości nie jako ciekawostek, ale jako forensycznych narzędzi do badania, jaką geometrię nauczona reprezentacja używa w sposób niejawny. Topologia ma znaczenie niezależnie od krzywizny. Płaski n-torus i n-wymiarowy sześcian mają tę samą lokalną geometrię euklidesową, jednak ich rozkłady odległości różnią się znacznie. Torus eliminuje efekty brzegowe, co prowadzi do niższej średniej odległości i ściślejszej koncentracji (~0.289√n) niż sześcian (~0.408√n). Te różnice utrzymują się i zaostrzają wraz z wymiarem. To pokazuje, że wiele „wysokowymiarowych patologii” przypisywanych jedynie wymiarowości jest w rzeczywistości artefaktami warunków brzegowych—rozróżnienie, które rzadko jest wyraźnie zaznaczane w praktyce ML. Niskowymiarowe anomalie ujawniają mechanizmy geometryczne. W niskich wymiarach rozkłady odległości ujawniają nienaumatyczną strukturę bezpośrednio związaną z geometrią. Na przykład, 2D płaski torus wykazuje całkowalny wierzchołek przy maksymalnej odległości z powodu ograniczeń narożnych w owiniętym kwadracie współrzędnych. To szybko znika wraz z wymiarem, gdy koncentracja dominuje. Takie cechy nie są szumem numerycznym; są analitycznymi konsekwencjami geometrii. Widzenie (lub niewidzenie) tych artefaktów w nauczonych osadzeniach dostarcza informacji o efektywnej wymiarowości i strukturze niezależności podprzestrzeni reprezentacji. Zastosowanie interpretowalności: forensyka przestrzeni osadzenia. Mając wytrenowany model, można wybrać semantycznie spójne podzbiory osadzeń (np. podmioty geograficzne, taksonomie, emocje, pojęcia czasowe) i obliczyć ich histogramy odległości par. Porównując te histogramy z teoretycznymi przewidywaniami, można wnioskować o geometrii, jaką model nauczył się dla tej dziedziny. Sygnatury sferyczne sugerowałyby reprezentacje kątowe lub podobne do rozmaitości; sygnatury hiperboliczne sugerowałyby strukturę hierarchiczną; sygnatury euklidesowe lub toroidalne sugerowałyby płaskie przestrzenie podobieństwa z lub bez artefaktów brzegowych. Implikacja: nauczone reprezentacje są prawdopodobnie hybrydowo-geometryczne. Większość obecnych prac zakłada jedną globalną geometrię (zwykle euklidesową lub hiperboliczną). Podejście histogramowe naturalnie generalizuje się do mieszanych geometrii, gdzie różne semantyczne podprzestrzenie instancjonują różne krzywizny lub topologie. To sugeruje drogę do architektonicznie wyraźnych, świadomych geometrii reprezentacji, gdzie geometria jest parametrem projektowym, a nie przypadkowym wynikiem—i gdzie narzędzia interpretowalności mogą lokalizować, jakiego rodzaju strukturę model nauczył się, a nie tylko gdzie znajduje się informacja. Podsumowanie. Histogramy odległości są prostymi, szybkimi i teoretycznie uzasadnionymi narzędziami, które ujawniają krzywiznę, topologię i efektywną wymiarowość w nauczonych reprezentacjach. Stanowią diagnostykę na poziomie geometrii, która uzupełnia interpretowalność na poziomie neuronów i obwodów, i sugerują konkretne eksperymenty do testowania, jak modele wewnętrznie organizują różne rodzaje wiedzy. (Podsumowanie przez Chat 5.2)