特にメカニズティック解釈可能性の層にとって重要な_有用_洞察のまとめ: 距離分布は学んだ幾何学の安価な診断手段です。 表現空間が与えられたとき、ランダムにサンプリングされた点間のペア間の距離のヒストグラムは強い幾何学的指紋となります。ユークリッド形状、球面形状、双曲線形状、そして有界位相と周期位相の違いは、中程度の次元でも明確に異なる距離分布を生み出します。これらのシグネチャーは測度の集中、境界効果、曲率から生じ、ノイズに対して強固です。重要な提案は、距離ヒストグラムを好奇心の塊としてではなく、学習された表現が暗黙のうちにどの幾何学を用いているかを探る法医学的な探査として扱うことである。 位相は曲率とは独立して重要です。 平坦なn次元トーラスとn次元ハイパーキューブは同じ局所ユークリッド幾何学を共有しますが、距離分布は大きく異なります。トーラスは境界効果を排除し、ハイパーキューブ(~0.408√n)よりも低い平均距離とより強い濃度(~0.289√n)をもたらします。これらの違いは依然として存在し、次元に増すにつれて鮮明になります。これは、次元性単独に起因するとされる多くの「高次元病理」が実際には境界条件の人工物であることを示しており、これは機械学習の実践ではほとんど明確に区別されないことです。 低次元異常は幾何学的なメカニズムを露呈させます。 低次元では、距離分布は幾何学に直接結びついた非ガウス構造を明らかにします。例えば、2次元の平坦トーラスは、巻き付けられた座標正方形の角制約により最大距離で積分可能な尖点を示します。しかし、濃度が優勢になると、次元が大きくなるにつれてこの感覚は急速に消えていきます。これらの特徴は数値ノイズではありません。これらは幾何学の解析的帰結です。学習された埋め込みでこれらのアーティファクトを見る(または見えない)ことで、表現部分空間の効果的な次元性と独立構造に関する情報が得られます。 解釈可能性の応用:空間フォレンジクスの埋め込み。 訓練済みモデルが与えられると、意味的に整合性のある埋め込みの部分集合(例:地理的実体、分類法、感情、時間的概念)を選択し、それらのペアワイズ距離ヒストグラムを計算できます。これらのヒストグラムを理論的予測と比較することで、モデルがその領域で学習した幾何学について推論できます。球面署名は角ばった多様体のような表現を示唆します。双曲線的な署名は階層構造を示唆します。ユークリッド署名やトロイド署名は、境界アーティファクトの有無にかかわらず平坦な類似空間を示唆します。 含意:学習された表現はおそらくハイブリッド幾何学的である。 現在のほとんどの研究は単一のグローバル幾何学(通常はユークリッド幾何または双曲幾何学)を仮定しています。ヒストグラムのアプローチは自然に混合幾何学にも一般化され、異なる意味部分空間が異なる曲率や位相を実体化します。これは、幾何学が偶然の産物ではなく設計パラメータとなり、解釈可能性ツールが情報の所在だけでなく、モデルが学習した構造の種類を位置づけるアーキテクチャ的に明示的で幾何学認識型の表現への道筋を示唆しています。 概要。 距離ヒストグラムは、学習表現における曲率、位相、有効次元性を明らかにする、単純で高速かつ理論的に根拠のあるプローブです。これらはニューロンレベルや回路レベルの解釈性を補完する幾何学レベルの診断を提供し、モデルが内部的に異なる種類の知識をどのように組織するかを検証するための具体的な実験を提案します。 (Chat 5.2による要約)