Mit zunehmender Größe und Leistungsfähigkeit der Modelle wird ein Problem immer offensichtlicher: Die Geschwindigkeit der Validierung kann mit der Komplexität und Geschwindigkeit der Inferenz nicht Schritt halten. Wenn der Inferenzprozess immer mehr wie eine Black Box aussieht, die Herkunft des Modells unklar ist und der Ausführungsweg nicht vollständig reproduziert werden kann, beginnt das Vertrauen zu schwinden. Nicht weil es unbedingt falsch ist, sondern weil wir einfach nicht beweisen können, dass es nicht falsch ist. Das nennt man die Verifikationslücke (verification gap). KI ist nicht zu wenig intelligent, sondern es fehlt an einer zuverlässigen Methode, die es jedem ermöglicht zu bestätigen, aus welchem Modell diese Ausgabe stammt, in welcher Umgebung sie ausgeführt wurde und ob sie strikt nach den Regeln ausgeführt wurde. Was Inference Labs eigentlich anstrebt, ist ziemlich direkt: Jede KI-Ausgabe soll einen verschlüsselten digitalen Fingerabdruck mit sich bringen. Es geht nicht um nachträgliche Erklärungen und nicht darum, dass der Anbieter sagt: "Ich garantiere es", sondern um einen Nachweis, den jeder selbst überprüfen und der dauerhaft einsehbar ist. Identität, Herkunft, Ausführungsintegrität – all das wird in dem Moment, in dem die Ausgabe erfolgt, festgelegt. Nur wenn die Systeme auditierbar sind, können sie wirklich vertraut werden. Nur wenn Vertrauen nachweisbar ist, kann autonome KI bedenkenlos in großem Maßstab implementiert werden. Das ist die Richtung, in die sie drängen.