Die bayesianische Inferenz bewahrt die Unterstützung der Prior. Jeder Prozess, der den Raum der zulässigen Hypothesen verändert, liegt daher außerhalb des bayesianischen Rahmens. Das Gleiche gilt für alle Inferenz mit festem Support. Bayesianische Methoden sind nur das kanonische Beispiel.

Die traditionelle Lösung für dieses Problem mit der Bayesschen Inferenz besteht darin, die Frage der Zulässigkeit zu umgehen, indem man einen Ausgangsprior wählt, der Unterstützung für alle berechenbaren Hypothesen bietet (d.h. den Solomonoff-Prior), und ihn von dort aus eingrenzt.

Das Problem bei diesem Ansatz ist, dass der Solomonoff-Vorhersage unberechenbar ist. Jede realisierbare Annäherung muss auf einen endlichen Hypothesenraum beschränkt werden – an diesem Punkt kehrt das ursprüngliche Problem zurück.

Hierarchische Modelle ermöglichen die bayesianische Modellreduktion und andere ähnliche Techniken, aber letztendlich hat die oberste Ebene der Hierarchie eine feste Unterstützung, die sie nicht überschreiten kann.

Wenn das Lernen, das die Unterstützung erweitert, nicht vollständig durch eine feste Unterstützungsmetode, einschließlich der Bayesschen Inferenz, charakterisiert werden kann, welche Art von Inferenz ist es dann?

Wenn eine Störung außerhalb des Unterstützungsbereichs des Prozesses liegt, kann sie nicht als Beweis für eine Aktualisierung verarbeitet werden. Stattdessen muss das Lernen stattfinden, wenn die Störung den Prozess selbst direkt kausal umstrukturiert.

Die Unterstützung erweiternder Varianz entsteht aus dem Prozess, der es der Umgebung ermöglicht, sie in Dimensionen zu stören, die sie derzeit als Maß null zuweist. Lernen über den natürlichen Gradienten, der Gradient des Substrats und nicht des Modells.

Die Überzeugungen eines Agenten liegen notwendigerweise entweder unter seiner eigenen Kontrolle (was das GDI-Papier als Agency beschreibt) oder unter der Kontrolle der Umgebung (was das GDI-Papier als Plasticity beschreibt).

Ohne Handlungsmacht kann ein Prozess nicht erfolgreich in sich selbst und in der Welt agieren, um seine eigene Beständigkeit aufrechtzuerhalten. Ohne Plastizität kann ein Modell die unbekannten Winkel in den Rissen seiner Überzeugungen, die verborgenen Dimensionen der Realität, nicht entdecken, und es wird sterben, wenn sich die Welt verändert.

(Danke an Claude Opus, der mir geholfen hat, die Formulierungen bei mehreren dieser Punkte zu überarbeiten, sie sind viel präziser als der ursprüngliche Thread!)