Bayesiaanse inferentie behoudt de ondersteuning van de prior. Elk proces dat de ruimte van toelaatbare hypothesen verandert, ligt daarom buiten het Bayesiaanse kader. Hetzelfde geldt voor alle inferentie met vaste ondersteuning. Bayesiaanse methoden zijn gewoon het canonieke voorbeeld.
De traditionele oplossing voor dit probleem met Bayesian inference is om de vraag naar toelaatbaarheid te omzeilen door een startprior te kiezen die ondersteuning biedt voor alle berekenbare hypothesen (d.w.z. de Solomonoff prior) en deze van daaruit te verfijnen.
Het probleem met deze benadering is dat de Solomonoff-prior niet berekenbaar is. Elke realiseerbare benadering moet zich beperken tot een eindige hypothese-ruimte—waarbij het oorspronkelijke probleem weer opduikt.
Hiërarchische modellen maken Bayesian modelreductie en andere vergelijkbare technieken mogelijk, maar uiteindelijk heeft het hoogste niveau van de hiërarchie een vaste ondersteuning waar het niet verder dan kan gaan.
Dus als leren dat de ondersteuning uitbreidt niet volledig kan worden gekarakteriseerd door een vaste ondersteuningsmethode, inclusief Bayesian inference, wat voor soort inferentie is het dan?
Als een verstoring buiten de ondersteuning van het proces ligt, kan deze niet worden verwerkt als bewijs voor bijwerking. In plaats daarvan moet het leren plaatsvinden wanneer de verstoring het proces zelf direct causaal herstructureert.
Ondersteunende uitbreidbare variantie ontstaat uit het proces dat de omgeving toestaat om het te verstoren in dimensies die momenteel een maat nul toegewezen krijgen. Leren via de natuurlijke gradient, de gradient van het substraat in plaats van het model.
De overtuigingen van een agent zijn noodzakelijkerwijs of onder zijn eigen controle (wat het GDI-document beschrijft als agency) of onder de controle van de omgeving (wat het GDI-document beschrijft als plasticiteit).
Zonder agentiviteit kan een proces niet succesvol in zichzelf en de wereld handelen om zijn eigen persistentie te behouden. Zonder plasticiteit kan een model de onbekende hoeken in de scheuren van zijn overtuigingen, de verborgen dimensies van de realiteit, niet ontdekken, en het zal sterven wanneer de wereld verandert.
(Dank aan Claude Opus voor het helpen bij het verfijnen van de taal in verschillende van deze, het is veel strakker dan de originele thread!)
146