Inferența bayesiană păstrează susținerea priorului. Orice proces care schimbă spațiul ipotezelor admisibile se află astfel în afara cadrului bayesian. Același lucru este valabil și pentru toate inferențele cu suport fix. Metodele bayesiene sunt doar exemplul canonic.
Soluția tradițională pentru această problemă cu inferența bayesiană este să se evite problema admisibilității alegând un prior de pornire cu suport pentru toate ipotezele calculabile (adică priorul Solomonoff) și să restrângă de acolo.
Problema cu această abordare este că prioria Solomonoff este necalculabilă. Orice aproximare realizabilă trebuie să se restricționeze la un spațiu finit de ipoteze—moment în care problema originală revine.
Modelele ierarhice permit reducerea bayesiană a modelelor și alte tehnici similare, dar, în cele din urmă, nivelul superior al ierarhiei are un suport fix pe care nu îl poate depăși.
Așadar, dacă învățarea care extinde suportul nu poate fi caracterizată pe deplin prin nicio metodă cu suport fix, inclusiv inferența bayesiană, atunci ce fel de inferență este aceasta?
Dacă o perturbație este în afara suportului procesului, nu poate fi procesată ca dovadă pentru actualizare. În schimb, învățarea trebuie să aibă loc atunci când perturbația restructurează cauzal procesul în sine direct.
Varianța de expansiune a suportului apare din proces, permițând mediului să o perturbe în dimensiunile cărora le atribuie în prezent măsura zero. Învățarea prin gradientul natural, gradientul substratului, nu al modelului.
Credințele unui agent sunt neapărat fie sub controlul său propriu (ceea ce articolul GDI descrie ca agenție), fie sub mediul mediului (ceea ce articolul GDI descrie ca plasticitate).
Fără agenție, un proces nu poate acționa cu succes în sine și în lume pentru a-și menține propria persistență. Fără plasticitate, un model nu poate descoperi unghiurile necunoscute din crăpăturile credințelor sale, dimensiunile ascunse ale realității, și va muri când lumea se va schimba.
(Mulțumiri lui Claude Opus pentru că m-a ajutat să lucrez limbajul la mai multe dintre acestea, este mult mai strâns decât firul inițial!)
134