A inferência bayesiana preserva o suporte do prior. Qualquer processo que altere o espaço de hipóteses admissíveis, portanto, está fora do arcabouço bayesiano. O mesmo vale para toda inferência de suporte fixo. Métodos bayesianos são apenas o exemplo canônico.

A solução tradicional para esse problema com inferência bayesiana é contornar a questão da admissibilidade escolhendo um prior inicial com suporte para todas as hipóteses computáveis (ou seja, o prior de Solomonoff), e restringir a escolha a partir daí.

O problema dessa abordagem é que o prior de Solomonoff é incomputável. Qualquer aproximação realizável deve se restringir a um espaço de hipóteses finito — momento em que o problema original retorna.

Modelos hierárquicos possibilitam redução de modelos bayesiano e outras técnicas semelhantes, mas, em última análise, o nível superior da hierarquia possui algum suporte fixo que não pode ultrapassar.

Então, se o aprendizado que expande o suporte não pode ser totalmente caracterizado por nenhum método de suporte fixo, incluindo inferência bayesiana, que tipo de inferência é essa?

Se uma perturbação estiver fora do suporte do processo, ela não pode ser processada como evidência para atualização. Em vez disso, o aprendizado deve ocorrer quando a perturbação reestrutura causalmente o próprio processo diretamente.

A variância de expansão de suporte surge do processo permitindo que o ambiente o perturbe nas dimensões às quais atualmente atribui medida zero. Aprendendo pelo gradiente natural, o gradiente do substrato em vez do modelo.

As crenças de um agente estão necessariamente sob seu próprio controle (o que o artigo da GDI descreve como agência) ou sob os ambientes (o que o artigo da GDI descreve como plasticidade).

Sem agência, um processo não pode agir com sucesso em si mesmo e no mundo para manter sua própria persistência. Sem plasticidade, um modelo não pode descobrir os ângulos desconhecidos nas rachaduras de suas crenças, nas dimensões ocultas da realidade, e ele morrerá quando o mundo mudar.

(Obrigado ao Claude Opus por me ajudar a trabalhar a linguagem em vários desses, é muito mais coeso do que o tópico original!)