A inferência bayesiana preserva o suporte da priori. Qualquer processo que altera o espaço de hipóteses admissíveis, portanto, está fora do quadro bayesiano. O mesmo é verdade para toda a inferência de suporte fixo. Os métodos bayesianos são apenas o exemplo canônico.

A solução tradicional para este problema com a inferência bayesiana é contornar a questão da admissibilidade escolhendo um prior inicial com suporte para todas as hipóteses computáveis (ou seja, o prior de Solomonoff) e restringi-lo a partir daí.

O problema com esta abordagem é que o prior de Solomonoff é incomputável. Qualquer aproximação realizável deve restringir-se a um espaço de hipóteses finito—nesse ponto, o problema original retorna.

Modelos hierárquicos permitem a redução de modelos Bayesianos e outras técnicas semelhantes, mas, em última análise, o nível superior da hierarquia tem algum suporte fixo que não pode ultrapassar.

Portanto, se o aprendizado que expande o suporte não pode ser totalmente caracterizado por nenhum método de suporte fixo, incluindo a inferência bayesiana, que tipo de inferência é essa?

Se uma perturbação estiver fora do suporte do processo, não pode ser processada como evidência para atualização. Em vez disso, a aprendizagem deve ocorrer quando a perturbação reestrutura causalmente o próprio processo diretamente.

A variância em expansão de suporte surge do processo que permite ao ambiente perturbá-la em dimensões que atualmente atribui medida zero. Aprendendo através do gradiente natural, o gradiente do substrato em vez do modelo.

As crenças de um agente estão necessariamente sob seu próprio controle (o que o artigo do GDI descreve como agência) ou sob o controle do ambiente (o que o artigo do GDI descreve como plasticidade).

Sem agência, um processo não pode agir com sucesso em si mesmo e no mundo para manter a sua própria persistência. Sem plasticidade, um modelo não pode descobrir os ângulos desconhecidos nas fissuras das suas crenças, as dimensões ocultas da realidade, e morrerá quando o mundo mudar.

(Obrigado ao Claude Opus por me ajudar a trabalhar a linguagem em vários destes, está muito mais conciso do que o tópico original!)