A arquitetura Transformer é fundamentalmente um processador paralelo de contexto, mas o raciocínio é um processo sequencial e iterativo. Para resolver problemas complexos, um modelo precisa de um "bloco de notas" não apenas na sua saída CoT, mas no seu estado interno. Uma maneira diferenciável de fazer loops, ramificações e retrocessos até que o modelo encontre uma solução que funcione.