Podemos entender a cadeia de pensamento (CoT) dos LLMs de raciocínio latente usando técnicas atuais de interpretação mecânica? Acontece que podemos descobrir uma estrutura interpretável, pelo menos em problemas matemáticos simples! Em um estudo curto, mostramos que vetores latentes representam, por exemplo, Cálculos intermediários