Czy możemy zrozumieć łańcuch myślenia (CoT) latentnych modeli LLM przy użyciu obecnych technik interpretacji mechanizmów? Okazuje się, że możemy odkryć interpretowalną strukturę, przynajmniej w prostych problemach matematycznych! W krótkim badaniu pokazujemy, że wektory latentne reprezentują np. obliczenia pośrednie.