Chúng ta có thể hiểu chuỗi suy nghĩ (CoT) của các mô hình LLM lý luận tiềm ẩn bằng cách sử dụng các kỹ thuật giải thích hiện tại không? Hóa ra chúng ta có thể khám phá cấu trúc có thể giải thích, ít nhất là trên các bài toán toán học đơn giản! Trong một nghiên cứu ngắn, chúng tôi cho thấy rằng các vector tiềm ẩn đại diện cho ví dụ như các phép tính trung gian.