RIP Chain of Thought. Tôi vừa thử nghiệm Skeleton of Thought và nó đã giảm thời gian phản hồi xuống một nửa trong các nhiệm vụ có cấu trúc trong khi cải thiện chất lượng đầu ra. Một bài báo đã thay đổi cách tôi nghĩ về việc tạo ra văn bản AI. CoT buộc mô hình phải suy nghĩ và viết đồng thời. Điểm 1 phải hoàn thành trước khi Điểm 2 bắt đầu. Điểm 2 trước Điểm 3. Mỗi token bị chặn bởi token trước đó. Các chuyên gia không làm việc theo cách đó. Một tư vấn viên của McKinsey phác thảo từng phần trước, sau đó phát triển từng phần một cách độc lập. Một giáo sư phác thảo các chủ đề, sau đó điền vào. SoT phù hợp với điều đó. Giai đoạn 1 - Skeleton: Mô hình viết một phác thảo sơ lược của từng điểm. Không có sự mở rộng. Chỉ có cấu trúc. Giai đoạn 2 - Parallel Fill: Mỗi điểm skeleton mở rộng một cách độc lập. Điểm 3 không chờ Điểm 2. Một nhánh sai không làm chậm mọi nhánh sau nó. Lời nhắc chính xác: "Đầu tiên, viết một skeleton ngắn gọn của phản hồi của bạn dưới dạng danh sách các điểm chính. Sau đó, mở rộng từng điểm một cách độc lập và đầy đủ. Định dạng: [Skeleton] theo sau là [Điểm 1], [Điểm 2], v.v." Nơi SoT chiếm ưu thế: → Hướng dẫn và tutorial → Danh sách và phân tích xếp hạng...