Odpočívej v pokoji, Chain of Thought. Právě jsem otestoval Skeleton of Thought prompting a snižuje latenci odezvy na polovinu u strukturovaných úkolů, zatímco zlepšuje kvalitu výstupu. Jeden článek změnil můj pohled na generování textu pomocí AI. CoT nutí model myslet a psát současně. Bod 1 musí skončit před začátkem bodu 2. Bod 2 před bodem 3. Každý žeton byl zablokován tím předchozím. Odborníci takto nepracují. Konzultant McKinsey nejprve načrtne každou část a poté každou vypracuje samostatně. Profesor detailně rozepíše témata a pak je doplní. SoT tomu odpovídá. Fáze 1 – Kostra: Model zapíše holý obrys každého bodu. Žádné rozvádění. Jen struktura. Fáze 2 – Paralelní vyplňování: Každý kosterní bod se rozšiřuje nezávisle. Bod 3 nečeká na bod 2. Jedna špatná větev nezpomalí každou další větev. Přesný zadání: "Nejprve napište stručnou kostru své odpovědi jako seznam klíčových bodů. Poté každý bod rozšířte nezávisle a celé. Formát: [Skeleton] následovaný [Bod 1], [Bod 2] atd." Kde SoT dominuje: → Návody a návody → Seznamy a žebřící rozpisy...