Myslím, že byste mohli vytvořit reálné prostředí, které by zarovnalo lůžka s jeho skutečnými vnitřními stavy, abyste mohli tokeny v jeho lůžku používat pro pravdivost a zároveň zlepšit jeho introspektivní schopnosti
Bartosz Cywinski
Bartosz Cywinski23. 12. 03:15
Můžeme pochopit řetězec myšlení (CoT) latentních uvažovacích LLM pomocí současných technik mechanického interpretování? Ukazuje se, že dokážeme odhalit interpretovatelnou strukturu, alespoň u jednoduchých matematických úloh! V krátké studii ukazujeme, že latentní vektory představují např. Mezilehlé výpočty
Můžeš to zkusit na Claudovi a napsat blogový příspěvek @_sholtodouglas prosím
20