Jag känner att man skulle kunna skapa en verklighetsmiljö som anpassar britsarna med dess sanna inre tillstånd så att du kan använda tokens i dess brits för sanningsenlighet och samtidigt förbättra dess introspektiva förmåga
Bartosz Cywinski
Bartosz Cywinski23 dec. 03:15
Kan vi förstå tankekedjan (CoT) hos latenta resonerande LLM:er med hjälp av nuvarande mekaniska tolkningstekniker? Det visar sig att vi kan upptäcka tolkbar struktur, åtminstone på enkla matteuppgifter! I en kort studie visar vi att latenta vektorer representerar t.ex. Mellanliggande beräkningar
Kan du prova detta på Claude och göra ett blogginlägg @_sholtodouglas tack, tack
14