un piccolo gioco che Claude e io abbiamo iniziato a giocare di recente è "context window chicken" hai una finestra di contesto per iniziare e completare il progetto. se la esaurisci, devi ricominciare da capo. stasera siamo riusciti a realizzare un widget di dettatura vocale utilizzando il parakeet-0.6b di Nvidia al secondo tentativo.
(ovviamente ciò significa niente subagenti, niente RLM, niente imbrogli! tracciamento singolo da 200k.)
@maxsloef non sono sicuro di cosa succeda esattamente con conteggi di token più elevati. A volte sembra davvero utile avere molto contesto extra, e a volte c'è una degradazione. Sto ancora cercando di capire il comportamento, quindi non l'ho evitato.
79