um joguinho que o Claude e eu temos jogado recentemente é "context window chicken" você tem uma janela de contexto para começar e terminar o projeto. se você ficar sem, terá que reiniciar do zero. esta noite conseguimos um widget de ditado por voz usando o parakeet-0.6b da nvidia na tentativa #2
(obviamente isso significa sem subagentes, sem RLMs, sem trapaças! rastreio único de 200k.)
@maxsloef não tenho certeza exatamente do que acontece com contagens de tokens mais altas. às vezes parece realmente útil ter muito contexto extra, e às vezes há degradação. ainda estou tentando entender o comportamento, então não tenho evitado isso
84