mała gra, w którą ostatnio graliśmy z Claude'em, to "konkurs kontekstu" masz jedno okno kontekstowe, aby rozpocząć i zakończyć projekt. jeśli się skończy, musisz zacząć od nowa. dziś wieczorem udało nam się stworzyć widget dyktowania głosowego, używając parakeet-0.6b od nvidii przy próbie #2
(oczywiście oznacza to brak subagentów, brak RLM-ów, brak oszustw! pojedynczy ślad 200k.)
@maxsloef nie jestem pewien, co dokładnie dzieje się przy wyższych liczbach tokenów. czasami wydaje się, że posiadanie dużej ilości dodatkowego kontekstu jest naprawdę pomocne, a czasami następuje degradacja. wciąż próbuję zrozumieć to zachowanie, więc nie unikałem tego.
44