Маленька гра, в яку ми з Клод нещодавно граємо, називається «Chicken з контекстним вікном» У вас є одне контекстне вікно для початку та завершення проєкту. Якщо вони закінчаться, доведеться починати все з нуля. Сьогодні ввечері ми створили віджет диктування голосу, використовуючи Parakeet-0.6B від Nvidia на спробі #2

(звісно, це означає жодних субагентів, жодних RLM, жодного шахрайства! Одна 200 тисяч слідів.)

@maxsloef я точно не знаю, що відбувається при більшій кількості токенів. Іноді дуже корисно мати багато додаткового контексту, а іноді є деградація. Я все ще намагаюся зрозуміти цю поведінку, тому не уникаю її