Я утверждал, что авто-регрессионные LLM являются экспоненциально расходящимися диффузионными процессами. Вот аргумент: Пусть e — это вероятность того, что любой сгенерированный токен выходит за пределы дерева "правильных" ответов. Тогда вероятность того, что ответ длиной n является правильным, равна (1-e)^n 1/