Jensen donne la bonne réponse Comme vous pouvez le voir, à faible taux de tokens/sec/utilisateur (50-100 tokens), l'augmentation du débit est inférieure à 1,6x. Mais lorsque nous atteignons 200-250 tokens/sec/utilisateur, l'augmentation du débit est supérieure à 10x