Jensen gibt die richtige Antwort Wie Sie sehen können, ist der Durchsatz bei niedrigen Tokens/Sekunde/Nutzer (50-100 Tokens) weniger als 1,6x. Aber wenn wir zu 200-250 Tokens/Sekunde/Nutzer gehen, beträgt der Durchsatz-Boost über 10x