Melakukan beberapa pengujian benchmark pada versi terbaru @exolabs sangat bagus! Saya telah menemukan titik akhir /bench/chat/completions yang menonaktifkan cache di antara panggilan! Persis seperti yang saya butuhkan! Mari dorong M3 Ultras ini!