Saya menemukan kekuatan super Claude Code ini dan itu agak jenius ini adalah repositori yang disebut claude-code-hub - platform satu atap untuk mengelola beberapa penyedia AI (claude, openai, gemini, codex) Apa fungsinya: - Penyeimbangan beban cerdas: Tetapkan bobot dan prioritas untuk setiap penyedia. jika Anda memiliki beberapa kunci API, API akan mendistribusikan permintaan ke seluruh kunci API. pemutus sirkuit bawaan yang mendeteksi saat penyedia gagal dan secara otomatis merutekan di sekitarnya (hingga 3 percobaan ulang) - Manajemen sesi: Cache konteks 5 menit sehingga Anda tidak terus-menerus beralih penyedia di tengah percakapan. melacak "rantai keputusan" penyedia mana yang menangani apa, berguna untuk men-debug perilaku aneh - pembatasan tarif: batas berdasarkan RPM, berdasarkan biaya (batas 5 jam/mingguan/bulanan), atau dengan sesi bersamaan. Menggunakan skrip Redis Lua sehingga batasnya atomik. Jika redis turun, itu gagal terbuka alih-alih memblokir semuanya - Pelacakan biaya nyata: Menunjukkan penggunaan per pengguna, konsumsi token, biaya dari waktu ke waktu. memiliki tampilan papan peringkat sehingga Anda dapat melihat siapa yang membakar kredit. Harga Sinkronisasi dengan Litellm - lapisan kompatibilitas OpenAI: jika Anda memiliki alat yang dibuat untuk format API OpenAI, ini memungkinkan mereka bekerja dengan Claude sebagai gantinya. menangani konversi format, panggilan alat, bidang penalaran secara otomatis Untuk siapa ini: - tim yang menginginkan penagihan/pelacakan terpadu di seluruh penyedia - siapa pun yang mengumpulkan beberapa kunci API untuk redundansi Orang yang menginginkan failover otomatis saat salah satu penyedia tidak aktif - organisasi yang memerlukan log audit dari semua panggilan API AI

Tautan Repo: