j'ai trouvé ce code claude super puissant et c'est un peu génial c'est un dépôt appelé claude-code-hub - une plateforme tout-en-un pour gérer plusieurs fournisseurs d'IA (claude, openai, gemini, codex) ce qu'il fait : - équilibrage de charge intelligent : définissez des poids et des priorités pour chaque fournisseur. si vous avez plusieurs clés API, il répartit les demandes entre elles. un disjoncteur intégré qui détecte quand un fournisseur échoue et redirige automatiquement autour de celui-ci (jusqu'à 3 tentatives) - gestion des sessions : cache de contexte de 5 minutes pour que vous ne changiez pas constamment de fournisseur en plein milieu de la conversation. suit la "chaîne de décision" de quel fournisseur a géré quoi, utile pour déboguer des comportements étranges - limitation de taux : limite par RPM, par coût (plafonds de 5 heures/hebdomadaires/mensuels), ou par sessions simultanées. utilise des scripts lua redis donc les limites sont atomiques. si redis tombe en panne, cela échoue ouvert au lieu de bloquer tout - suivi des coûts réels : montre l'utilisation par utilisateur, la consommation de jetons, les coûts au fil du temps. a une vue de classement pour que vous puissiez voir qui brûle des crédits. se synchronise avec la tarification de litellm - couche de compatibilité openai : si vous avez des outils construits pour le format API d'openai, cela les fait fonctionner avec claude à la place. gère automatiquement la conversion de format, les appels d'outils, les champs de raisonnement qui est-ce pour : - équipes qui veulent une facturation/un suivi unifiés entre les fournisseurs - quiconque regroupe plusieurs clés API pour la redondance les personnes qui veulent un basculement automatique lorsqu'un fournisseur tombe en panne - organisations qui ont besoin de journaux d'audit de tous les appels API d'IA
lien du dépôt :
142