Jag hittade den här Claude Code-superkraften och den är ganska genial detta är ett repo som heter claude-code-hub – en allt-i-ett-plattform för att hantera flera AI-leverantörer (Claude, OpenAI, Gemini, Codex) Vad det gör: - Smart lastbalansering: Sätt vikter och prioriteringar för varje leverantör. om du har flera API-nycklar distribuerar den förfrågningar över dem. Inbyggd säkring som upptäcker när en leverantör fallerar och automatiskt leder runt den (upp till 3 omförsök) - Sessionshantering: 5 min kontextcache så att du inte ständigt byter leverantör mitt i en konversation. Spårar "beslutskedjan" för vilken leverantör som hanterade vad, användbart för att felsöka konstigt beteende - hastighetsbegränsning: gräns per varvtal, kostnad (5 timmar/vecko/månadsgränser) eller samtidiga sessioner. Använder Redis Lua-skript så gränserna är atomiska. Om Redis går ner misslyckas den med att öppna istället för att blockera allt - Real cost tracking: visar användning per användare, tokenförbrukning, kostnader över tid. Har en topplista så att du kan se vem som bränner igenom krediter. Synkroniserar med litellm-prissättning - OpenAI-kompatibilitetslager: Om du har verktyg byggda för OpenAI:s API-format kan de arbeta med Claude istället. hanterar automatiskt formatkonvertering, verktygsanrop, resonemangsfält Vem detta är för: - team som vill ha enhetlig fakturering/spårning mellan leverantörer - någon som samlar flera API-nycklar för redundans Personer som vill ha automatisk failover när en leverantör går sönder - organisationer som behöver revisionsloggar för alla AI-API-anrop
Repo-länk:
157