Jeg fant denne Claude Code-superkraften, og den er ganske genial dette er et repo kalt Claude Code-Hub – en alt-i-ett-plattform for å administrere flere AI-leverandører (Claude, OpenAI, Gemini, Codex) Hva det gjør: - Smart lastbalansering: Sett vekter og prioriteringer for hver leverandør. hvis du har flere API-nøkler, distribuerer den forespørsler mellom dem. innebygd sikring som oppdager når en leverandør feiler og automatisk utleder den (opptil 3 forsøk) - Sesjonshåndtering: 5 minutters kontekstcache slik at du ikke stadig bytter leverandør midt i samtalen. sporer "beslutningskjeden" for hvilken leverandør som håndterte hva, nyttig for å feilsøke merkelig oppførsel - prisbegrensning: grense etter turtall, etter kostnad (5 timer/ukentlig/månedlig grense), eller etter samtidige økter. Bruker Redis Lua-skript, så grensene er atomiske. Hvis Redis går ned, klarer den å åpne i stedet for å blokkere alt - Real kostnadssporing: viser bruk per bruker, tokenforbruk, kostnader over tid. har en topplistevisning slik at du kan se hvem som bruker opp kreditter. Synkroniserer med litellm-prising - OpenAI-kompatibilitetslag: Hvis du har verktøy bygget for OpenAIs API-format, lar dette dem jobbe med Claude i stedet. håndterer automatisk formatkonvertering, verktøykall, resonnementsfelt Hvem dette er for: - team som ønsker enhetlig fakturering/sporing på tvers av leverandører - alle som samler flere API-nøkler for redundans Folk som ønsker automatisk failover når én leverandør går ned - organisasjoner som trenger revisjonslogger for alle AI-API-kall
Repo-lenke:
153