Moonshot AI's Kimi K2.5 is het #2 open weights model en is nu beschikbaar bij 8 aanbieders, elk met verschillende prijzen en prestaties Kimi K2.5 van @Kimi_Moonshot is een van de toonaangevende open weights modellen, met een score van 47 op de Artificial Analysis Intelligence Index, en zijn sterke codering en gebruik van tools maken het een populair model voor gebruik als coderingsagent. We benchmarken K2.5 model eindpunten van 8 API-aanbieders, met output token snelheden die variëren met ~330 tokens/s tussen de snelste en langzaamste aanbieders - waardoor de keuze van de aanbieder een belangrijke factor is. Belangrijke benchmark inzichten: ➤ ⚡ Snelheid: @basetenco biedt het snelste Kimi K2.5 eindpunt aan met 344 output tokens per seconde, gevolgd door @FireworksAI_HQ (273 t/s) en @novita_labs (52 t/s) ➤ ⏳ Latentie: We volgen TTFT (tijd tot eerste token) en TTFAT (tijd tot eerste antwoord token). Voor redeneermodellen is TTFAT de belangrijkste maatstaf, omdat het aangeeft wanneer gebruikers voor het eerst bruikbare output zien. Baseten leidt op TTFAT met 6.5s, voorop Fireworks (7.7s) en Novita AI (39.4s). Voor TTFT leidt Fireworks AI met 0.36s, gevolgd door @togethercompute (0.49s) en Baseten (0.72s) ➤ 💲 Prijzen: @DeepInfra is de goedkoopste aanbieder van Kimi K2.5, geprijsd op $0.45/M input tokens en $2.25/M output tokens, 25% goedkoper dan de duurste aanbieders ➤ 🪟 Contextvenster: Alle aanbieders ondersteunen het volledige 256k token contextvenster, behalve Baseten, die een 231k contextvenster ondersteunen ➤ 🖼️ Multimodaliteit: 7 van de 8 aanbieders ondersteunen de native multimodaliteit inputcapaciteit van Kimi K2.5, waarbij Baseten alleen tekstinvoer ondersteunt ➤ 🧰 Ondersteunde tools: Toolaanroep en JSON-modus worden ondersteund door alle 8 aanbieders

We benchmarken TTFT (tijd tot het eerste token) en TTFAT (tijd tot het eerste antwoordtoken), waarbij TTFAT de primaire maatstaf is voor redeneermodellen. Baseten leidt met 6,5s TTFAT, terwijl Fireworks AI TTFT leidt met 0,36s.

Vergelijk aanbieders voor Kimi K2.5 (Redenering) bij