Moonshot AI:n Kimi K2.5 on #2 avoin painomalli, ja se on nyt saatavilla kahdeksalle eri toimittajalle, joilla jokaisella on erilainen hinta ja suorituskyky Kimi K2.5 @Kimi_Moonshot:sta on yksi johtavista avoimista painomalleista, saaden 47 pistettä Artificial Analysis Intelligence Indexissä, ja sen vahva koodaus ja työkalujen käyttö tekevät siitä suositun mallin koodausagenttina. Testaamme K2.5-mallin päätepisteitä kahdeksalta API-palveluntarjoajalta, ja tulostokenien nopeudet vaihtelevat ~330 tokenilla/s nopeimman ja hitaimman palveluntarjoajan välillä – mikä tekee palveluntarjoajan valinnasta tärkeän tekijän. Keskeiset benchmarking-havainnot: ➤ ⚡ Nopeus: @basetenco tarjoaa nopeimman Kimi K2.5 -päätepisteen 344 lähtötokenilla sekunnissa, jota seuraavat @FireworksAI_HQ (273 t/s) ja @novita_labs (52 t/s) ➤ ⏳ Viive: Seuraamme TTFT:tä (aika ensimmäiseen tokeniin) ja TTFAT:ia (aika ensimmäiseen vastaukseen tokeniin). Päättelymalleissa TTFAT on keskeinen mittari, koska se merkitsee, milloin käyttäjät näkevät ensimmäisen käyttökelpoisen tuloksen. Baseten johtaa TTFATilla 6,5 sekunnilla, edellä Fireworks (7,7s) ja Novita AI (39,4s). TTFT:ssä Fireworks AI johtaa 0,36s:lla, jota seuraavat @togethercompute (0,49s) ja Baseten (0,72s) ➤ 💲 Hinnoittelu: @DeepInfra on Kimi K2.5:n edullisin tarjoaja, hinnoiteltu 0,45 dollaria/M input tokeneita ja 2,25 $/M output tokeneita, 25 % halvempi kuin kalleimmat palveluntarjoajat ➤ 🪟 Kontekstiikkuna: Kaikki palveluntarjoajat tukevat täyttä 256k-token-kontekstiikkunaa paitsi Baseten, joka tukee 231k-kontekstiikkunaa ➤ 🖼️ Multimodaalisuus: 7 kahdeksasta palveluntarjoajasta tukee Kimi K2.5:n natiivia monimodaalisuussyöttöä, kun taas Baseten tukee vain tekstin syöttöä ➤ 🧰 Tuetut työkalut: Työkalukutsu ja JSON-tila ovat kaikkien kahdeksan palveluntarjoajan tukemia

Mittaamme TTFT:tä (aika ensimmäiseen tokeniin) ja TTFAT:ta (aika ensimmäiseen vastaukseen token), ja TTFAT on päämittari päättelymalleissa. Baseten johtaa 6,5 sekunnin TTFAT:lla, kun taas Fireworks AI johtaa TTFT:llä 0,36s.

Vertaa Kimi K2.5:n (Päättely) palveluntarjoajia osoitteessa