🎉Onnittelut @Zai_org tiimille GLM-4.6V:n ja GLM-4.6V-Flashin lanseerauksesta — vLLM Recipes -ohjelman päivä -tuki on saatavilla tiimeille, jotka haluavat ajaa niitä omilla näytönohjaimillaan. GLM-4.6V keskittyy korkealaatuiseen multimodaaliseen päättelyyn, jossa on pitkä konteksti ja natiivi työkalu/funktiokutsu, kun taas GLM-4.6V-Flash on 9B-variantti, joka on säädetty matalampiin viiveisiin ja pienempiin käyttöönottoihin; uusi vLLM-reseptimme sisältää valmiit konfiguraatiot, moninäytönohjaimen ohjaukset ja tuotantoon suunnatut oletusasetukset. Jos rakennat päättelypalveluita ja haluat GLM-4.6V:n pinoasi, aloita tästä: