🚀 vLLM tocmai a atins 70.000 de stele pe GitHub! 🎉 Motorul a evoluat rapid de la ultima etapă importantă. Am insistat mult pe serviciul la scară largă — suport multi-nod de calitate de producție pe NVIDIA Blackwell cu WideEP și paralelism de expert, ceea ce face practic să deservești cele mai mari modele la scară largă. Mai multe modele, mai mult hardware, programare asincronă pentru un debit mai mare, streaming în timp real pentru vorbire și audio și o poveste multimodală în creștere între text, viziune, video și voce. Mulțumiri uriașe sponsorilor noștri, celor 2.100+ contributori, prietenilor de la @PyTorch, @huggingface Transformers și laboratoarelor de modele cu care colaborăm strâns pentru a aduce suport în ziua 0 — @deepseek_ai, @Alibaba_Qwen, @MiniMax_AI, @Kimi_Moonshot, @MistralAI și partenerilor @NVIDIAAIDev, @RedHat_AI, @AIatAMD, @AIatMeta și mulți alții pe care nu îi putem încăpea aici — toți ajutând la aducerea vLLM pe mai multe platforme și mai mulți oameni. Tu faci acest ecosistem ceea ce este. 💛💙 Tot în această perioadă, @inferact a fost fondată de creatorii și administratorii de bază ai vLLM, dedicată creșterii vLLM și facilitării inferenței mai ieftine și rapide. Să trecem la următorul capitol — împreună. LLM ușor, rapid și ieftin pentru toată lumea. 🌍