🎉 恭喜 Mistral 團隊推出 Mistral 3 系列！ 我們自豪地分享，@MistralAI、@NVIDIAAIDev、@RedHat_AI 和 vLLM 緊密合作，為整個 Mistral 3 系列提供了完整的 Day-0 支援。 這次合作使得以下功能得以實現： • NVFP4 (llm-compressor) 優化的檢查點 • Mistral Large 3 的稀疏 MoE 核心 • 預填/解碼的分散式服務 • 多模態 + 長上下文推理 • 在 A100 / H100 / Blackwell 上的高效推理 🙏 非常感謝 @MistralAI、@NVIDIAAIDev 和 @RedHat_AI 的強大夥伴關係和工程努力，使 Day-0 優化成為可能。 如果您想要整個 Mistral 3 系列最快、最有效的開源部署路徑——vLLM 今天就已經準備好了。

喜歡這個：一位社區貢獻者建立了 vLLM Playground，使推理變得可見、互動且便於實驗。 從可視化配置切換到自動命令生成，從 GPU/M 芯片支持到 GuideLLM 基準測試 + LLMCompressor 集成——它將整個 vLLM 生命週期帶入一個統一的用戶體驗。 對 micyang 的這一深思熟慮、精緻的貢獻表示衷心的讚賞。 🔗

vLLM 自豪地支持 @PrimeIntellect 的 INTELLECT-3 模型的後訓練🥰