🎉 Herzlichen Glückwunsch an das Mistral-Team zur Einführung der Mistral 3-Familie! Wir sind stolz darauf, dass @MistralAI, @NVIDIAAIDev, @RedHat_AI und vLLM eng zusammengearbeitet haben, um vollständige Day-0-Unterstützung für die gesamte Mistral 3-Reihe bereitzustellen. Diese Zusammenarbeit ermöglichte: • NVFP4 (llm-compressor) optimierte Checkpoints • Sparse MoE-Kerne für Mistral Large 3 • Prefill/Decode disaggregierte Bereitstellung • Multimodale + Langzeit-Kontext-Inferenz • Effiziente Inferenz auf A100 / H100 / Blackwell 🙏 Ein großes Dankeschön an @MistralAI, @NVIDIAAIDev und @RedHat_AI für die starke Partnerschaft und den Ingenieureinsatz, der die Day-0-Optimierung möglich gemacht hat. Wenn Sie den schnellsten, effizientesten Open-Source-Bereitstellungsweg für die gesamte Mistral 3-Reihe wünschen – vLLM ist heute bereit.