🎉 Chúc mừng đội ngũ Mistral về việc ra mắt gia đình Mistral 3! Chúng tôi tự hào thông báo rằng @MistralAI, @NVIDIAAIDev, @RedHat_AI và vLLM đã làm việc chặt chẽ với nhau để cung cấp hỗ trợ đầy đủ cho toàn bộ dòng sản phẩm Mistral 3 ngay từ ngày đầu tiên. Sự hợp tác này đã cho phép: • Các điểm kiểm tra tối ưu hóa NVFP4 (llm-compressor) • Các kernel Sparse MoE cho Mistral Large 3 • Dịch vụ phân tách prefill/giải mã • Suy diễn đa phương thức + ngữ cảnh dài • Suy diễn hiệu quả trên A100 / H100 / Blackwell 🙏 Một lời cảm ơn lớn đến @MistralAI, @NVIDIAAIDev và @RedHat_AI vì sự hợp tác mạnh mẽ và nỗ lực kỹ thuật đã làm cho việc tối ưu hóa ngay từ ngày đầu tiên trở nên khả thi. Nếu bạn muốn con đường triển khai mã nguồn mở nhanh nhất và hiệu quả nhất cho toàn bộ dòng sản phẩm Mistral 3—vLLM đã sẵn sàng hôm nay.