MLX-VLM v0.3.0 è qui! E porta con sé molti miglioramenti significativi 🔥📷 Cosa c'è di nuovo: - Quantizzazione della cache KV - Quantizzazione mista (cioè, 4bit + 6bit) - Aggiunta del supporto per la modalità audio nel server - Gemma3n: Embeddings fissi, Visione, casting dei pixel, multi-task (audio + visione) e OCR - Risolto il problema di decodifica cinese - Rifattorizzato il pacchetto generate e convert Grazie mille e un saluto ai fantastici contributori di mlx-vlm Neil di LMStudio, @pcuenq e Nicekate > pip install -U mlx-vlm Per favore, lasciateci una stella ⭐️
16,31K