MLX-VLM v0.3.0 er her! Og det gir mange betydelige forbedringer 🔥📷 Noe nytt: - Kvantisering av KV Cache - Blandet kvantisering (dvs. 4bit + 6bit) - Legg til støtte for lydmodalitet på serveren - Gemma3n: Faste innebygginger, Vision, pikselcasting, multitasking (lyd + syn) og OCR - Fikset kinesisk dekoding - Refaktorert, generer og konverter pakke Tusen takk og rop til de fantastiske mlx-vlm-bidragsyterne Neil fra LMStudio, @pcuenq og Nicekate > pip install -U mlx-vlm Vær så snill å gi oss en start ⭐️
16,3K