MLX-VLM v0.3.0 je tady! A přináší spoustu výrazných vylepšení 🔥📷 Co je nového: - Kvantizace KV Cache - Smíšené kvantování (tj. 4bit + 6bit) - Přidána podpora pro modalitu zvuku na serveru - Gemma3n: Opraveno vkládání, Vision, pixel casting, multi-tasking (zvuk + obraz) a OCR - Opraveno čínské dekódování - Refaktorované generování a převod balíčku Moc děkujeme a děkujeme úžasným přispěvatelům mlx-vlm Neilovi z LMStudio, @pcuenq a Nicekate > pip install -U mlx-vlm Zanechte nám prosím začátek ⭐️
16,29K