GLM-4.7 funziona abbastanza bene su un M3 Ultra con mlx-lm, anche a una precisione quasi lossless (6-bit qui). Ha generato il miglior gioco di space invaders che abbia mai visto per un modello locale (ha persino incluso effetti sonori!). Ha generato 6600 token e ha funzionato a 16 tok/s.
Z.ai
Z.ai23 dic, 01:30
GLM-4.7 è qui! GLM-4.7 supera GLM-4.6 con miglioramenti sostanziali nella codifica, nel ragionamento complesso e nell'uso degli strumenti, stabilendo nuovi standard SOTA open-source. Aumenta anche le prestazioni in chat, scrittura creativa e scenari di gioco di ruolo. Modello predefinito per il piano di codifica: Provalo ora: Pesi: Blog Tecnico:
Ecco una registrazione dello schermo del gioco e il comando utilizzato per generarlo: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Scrivi una pagina HTML e JavaScript che implementi space invaders" -m 8192 ```
869