GLM-4.7 draait behoorlijk goed op een M3 Ultra met mlx-lm, zelfs bij een bijna verliesloze precisie (6-bit hier). Het genereerde de beste space invaders game die ik tot nu toe heb gezien voor een lokaal model (inclusief geluidseffecten!). Genereerde 6600 tokens en draaide op 16 tok/s.
Z.ai
Z.ai23 dec, 01:30
GLM-4.7 is hier! GLM-4.7 overtreft GLM-4.6 met substantiële verbeteringen in codering, complexe redenering en het gebruik van tools, en stelt nieuwe open-source SOTA-standaarden vast. Het verbetert ook de prestaties in chat, creatief schrijven en rollenspel-scenario's. Standaardmodel voor Coding Plan: Probeer het nu: Gewichten: Tech Blog:
Hier is een schermopname van het spel en de opdracht die is gebruikt om het te genereren: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Schrijf een HTML- en JavaScript-pagina die space invaders implementeert" -m 8192 ```
859