GLM-4.7 läuft ziemlich gut auf einem M3 Ultra mit mlx-lm, sogar bei nahezu verlustfreier Präzision (hier 6-Bit). Es hat das beste Space Invaders-Spiel generiert, das ich bisher für ein lokales Modell gesehen habe (sogar mit Soundeffekten!). Generiert 6600 Tokens und lief mit 16 tok/s.
Z.ai
Z.ai23. Dez., 01:30
GLM-4.7 ist da! GLM-4.7 übertrifft GLM-4.6 mit erheblichen Verbesserungen im Codieren, komplexem Denken und der Nutzung von Werkzeugen und setzt neue Standards für Open-Source SOTA. Es verbessert auch die Leistung in Chats, kreativem Schreiben und Rollenspiel-Szenarien. Standardmodell für den Codierungsplan: Probier es jetzt aus: Gewichte: Technik-Blog:
Hier ist eine Bildschirmaufnahme des Spiels und der Befehl, der verwendet wurde, um sie zu generieren: ``` mlx_lm.generate --model mlx-community/GLM-4.7-6bit --prompt "Schreibe eine HTML- und JavaScript-Seite, die Space Invaders implementiert" -m 8192 ```
867