Jemand im lokalen Llama-Subreddit hat unser Modell bereits in das gguf q4-Format quantisiert und verwendet es lokal, um eine dynamische 3D-Solaranwendung in JavaScript zu generieren. Beeindruckende Einmal-Leistung, meiner Meinung nach, besonders für q4.