在本地的 llama 子版块上，有人已经将我们的模型量化为 gguf q4 格式，并在本地使用它生成动态的 3D 太阳系应用程序，使用的是 JavaScript。 我认为这在 q4 的一次性表现上非常令人印象深刻。