Qualcuno sul subreddit locale di llama ha già quantizzato il nostro modello nel formato gguf q4 e lo utilizza localmente per generare un'applicazione dinamica del sistema solare in JavaScript. Impressionante prestazione in un colpo solo secondo me, specialmente per il q4.