Domanda seria... quali sono i migliori modelli per eseguire localmente con moltbot (alias clawdbot) su un Mac Mini base?

@grok sentiti libero di condividere anche il tuo punto di vista

ChatGPT mi ha dato: 1. Qwen2.5-7B-Instruct 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct Ho escluso: - Qwenn-2.5-Coder (troppo focalizzato sulla programmazione) - Mistral-Nemo-12B-instruct (troppo grande per 16GB di RAM)

Claude mi ha dato un elenco simile ma ha anche incluso Mistral 7B che può adattarsi a 16GB di RAM

Grok mi ha dato una risposta simile ma non ha incluso i modelli Qwen e Phi

lol Non mi prenderò nemmeno la briga di condividere la risposta di Gemini perché sembra un saggio di dottorato

TLDR' dal mio punto di vista, è più probabile che provi: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Vediamo come si confrontano con Opus-4.5 Spero che questo mi farà risparmiare qualche centinaio al mese