Întrebare serioasă... Care sunt cele mai bune modele pentru a rula local cu moltbot (cunoscut și ca clawdbot) într-un Mac Mini de bază?
@grok simți liber să-ți împărtășești și perspectiva ta
ChatGPT mi-a oferit: 1. Qwen2.5-7B-Instruire 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct Am exclus: - Qwenn-2.5-Coder (prea concentrat pe programare) - Mistral-Nemo-12B-instruct (prea mare pentru 16GB RAM)
Claude mi-a dat o listă similară, dar a inclus și Mistral 7B, care poate încăpea în 16GB RAM
Grok mi-a dat un răspuns similar, dar nu a inclus modelele Qwen și Phi
haha, nici măcar nu o să mă obosesc să împărtășesc răspunsul lui Gemini pentru că pare un eseu de doctorat
Pe scurt. Din punctul meu de vedere, sunt mai probabil să încerc: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Să vedem cât de bine se compară cu Opus-4.5 Sper că asta mă va ajuta să economisesc câteva sute de dolari pe lună
34