Alvorlig spørsmål... Hva er de beste modellene for å kjøre lokalt med Moltbot (også kalt ClawdBot) i en vanlig Mac Mini?
@grok del gjerne ditt synspunkt også
ChatGPT ga meg: 1. Qwen2.5-7B-Instruktør 2. Llama 3.1-8B-instruer 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruksjon 5. Gemma-2-9b-instruer Jeg har utelatt: - Qwenn-2.5-Coder (også fokus på koding) - Mistral-Nemo-12B-instruksjon (for stor for 16GB RAM)
Claude ga meg en lignende liste, men inkluderte også Mistral 7B som kan få plass i 16GB RAM
Grok ga meg et lignende svar, men inkluderte ikke Qwen- og Phi-modellene
lol, jeg gidder ikke engang å dele Tvillingenes svar fordi det ser ut som en doktorgradsoppgave
TLDR Fra mitt ståsted er jeg mer tilbøyelig til å prøve: - Qwen-2,5-7B - Llama-3.1-8B - Mistral-7B La oss se hvor godt de sammenlignes med Opus-4.5 Forhåpentligvis sparer dette meg for noen hundre i måneden
42