Серйозне питання... Які моделі найкращі для локального запуску з moltbot (також відомим як Clawdbot) у базовому Mac Mini?
@grok не соромтеся поділитися своїм точкою зору
ChatGPT дав мені: 1. Qwen2.5-7B-Інструкція 2. Лама 3.1-8B-інструкція 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-міні-інструкція 5. Джемма-2-9б-інструкція Я виключив: - Qwenn-2.5-Кодер (занадто зосереджений на кодуванні) - Mistral-Nemo-12B-instruct (занадто великий для 16GB оперативної пам'яті)
Claude дав мені схожий список, але також включив Mistral 7B, який може вмістити в 16GB оперативної пам'яті
Grok дав мені схожу відповідь, але не включив моделі Qwen і Phi
лол, я навіть не буду ділитися відповіддю Близнюків, бо вона виглядає як докторська есе
Коротко» З моєї точки зору, я частіше спробую: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Подивимось, наскільки вони порівнюються з Opus-4.5 Сподіваюся, це зекономить мені кілька сотень на місяць
43