Vážná otázka... Jaké jsou nejlepší modely pro lokální provoz s Moltbotem (známým také jako Clawdbot) v základním Mac Mini?

@grok klidně sdílejte i svůj pohled

ChatGPT mi dal: 1. Qwen2.5-7B-Instrukce 2. Lama 3.1-8B-instrukce 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instrukce Vynechal jsem: - Qwenn-2.5-Coder (příliš zaměřený na programování) - Mistral-Nemo-12B-instruct (příliš velký pro 16GB RAM)

Claude mi dal podobný seznam, ale zahrnul i Mistral 7B, který se vejde do 16GB RAM

Grok mi dal podobnou odpověď, ale nezahrnul modely Qwen a Phi

lol, ani se nebudu obtěžovat sdílet Geminiho odpověď, protože to vypadá jako doktorská esej

Shrnutí: Z mého pohledu je pravděpodobnější, že to zkusím: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Uvidíme, jak dobře si vedou ve srovnání s Opus-4.5 Doufám, že mi to ušetří pár stovek měsíčně