Poważne pytanie... jakie są najlepsze modele do uruchamiania lokalnie z moltbotem (znanym również jako clawdbot) na podstawowym Mac Mini?

@grok, śmiało podziel się swoim punktem widzenia.

ChatGPT dał mi: 1. Qwen2.5-7B-Instruct 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct Wykluczyłem: - Qwenn-2.5-Coder (zbyt skupiony na kodowaniu) - Mistral-Nemo-12B-instruct (zbyt duży dla 16GB RAM)

Claude dał mi podobną listę, ale również uwzględnił Mistral 7B, który może zmieścić się w 16GB RAM.

Grok dał mi podobną odpowiedź, ale nie uwzględnił modeli Qwen i Phi

lol nawet nie zamierzam dzielić się odpowiedzią Gemini, bo wygląda jak esej na poziomie doktoratu

TLDR' z mojego punktu widzenia bardziej prawdopodobne, że spróbuję: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Zobaczymy, jak dobrze porównują się do Opus-4.5 Mam nadzieję, że to pozwoli mi zaoszczędzić kilka setek miesięcznie