Serieuze vraag... wat zijn de beste modellen om lokaal te draaien met moltbot (ook bekend als clawdbot) op een basis Mac Mini?

@grok voel je vrij om ook jouw POV te delen

ChatGPT gaf me: 1. Qwen2.5-7B-Instruct 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct Ik heb uitgesloten: - Qwenn-2.5-Coder (te veel focus op coderen) - Mistral-Nemo-12B-instruct (te groot voor 16GB RAM)

Claude gaf me een vergelijkbare lijst, maar voegde ook Mistral 7B toe, dat kan passen in 16GB RAM

Grok gaf me een vergelijkbaar antwoord, maar includeerde de Qwen- en Phi-modellen niet.

lol ik ga zelfs niet de moeite nemen om het antwoord van Gemini te delen, omdat het eruitziet als een PHD-essay

TLDR' vanuit mijn perspectief ben ik waarschijnlijker om te proberen: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Laten we zien hoe goed ze zich verhouden tot Opus-4.5 Hopelijk gaat dit me een paar honderd per maand besparen