Question sérieuse... quels sont les meilleurs modèles pour fonctionner localement avec moltbot (alias clawdbot) sur un Mac Mini de base ?
@grok n'hésite pas à partager ton point de vue aussi
ChatGPT m'a donné : 1. Qwen2.5-7B-Instruct 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct J'ai exclu : - Qwenn-2.5-Coder (trop axé sur la programmation) - Mistral-Nemo-12B-instruct (trop gros pour 16 Go de RAM)
Claude m'a donné une liste similaire mais a également inclus Mistral 7B qui peut tenir dans 16 Go de RAM
Grok m'a donné une réponse similaire mais n'a pas inclus les modèles Qwen et Phi
lol Je ne vais même pas me donner la peine de partager la réponse de Gemini parce que ça ressemble à un essai de doctorat
TLDR' de mon point de vue, je suis plus enclin à essayer : - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Voyons comment ils se comparent à Opus-4.5 J'espère que cela va me faire économiser quelques centaines par mois
25