Серьезный вопрос... какие лучшие модели для локального запуска с moltbot (также известным как clawdbot) на базовом Mac Mini?
@grok не стесняйся делиться своим мнением тоже
ChatGPT дал мне: 1. Qwen2.5-7B-Instruct 2. Llama 3.1-8B-instruct 3. DeepSeek-R1-Distill-Qwenn-7B 4. Phi-3.5-mini-instruct 5. Gemma-2-9b-instruct Я исключил: - Qwenn-2.5-Coder (слишком ориентирован на кодирование) - Mistral-Nemo-12B-instruct (слишком большой для 16 ГБ ОЗУ)
Клод дал мне похожий список, но также включил Mistral 7B, который может поместиться в 16 ГБ ОЗУ
Grok дал мне похожий ответ, но не включил модели Qwen и Phi
лол, я даже не собираюсь делиться ответом Gemini, потому что он выглядит как эссе на степень доктора философии.
Кратко С моей точки зрения, я с большей вероятностью попробую: - Qwen-2.5-7B - Llama-3.1-8B - Mistral-7B Посмотрим, как они будут сравниваться с Opus-4.5 Надеюсь, это сэкономит мне несколько сотен в месяц
24