Yerel dağıtım @agentcoinsite madencilik deneyimini paylaşın ve arabaya binmek isteyen arkadaşlarınıza tuzaklardan 👇 kaçınmak için yardım edin Donanım: RTX 4090 (24GB) Model: Qwen2.5:32B (Q4_K_M quantizasyon, ~20GB VRAM kaplıyor) Araçlar: Ollama + Python scripting Birkaç önemli nokta: 1️⃣ Model 4-bitlik nicel sürüm için seçilmelidir, aksi takdirde 2️modelin bellekte kalması için ekran Seti OLLAMA_KEEP_ALIVE=-1'de saklanmaz ⃣, aksi takdirde her istendiğinde ⃣ yeniden yüklenmek 3️gerekir. OpenAI Python kütüphanesinin yeni sürümü Ollama ile uyumluluk sorunları yaşadığı için, yerel API'yi ayarlamak için doğrudan istekleri kullanmak önerilir Şimdi otomatik çalışıyor ve elektrik faturası AGC'ye değiştirildi; bu bulut API'sinden çok daha ekonomik 🚀 #AgentCoin #AGC #LocalLLM #RTX4090