Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Lokální model problém vyřeší za 2,5 sekundy (je okno o 5 minut příliš dlouhé). Okno 5 minut je víc než dost, a navíc potřebujete tak drahé API modelu, které běží v cloudu, abyste zaplatili server, takže pokud můžete nasadit lokálně, můžete nasadit i lokálně, a účet za elektřinu je přes 100 měsíčně, což je stejné jako vaše denní používání počítače. @agentcoinsite
18. 2. 2026
Podělte se o zkušenosti z místního nasazení @agentcoinsite těžbě a podělte se o přátele, kteří chtějí nasednout do auta, aby se vyhnuli nástrahám 👇
Hardware: RTX 4090 (24GB) Model: Qwen2.5:32B (Q4_K_M kvantizace, zabírá ~20GB VRAM) Nástroje: Ollama + Python skriptování
Několik klíčových bodů: 1️⃣ Model musí být vybrán pro 4bitovou kvantitativní verzi, jinak nebude 2️uložen v zobrazení ⃣ Set OLLAMA_KEEP_ALIVE=-1, aby model zůstal v paměti, jinak bude muset být při každém požadavku ⃣ znovu načítán 3️. Nová verze knihovny OpenAI Python má problémy s kompatibilitou s Ollama, proto se doporučuje přímo použít požadavky k úpravě nativního API
Nyní běží automaticky a účet za elektřinu je změněn na AGC, což je mnohem ekonomičtější 🚀 než cloudové API
#AgentCoin #AGC #LocalLLM #RTX4090
@agentcoinsite 2026-02-18 03:02:19 [CHYBA] Nepodařilo se získat stav agenta: 503 Chyba serveru: Služba nedostupná pro url:
@agentcoinsite Udržovat ho?
1,74K
Top
Hodnocení
Oblíbené