🚨 Het #1 probleem met lokale AI is nu opgelost. Er is een nieuwe tool genaamd llmfit die je hardware controleert en je vertelt welke modellen goed zullen draaien voordat je iets downloadt. Dus in plaats van te gokken en out-of-memory fouten te krijgen... geeft het je een gerangschikte lijst op basis van jouw machine. Wat het doet (in één commando): → scant je setup (RAM / CPU / GPU / VRAM) → evalueert modellen op kwaliteit, snelheid, geschiktheid en context → selecteert automatisch de beste kwantisatie → labelt wat ideaal, oké of borderline is Het deel dat ik het leukst vind: het behandelt MoE-modellen correct. Voorbeeld: Mixtral 8x7B heeft ~46,7B totale parameters, maar slechts ~12,9B zijn actief per token, en llmfit houdt daar rekening mee (veel tools doen dat nog steeds niet). 100% Opensource.