> 385ms gemiddelde toolselectie. > 67 tools op 13 MCP-servers. > 14,5GB geheugengebruik. > Geen netwerkverzoeken. LocalCowork is een AI-agent die draait op een MacBook. Open source. 🧵
Een lokale AI-agent bouwen klinkt geweldig totdat je er de hele dag eentje probeert te gebruiken. Het moeilijke is niet om een model te laten begrijpen wat je zegt. Het is om het de juiste tool te laten kiezen en het snel genoeg te doen zodat de ervaring interactief aanvoelt. Dus hebben we LFM2-24B-A2B getest op laptops, waarbij we een open-source desktopagent genaamd LocalCowork hebben gebouwd.
Alles draait lokaal: > het model > de tools > de data Geen cloud. Geen API-sleutels. Niets verlaat de machine.
We hebben het model geëvalueerd in een realistische opzet: > 67 tools > 13 MCP-servers Taken zoals beveiligingsscans, documentverwerking, besturingssysteemoperaties en systeemhulpmiddelen. Alles draait op een enkele Apple M4 Max laptop met 36 GB geheugen. Op deze configuratie had LFM2-24B-A2B gemiddeld ~385 ms per tool-selectie reactie terwijl het ~14,5 GB geheugen gebruikte. Dat betekent: > geen uitgaande API-aanroepen > geen externe subprocessors > geen gegevens die het apparaat verlaten
42