> gjennomsnittlig verktøyvalg på 385 ms. > 67 verktøy fordelt på 13 MCP-servere. > 14,5 GB minneavtrykk. > Null nettverkssamtaler. LocalCowork er en AI-agent som kjører på en MacBook. Åpen kildekode. 🧵
Å bygge en lokal AI-agent høres flott ut helt til du prøver å bruke en hele dagen. Det vanskelige er å ikke få en modell til å forstå deg. Det handler om å få den til å velge riktig verktøy og gjøre det raskt nok til at opplevelsen føles interaktiv. Så vi testet LFM2-24B-A2B på bærbare PC-er, og bygde en åpen kildekode-skrivebordsagent kalt LocalCowork.
Alt går lokalt: > modellen > verktøyene > dataene Ingen sky. Ingen API-nøkler. Ingenting forlater maskinen.
Vi evaluerte modellen i en realistisk oppsett: > 67 verktøy > 13 MCP-servere Oppgaver som sikkerhetsskanninger, dokumentbehandling, filsystemoperasjoner og systemverktøy. Alle kjører på en enkelt Apple M4 Max-laptop med 36 GB minne. I denne konfigurasjonen hadde LFM2-24B-A2B i gjennomsnitt ~385 ms per verktøyvalgrespons samtidig som den fikk plass til ~14,5 GB minne. Det betyr: > ingen utgående API-kall > ingen leverandørsubprosessorer > ingen data som forlater enheten
59