BOOM! En hel AI-lokal modell kan nå kjøre med minimalt minne uten GPU! Gleder meg til å teste og kjøre Microsofts nye open source BitNet b1.58 og utfordrer AI-grensene! Jeg har testet den på min gamle Hero Jr.-robot og gir den et nytt lokalt system uten internett. Denne 1,58-bits LLM-en kjører effektivt på svært små enheter som en Raspberry Pi 5, og leverer 5-7 tokens per sekund uten en GPU som er perfekt for edge computing. ZeroClaw-agenten kobler seg til BitNet for å utføre oppgaver BEDRE enn en Mac Studio Pro uten latterlige kostnader for sky-token. Dette er verdensendrende, ettersom nå kan enhver moderne CPU ha rask AI-lignende AI på enheten. Modellen er ikke som de største skymodellene, men den overgår det de kunne gjøre for to år siden. Vi har dusinvis av store tester i dag, men jeg kan si at dette vil åpne AI-en når som helst og hvor som helst i verden. Klemmeansikt: 🚀 #AI #BitNet