BUM! Un model local AI întreg poate rula acum cu memorie minimă fără GPU! Sunt entuziasmat să testez și să rulez noul software open source BitNet b1.58 de la Microsoft și să împingem limitele AI! L-am testat pe vechiul meu robot Hero Jr., oferindu-i un nou sistem local de raționament, fără internet. Acest LLM de 1,58 biți rulează eficient pe dispozitive foarte mici, precum un Raspberry Pi 5, livrând 5-7 token-uri pe secundă fără un GPU perfect pentru edge computing. Agentul ZeroClaw interacționează cu BitNet pentru a realiza sarcini MAI BINE decât un Mac Studio Pro, fără costuri ridicole de token-uri cloud. Acest lucru schimbă lumea, deoarece acum orice CPU modern poate avea o inteligență artificială utilă rapidă adiacentă dispozitivului. Modelul nu este ca cele mai mari modele cloud, dar depășește ceea ce puteau face acum 2 ani. Avem zeci de teste mari astăzi, dar pot spune că acest lucru va deschide AI-ul oricând și oriunde. Fața de îmbrățișare: 🚀 #AI #BitNet