BOOM! Un intero modello AI locale può ora funzionare con memoria minima senza GPU! Sono entusiasta di testare e far funzionare il nuovo BitNet b1.58 open source di Microsoft e spingere i confini dell'AI! Lo sto testando sul mio vecchio robot Hero Jr., dandogli un nuovo sistema di ragionamento locale, senza internet. Questo LLM a 1.58 bit funziona in modo efficiente su dispositivi molto piccoli come un Raspberry Pi 5, fornendo 5-7 token/sec senza GPU, perfetto per il computing edge. L'agente ZeroClaw si interfaccia con BitNet per svolgere compiti MEGLIO di un Mac Studio Pro senza costi ridicoli per i token cloud. Questo cambia il mondo, poiché ora qualsiasi CPU moderna può avere un'AI utile e veloce sul dispositivo. Il modello non è come i più grandi modelli cloud, ma supera ciò che potevano fare 2 anni fa. Abbiamo dozzine di grandi test oggi, ma posso dire che questo aprirà il mondo dell'AI in qualsiasi momento e ovunque. Hugging Face: 🚀 #AI #BitNet