BUM! Cały lokalny model AI może teraz działać w minimalnej pamięci bez GPU! Jestem podekscytowany testowaniem i uruchamianiem nowego otwartego źródła Microsoftu BitNet b1.58 i przesuwaniem granic AI! Mam go uruchomionego na moim starym robocie Hero Jr., nadając mu nowy lokalny system rozumowania bez internetu. Ten 1.58-bitowy LLM działa efektywnie na bardzo małych urządzeniach, takich jak Raspberry Pi 5, dostarczając 5-7 tokenów/sek bez GPU, idealny do obliczeń brzegowych. Agent ZeroClaw współpracuje z BitNet, aby wykonywać zadania LEPIEJ niż Mac Studio Pro, bez absurdalnych kosztów tokenów w chmurze. To zmienia świat, ponieważ teraz każdy nowoczesny CPU może mieć szybkie AI na urządzeniu. Model nie jest jak największe modele chmurowe, ale przewyższa to, co mogły zrobić 2 lata temu. Mamy dzisiaj dziesiątki dużych testów, ale mogę powiedzieć, że to otworzy świat AI w każdej chwili i wszędzie. Hugging Face: 🚀 #AI #BitNet