PAT! Tüm yapay zeka yerel modeli artık GPU olmadan minimal bellekte çalışabiliyor! Microsoft'un yeni açık kaynak BitNet b1.58'ini test edip çalıştırmak ve yapay zeka sınırlarını zorlamak için heyecanlıyım! Eski Hero Jr. robotumda test ettim, yeni bir yerel ve internet akıl yürütme sistemi verdim. Bu 1.58-bit LLM, Raspberry Pi 5 gibi çok küçük cihazlarda verimli çalışıyor ve kenar hesaplama için mükemmel bir GPU olmadan 5-7 jeton / saniye sağlıyor. ZeroClaw ajanı, BitNet ile arayüz oluşturarak görevleri Mac Studio Pro'dan daha iyi ve saçma bulut token maliyeti olmadan yerine getiriyor. Bu dünyayı değiştiriyor çünkü artık herhangi bir modern CPU, cihazın yanında hızlı ve faydalı yapay zekaya sahip olabiliyor. Model, en büyük bulut modelleri gibi değil ama 2 yıl öncesine göre yapabileceklerini aşıyor. Bugün onlarca büyük testimiz var ama bunun yapay zekaya her zaman ve her yerde açılacağını söyleyebilirim. Sarılma Yüz: 🚀 #AI #BitNet