BUM! Celý lokální AI model nyní může běžet v minimální paměťi bez GPU! Těšíme se, že otestujeme a spustíme nový open source BitNet b1.58 od Microsoftu a posouváme hranice AI! Mám ho testovaný na svém starém robotovi Hero Jr., který mu dává nový lokální, bez internetového systému uvažování. Tento 1,58bitový LLM běží efektivně na velmi malých zařízeních jako Raspberry Pi 5, poskytuje 5-7 tokenů za sekundu bez GPU ideální pro edge computing. Agent ZeroClaw se propojuje s BitNetem a provádí úkoly LÉPE než Mac Studio Pro bez přehnaných nákladů na cloudové tokeny. To je svět měnící, protože nyní může mít jakýkoli moderní procesor rychlou a užitečnou AI na zařízení. Model není jako největší cloudové modely, ale překonává to, co dokázaly před 2 lety. Dnes máme desítky velkých testů, ale mohu říct, že to otevře AI svět kdykoliv a kdekoli. Objímající obličej: 🚀 #AI #BitNet