PAM! Kokonainen tekoälyn paikallinen malli voi nyt ajaa minimaalisessa muistissa ilman näytönohjainta! Odotan innolla Microsoftin uuden avoimen lähdekoodin BitNet b1.58:n testaamista ja tekoälyn rajojen rikkomista! Olen testannut sitä vanhalla Hero Jr. -robotillani, jolloin sille on uusi paikallinen järjestelmä, ilman internet-päättelyjärjestelmää. Tämä 1,58-bittinen LLM toimii tehokkaasti hyvin pienillä laitteilla, kuten Raspberry Pi 5:llä, tarjoten 5–7 tokenia sekunnissa ilman GPU:ta, joka sopii täydellisesti reunalaskentaan. ZeroClaw-agentti toimii BitNetin kanssa suorittaakseen tehtäviä PAREMMIN kuin Mac Studio Pro ilman järjettömiä pilvitoken-kustannuksia. Tämä muuttaa maailmaa, sillä nykyään mikä tahansa nykyaikainen suoritin voi olla nopea, laitteeseen läheinen ja hyödyllinen tekoäly. Malli ei ole samanlainen kuin suurimmat pilvimallit, mutta se ylittää sen, mitä he pystyivät tekemään kaksi vuotta sitten. Meillä on tänään kymmeniä isoja testejä, mutta voin sanoa, että tämä avaa tekoälyn milloin tahansa ja missä tahansa. Halaus: 🚀 #AI #BitNet