Microsoft dödade GPU-maffian 🤯 De öppnade slutligen sin 1-bitars LLM-inferensram kallad bitnet.cpp. Den låter dig köra modeller med 100 miljarder parametrar på din lokala CPU utan GPU:er. - 6,17x snabbare inferens. - 82,2 % mindre energi på CPU:er 100 % öppen källkod.