Microsoft знищила GPU-мафію 🤯 Вони нарешті відкрили свій 1-бітний фреймворк виведення LLM під назвою bitnet.cpp. Він дозволяє запускати моделі з параметрами 100B на локальному процесорі без GPU. - 6,17 рази швидше виведення - На 82,2% менше енергії на процесорах 100% відкритий код.