Microsoft drepte GPU-mafiaen 🤯 De åpnet endelig sitt 1-bits LLM-inferensrammeverk kalt bitnet.cpp. Det lar deg kjøre modeller med 100 B parametere på din lokale CPU uten GPU-er. - 6,17 ganger raskere slutning - 82,2 % mindre energi på CPU-er 100 % åpen kildekode.