Geeks, das Microsoft Research Institute hat sich mit der Peking-Universität, der Universität für Wissenschaft und Technologie von China und der Chinesischen Akademie der Wissenschaften zusammengetan, um den Markt aufzumischen. Das Open-Source-Framework Bitnet.cpp ermöglicht es, große Modelle direkt auf Laptops auszuführen. Das Video zeigt die Inferenzleistung des M2-Chips von Apple. Bereit, es mit dem kleinen Drachen auf dem Mac Mini auszuprobieren?