Geeks, o Microsoft Research, em colaboração com a Peking University, a University of Science and Technology of China e a Chinese Academy of Sciences, veio agitar o mercado. O framework Bitnet.cpp é open source, permitindo que laptops executem grandes modelos. O vídeo mostra o desempenho de inferência do chip M2 da Apple, pronto para testar no pequeno lagostim do Mac Mini?

O endereço é este: Amigos que gostam de experimentar, que tal uma avaliação?