自從推出以來,我一直在使用新的 MacBook Pro M5,這台機器真是太厲害了,尤其是與我舊的 M1 相比! 它非常適合在本地運行較小的 AI 模型,但你所做的一切都快得驚人。 這裡是 Gemma 3 QAT 12B 與 MLX 一起運行: