自从发布以来，我一直在使用新的 MacBook Pro M5，它真是个怪兽，尤其是与我旧的 M1 相比！ 它适合在本地运行较小的 AI 模型，但你所做的一切都非常快。 这是 Gemma 3 QAT 12B 与 MLX 一起运行：