Saya telah menggunakan MacBook Pro M5 baru sejak diluncurkan dan itu sangat buruk, terutama dibandingkan dengan M1 lama saya! Ini bagus untuk menjalankan model AI yang lebih kecil secara lokal tetapi juga semua yang Anda lakukan sangat cepat. Berikut Gemma 3 QAT 12B berjalan dengan MLX: