He estado usando el nuevo MacBook Pro M5 desde su lanzamiento y es una bestia, ¡especialmente en comparación con mi antiguo M1! Es bueno para ejecutar los modelos de IA más pequeños localmente, pero además todo lo que haces es tan rápido. Aquí está Gemma 3 QAT 12B funcionando con MLX: