Kimse 128GB MacBook Pro için @apple fiyatları aynı tutmaktan bahsetmiyor. Bellek fiyatlarının yükselişine karşılık fiyat artışı yaşanmadı. Herkes hesaplama artışından bahsediyor, ön doldurmanın 4 kat hızlandırılması. Bu güzel ama pratikte o kadar da büyük bir mesele değil. Neden? Çünkü kendi bilgisayarınızda LLM kullanan çoğu uygulama/araç yüksek kv önbellek isabet oranlarına sahip olur - bu da bir kullanıcı olarak yavaş ön doldurma oranını sadece bir kez yaşadığınız anlamına gelir. KV önbellek diske taşınabilir ve 6GB/s hızında yüklenebilir. LLM çıkarımında çoğu zaman çözmeye harcanır, bu da bellek bant genişliği sınırlıdır. Görüntü/video üretimi, yüksek toplu LLM çıkarımı ve ince ayar için hâlâ çok iyi, ki bunlar hesaplama gerektiriyor. Orada büyük hızlanmalar görmeliyiz. Apple'ın yapay zeka stratejisi cihaz üzerindeki LLM'ler ve burada oyunun adı hafıza, FLOPS değil. M5 Pro/Max Mac Mini ve M5 Ultra Mac Studio için de aynı şeyi bekleyin. Bu, 10k'da 512GB M5 Ultra demek! @tim_cook tedarik zinciri dahisi.