Kukaan ei puhu siitä@apple että hinnat pysyvät samoina 128GB MacBook Prolle. Muistin hintojen nousun seurauksena ei ole noussut hintoja. Kaikki puhuvat laskentatehosta, joka nopeuttaa esitäyttöä nelinkertaiseksi. Tämä on siistiä, mutta käytännössä se ei ole niin iso juttu. Miksi? Koska omalla tietokoneellasi useimmat sovellukset/työkalut, jotka käyttävät LLM:ää, saavat korkeat kv-välimuistin osumaprosentit – se tarkoittaa, että käyttäjänä koet hitaan esitäytön vain kerran. KV-välimuisti voidaan säilyttää levyllä ja ladata 6GB/s nopeudella. Suurin osa ajasta LLM-päättelyssä kuluu dekoodaukseen, joka on muistin kaistanleveysrajoitteessa. Se on edelleen loistava kuvan/videon generointiin, korkeaan LLM-erän päättelyyn ja hienosäätöön, jotka ovat laskentasidonnaisia. Meidän pitäisi nähdä valtavia nopeutumisia siellä. Applen tekoälystrategia on laitteella olevat LLM:t, ja tässä pelin nimi on muisti, ei FLOPS. Sama on odotettavissa M5 Pro/Max Mac Minille ja M5 Ultra Mac Studiolle. Se tarkoittaa 512GB M5 Ultraa 10 000 taajuudella! @tim_cook on toimitusketjun nero.