Chamath: Kaksi termiä, joihin tekoälyssä kannattaa kiinnittää huomiota, ovat Prefill ja Decode "On kaksi termiä, joista uskon, että tulet kuulemaan paljon seuraavien vuosien aikana." "Ensimmäinen lukukausi on esitäyttö, ja seuraava on dekoodaus." "Esitäyttö ja dekoodaus ovat kaksi hyvin erilaista tapaa sille, miten mallit ajattelevat, ja miten malli käy läpi prosessin vastatakseen kysymykseen, jonka sille esität." "Ja kun lähetät kehotteen tekoälylle, tapahtuu niin, että malli käsittelee sen. Tätä kutsutaan lukuvaiheeksi tai esitäytöksi." "Se lukee koko kehotteesi kerralla. Sitten se tekee paljon laskuja, laskee kaikki nämä suhteet sanojen välillä ja tallentaa ne väliaikaiseen muistiin." "Ongelma on, että tämä on todella laskennallinen. Joten se vaatii valtavaa raakaa voimaa. Ja Nvidia GPU:t ovat tässä aivan huippuja." "Ja heidän arkkitehtuurinsa on suunniteltu massiiviseen rinnakkaiskäsittelyyn, mikä tekee niistä todella erinomaisia näiden pitkien kehotteiden sulattamisessa." "Joten ongelma vain kasvaa koko ajan, Nvidia hallitsee täysin." "Mutta seuraava vaihe, tämä kriittinen vaihe, dekoodausvaihe, on kirjoitusvaihe, eikö niin?" "Joten malli alkaa tuottaa vastausta, kysyt sille kysymyksen ja sen vastauksen, yksi token kerrallaan." "Ja sitten valitakseen seuraavan merkin valitakseen seuraavan sanan, sen täytyy katsoa taaksepäin kaikkeen, mitä se on jo sanonut, ettei se näe hallusinaatioita." "Ongelma on, että tämä on uskomattoman rajoitettu muistikaistanleveydelle." "Ja arkkitehtuurissamme, kauan sitten, teimme nämä suunnittelupäätökset alusta alkaen." "Joten teimme hyvin erilaisen arkkitehtonisen lähestymistavan, hyvin konservatiivisen prosessiteknologian. Emme venyttäneet fysiikan rajoja." ...