O relație paradoxală în tehnologie, legată de paradoxul lui Jevon, dar ușor incertă: Cipurile AI sunt disponibile astăzi Dar ai putea implementa cipuri mai eficiente peste 3 ani Care e graba? O tehnologie aflată în mijlocul unei scăderi rapide a costurilor aproape întotdeauna divizează piața între cei care cred că accesul la tehnologie inferioară astăzi le va oferi o poziție mult mai bună în viitor și cei care consideră că este mai bine să opereze cu unul sau două noduri în urmă. Costul generării token-urilor se prăbușește. Și totuși, furnizorii de modele AI plătesc scump – la fel ca și utilizatorii lor – pentru a genera astăzi tokenuri care mâine vor arăta lamentabil de ineficiente. Fie utilizatorii agresivi sunt induși în eroare, fie costul de timp pentru a nu genera tokenuri trebuie să depășească chiar și curba abruptă de performanță pe care o urmează generarea tokenurilor. Din punct de vedere hardware – lăsând la o parte îmbunătățirile arhitecturale – costul de generare a token-urilor se reduce aproximativ la jumătate anual. Aceasta trebuie să însemne că randamentul perceput al generării de tokenuri este cel puțin 100% anualizat. Un gigawatt de calcul astăzi este la fel de valoros ca 2 GW anul viitor. Acest lucru conduce, aproape inevitabil, la calculul spațial. Sensibilă la diverse intrări, se pare că calculul AI bazat pe spațiu devine eficient din punct de vedere al costurilor față de calculul AI terestru pe bază de token, la aproximativ 400 de dolari pe kg în costuri de lansare. Deși nu a ajuns încă acolo, Starship, la volume rezonabile – ceea ce ne așteptam ca SpaceX să livreze până în 2030, înainte de a apărea oportunitatea de calcul spațial – ar trebui să depășească acest prag de cost. Mai important decât costul, însă, este timpul. Companiile de AI sunt acum înfometate după eșecuri. La nivelul întregii industrii, ne așteptăm ca centrele de date terestre să instaleze 90GW în 2030, după ce am construit cumulativ 250GW între acum și atunci. Acest lucru este posibil, dar agresiv, având în vedere dificultatea de a construi infrastructură reală în locuri reale populate de oameni reali (care s-ar putea arunca în fața unui buldozer pentru că au citit acea carte care exagera exagerat consumul de apă în centrele de date de 1000 de ori). ...