Una serie di eventi ha causato un'esplosione dei prezzi della RAM: - Sam Altman ha bloccato il 40% dell'offerta mondiale di DRAM in ottobre. - I chip AI (GPU e TPU) richiedono HBM. Solo SK Hynix, Samsung e Micron possono produrlo su larga scala. - Google ha cercato di assicurarsi più HBM per i TPU e gli è stato detto che era "impossibile." L'esecutivo di Google che non è riuscito a garantire l'approvvigionamento di memoria è stato licenziato. - Microsoft è volata in Corea per negoziare l'approvvigionamento di memoria. SK Hynix ha detto di no. Un dirigente è uscito di corsa dalla riunione. L'AI ha mangiato la catena di approvvigionamento. Lo stesso modulo di RAM ora costa circa 3 volte quello che costava un anno fa. Il primo lavoro che l'AI uccide: i videogiocatori.

Le aziende cinesi di memoria potrebbero venire in soccorso. - CXMT sta producendo in massa DDR5 - Huawei sta cercando di bypassare Samsung e SK hynix per costruire la propria linea di produzione HBM Anche le GPU cinesi stanno crescendo: Moore Threads è appena andata in IPO, il titolo è aumentato di 4,7 volte nel primo giorno di contrattazione.

Questa è stata la prima macchina GPU che abbiamo realizzato in modo autonomo presso Hyperbolic alla fine del 2023 (per eseguire alcuni LLM open-source). Ora, i componenti più costosi sono questi 3x 32GB di RAM. Prezzo della RAM: aumentato di 4 volte. GPU AMD RX 7900 XTX: diminuito del 30%. L'economia del silicio è cambiata.