Uma série de eventos fez com que os preços da RAM explodissem: - Sam Altman bloqueou 40% do fornecimento mundial de DRAM em outubro. - Chips de IA (GPUs e TPUs) requerem HBM. Apenas a SK Hynix, Samsung e Micron conseguem produzi-lo em grande escala. - O Google tentou garantir mais HBM para TPUs e foi informado de que era "impossível". O executivo do Google que não conseguiu garantir o fornecimento de memória foi despedido. - A Microsoft voou para a Coreia para negociar o fornecimento de memória. A SK Hynix disse não. Um executivo saiu furioso da reunião. A IA devorou a cadeia de suprimentos. O mesmo módulo de RAM agora custa cerca de 3 vezes o que custava há um ano. O primeiro trabalho que a IA elimina: jogadores.

As empresas de memória chinesas podem vir em socorro. - A CXMT está a produzir em massa DDR5 - A Huawei está a tentar contornar a Samsung e a SK hynix para construir a sua própria linha de produção de HBM As GPUs chinesas também estão a subir: A Moore Threads acabou de fazer IPO, as ações subiram 4,7x no primeiro dia de negociação.

Esta foi a primeira máquina GPU que montámos na Hyperbolic no final de 2023 (para executar alguns LLMs de código aberto). Agora, os componentes mais caros são estes 3x 32GB de RAM. Preço da RAM: aumento de 4x. GPU AMD RX 7900 XTX: queda de 30%. A economia do silício virou.