Серия событий привела к взрыву цен на оперативную память: - Сэм Альтман заблокировал 40% мировых запасов DRAM в октябре. - Чипы ИИ (GPU и TPU) требуют HBM. Только SK Hynix, Samsung и Micron могут производить его в больших объемах. - Google пытался обеспечить больше HBM для TPU и ему сказали, что это "невозможно". Исполнительный директор Google, который не смог обеспечить поставку памяти, был уволен. - Microsoft полетел в Корею, чтобы договориться о поставках памяти. SK Hynix отказал. Один из руководителей вышел из встречи в гневе. ИИ поглотил цепочку поставок. Теперь тот же модуль оперативной памяти стоит примерно в 3 раза больше, чем год назад. Первая работа, которую убивает ИИ: геймеры.

Китайские компании по производству памяти могут прийти на помощь. - CXMT массово производит DDR5 - Huawei пытается обойти Samsung и SK hynix, чтобы создать собственную линию производства HBM Китайские графические процессоры тоже растут: Moore Threads только что провела IPO, акции выросли в 4.7 раза в первый день торгов.

Это была первая GPU-машина, которую мы собрали своими руками в Hyperbolic в конце 2023 года (чтобы запустить несколько открытых LLM). Теперь самыми дорогими компонентами являются эти 3x 32GB модуля оперативной памяти. Цена на оперативную память: выросла в 4 раза. AMD RX 7900 XTX GPU: упала на 30%. Экономика кремния изменилась.