Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Я вважаю, що HBF занадто переоцінений
У деяких випадках, якщо програмне забезпечення суттєво модифікувати, ним не буде неможливо користуватися, але це буде ілюзія, що воно замінить HBM або що розмір ринку буде великим
Як написано тут, якщо він майже завантажений тут, то це буде зміщення і вага тієї ж моделі, а не KV, але це було б абсолютно непридатно
За словами експертів, HBF може бути впроваджений у GPU NVIDIA до 2027~28 року, а ринок може перевершити HBM до 2038 року
Зі зростанням обсягів роботи на основі штучного інтелекту впровадження високопропускної здатності (HBF) прискорюється, і експерти прогнозують швидше, ніж очікувалося, комерціалізацію. За даними Sisa Journal, професор KAIST Кім Чен Хо, відомий як «батько HBM», припускає, що Samsung Electronics і SanDisk планують інтегрувати HBF у продукти NVIDIA, AMD і Google до кінця 2027 або початку 2028 року. Як зазначено у звіті, Кім додає, що хоча розробка HBM займає понад 10 років, HBF може бути комерціалізована значно раніше, оскільки компанії вже використовують накопичені в HBM технології та експертизу дизайну для розробки HBF.
Крім того, Кім прогнозує, що впровадження HBF розшириться приблизно в той час, коли буде впроваджений HBM6, і ринок HBF може перевершити HBM приблизно до 2038 року. За словами Кіма, HBM6 — це не єдиний стек пам'яті, а кілька стеків взаємопов'язані, як житловий будинок. Оскільки HBM на базі DRAM стикаються з обмеженнями пропускної здатності, Кім вважає, що HBF у вигляді NAND-стеків з'явиться для заповнення цієї прогалини.
Роль HBF у висновку ШІ та архітектурі систем
Щодо ролі HBF у робочих навантаженнях ШІ, Кім пояснив, що GPU спочатку отримують змінні дані від HBM під час висновку, обробляють їх і генерують результати. Кім вірить, що в майбутньому HBF візьме на себе цю роль і надасть значно більші потужності для підтримки цього завдання. HBM швидший, а HBF забезпечує приблизно в 10 разів більшу пропускну здатність. Як зазначено у звіті, Кім наголошує, що хоча HBF підтримує необмежену кількість циклів читання, вона обмежена приблизно 100 000 циклів запису, тому програмне забезпечення таких компаній, як OpenAI та Google, має бути оптимізоване для операцій, що потребують інтенсивного читання.
Кім також додав, що поточний процес подачі даних до GPU передбачає довгий шлях передачі через мережу зберігання, процесори даних і конвеєри GPU. У майбутньому компанія планує більш оптимізовану архітектуру, яка зможе обробляти дані безпосередньо за HBM. Цю структуру, яку очікують до реалізації в HBM7, іноді називають «фабрикою пам'яті».
Samsung і SK hynix просувають розвиток HBF
Як зазначено у звіті, SK hynix планує випустити пробну версію HBF для демо пізніше цього місяця. У звіті також зазначено, що Samsung Electronics та SK hynix підписали меморандум про взаєморозуміння (MOU) із SanDisk для просування стандартизації HBF і наразі працюють над цією ініціативою через спільний консорціум. Обидві компанії активно розробляють продукти HBF і планують запустити їх у 2027 році.
За даними галузевих джерел, посиланих у звіті, HBF, за оцінками, здатний забезпечувати пропускну здатність понад 1 638 ГБ/с, що є значним стрибком порівняно зі стандартними SSD, які зазвичай забезпечують близько 7 000 МБ/с через NVMe PCIe 4.0. Щодо пропускної здатності, HBF очікується до 512GB, що значно більше, ніж HBM4 у 64GB.
Найкращі
Рейтинг
Вибране
