Tak, zagłębiam się w architekturę opartą zarówno na ICMS, jak i Enfabrica. To rodzaj umowy Mellanox. Ale NVLink byłby tak zatłoczony wokół GPU, CPU i DPU. Nvidia musi uprościć przesył danych dla kv i wagi.

Myślę, że HBF jest zdecydowanie przeszacowane. W niektórych kręgach, po znacznych modyfikacjach oprogramowania, może być użyteczne, ale twierdzenie, że może zastąpić HBM lub że rynek jest duży, to tylko fantazje. Jeśli, jak napisano tutaj, będzie używane głównie do ładowania, to nie będzie to kv, a raczej bias i wagi tego samego modelu, co sprawi, że będzie to bardzo niewygodne w użyciu. [News] Według ekspertów, HBF może być wprowadzony do GPU NVIDIA do 2027-28 roku, a rynek może przewyższyć HBM do 2038 roku. Wraz ze wzrostem obciążenia AI, rozpowszechnienie wysokopasmowego flasha (HBF) przyspiesza, a eksperci przewidują szybsze komercjalizowanie niż oczekiwano. Według Sisa Journal, profesor Kim Jong-ho z KAIST, znany jako „ojciec HBM”, zasugerował, że Samsung Electronics i SanDisk planują zintegrować HBF z produktami NVIDIA, AMD i Google do końca 2027 roku lub na początku 2028 roku. Jak wskazano w tym raporcie, profesor Kim dodał, że rozwój HBM zajmuje ponad 10 lat, podczas gdy firmy już wykorzystują zgromadzoną wiedzę o procesach i projektach HBM do rozpoczęcia rozwoju HBF, co oznacza, że HBF może być komercjalizowane znacznie szybciej. Ponadto, Kim przewiduje, że w okresie wprowadzenia HBM6, adopcja HBF wzrośnie, a do około 2038 roku rynek HBF może przewyższyć HBM. Według Kima, HBM6 nie będzie pojedynczą warstwą pamięci, lecz wieloma warstwami połączonymi jak w budynku mieszkalnym. Kim uważa, że HBF w postaci stosów NAND pojawi się, aby wypełnić lukę, gdy DRAM oparty na HBM napotka ograniczenia pojemności. Rola HBF w wnioskowaniu AI i architekturze systemów Kim wyjaśnia rolę HBF w obciążeniach AI, mówiąc, że GPU najpierw pobiera dane zmiennych z HBM, przetwarza je i generuje wyniki. Kim uważa, że w przyszłości HBF przejmie tę rolę, oferując znacznie większą pojemność, aby wspierać zadania. HBM jest szybki, ale HBF oferuje około 10 razy większą pojemność. Jak wskazano w raporcie, Kim podkreśla, że HBF wspiera nieograniczone cykle odczytu, podczas gdy cykle zapisu są ograniczone do około 100 000, co oznacza, że oprogramowanie firm takich jak OpenAI czy Google musi być zoptymalizowane pod kątem operacji skoncentrowanych na odczycie. Kim dodał również, że obecny proces dostarczania danych do GPU obejmuje długą trasę transmisji przez sieć pamięci, procesory danych i pipeline GPU. W przyszłości wyobraża sobie bardziej zintegrowaną architekturę, która będzie mogła przetwarzać dane bezpośrednio za HBM. Ta struktura, która ma być zrealizowana w HBM7, jest czasami nazywana „fabryką pamięci”. Samsung i SK Hynix przyspieszają rozwój HBF Jak podkreślono w raporcie, SK Hynix planuje w tym miesiącu zaprezentować wersję próbną HBF. Ponadto Samsung Electronics i SK Hynix podpisały memorandum (MOU) w celu promowania standaryzacji HBF z SanDisk, a obecnie prowadzą te działania poprzez wspólny konsorcjum. Obie firmy aktywnie rozwijają produkty HBF, z celem wprowadzenia ich na rynek w 2027 roku. Według źródeł branżowych cytowanych w raporcie, HBF szacuje się na osiągnięcie przepustowości przekraczającej 1 638 GB/s, co stanowi znaczny skok w porównaniu do standardowych SSD, które zazwyczaj oferują około 7 000 MB/s przez NVMe PCIe 4.0. Jeśli chodzi o pojemność, HBF ma osiągnąć maksymalnie 512 GB, co znacznie przewyższa 64 GB HBM4.

Miedź, wiertło Aktualizacja na Google TPU M9 szary Panasonic jest super TPU Google prowadzi technologię CCL (Chip Cl) i producenci wierteł witają aktualizację. W miarę jak platformy ASIC ewoluują w kierunku wyższej gęstości obliczeniowej i wymagań dotyczących przepustowości, TPU opracowane przez Google wchodzi w nowy etap aktualizacji specyfikacji. Według informacji z łańcucha dostaw, Google planuje od 2026 roku całkowicie podnieść liczbę warstw PCB i jakość materiałów CCL w nowej generacji platformy TPU, co przyniesie możliwości aktualizacji specyfikacji dla producentów CCL w Japonii i Tajwanie. Wraz ze wzrostem liczby warstw płyty i trudności materiałowych, struktura popytu na wiertła w procesie produkcyjnym również ulegnie zmianie. Dostawy CCL dla projektu TPU Google są obecnie głównie wspierane przez japoński Panasonic i tajwańską firmę Taikoo Technology. Patrząc wstecz na generację TPU V6e (seria Ghost), Panasonic zmagał się z niedoborem włókien szklanych o niskiej dielektryczności, a Taikoo Technology weszło do łańcucha dostaw, zdobywając pewny udział. Według szacunków łańcucha dostaw, w nowym projekcie TPU Panasonic ma zapewnić około 70%, a Taikoo Technology około 30% dostaw, co sugeruje powrót do bardziej stabilnej struktury dostaw. Na podstawie obecnego projektu, serie Ghost GhostLite i GhostFish utrzymują konserwatywną konfigurację z około 22-24 warstwami PCB i materiałem CCL klasy M7. Jednak po 2026 roku platforma TPU przejdzie na ZebraFish i SunFish, co znacznie poprawi ogólne specyfikacje. Według informacji z łańcucha dostaw, nowa platforma przyjmie materiały CCL klasy M8/M9, a liczba warstw PCB wzrośnie odpowiednio do 36 i 44, przyjmując wyższej klasy włókna optyczne Low Dk i miedź HVLP4, aby sprostać wyższym wymaganiom dotyczącym przepustowości i zużycia energii. Wraz ze wzrostem liczby warstw PCB i jakości materiałów, presja na proces produkcji również szybko rośnie. Według przedstawicieli branży, popyt na wiertła do płytek AI wysokiej klasy rośnie w tempie znacznie przewyższającym wzrost wartości produkcji PCB. Tradycyjnie, liczba użyć jednego wiertła wynosiła około 3000, ale w związku z przyjęciem płytek AI wysokiej klasy, jego żywotność gwałtownie spadła poniżej 800 użyć. W przyszłości, jeśli wprowadzone zostaną płyty interpozytora klasy M9 lub płyty główne ASIC, liczba użyć jednego wiertła może jeszcze bardziej się zmniejszyć. Analitycy branżowi uważają, że zmiana w projektach TPU Google po 2026 roku oznacza, że ASIC wchodzi w nowy etap "wysokiej liczby warstw, wysokich specyfikacji materiałowych, wysokiej wartości dodanej". Odbije się to nie tylko w średniej cenie sprzedaży (ASP) produktów CCL i PCB wysokiej klasy, ale także wpłynie na kluczowe łańcuchy dostaw, takie jak włókna szklane o niskiej dielektryczności, miedź HVLP wysokiej klasy i wiertła. Łańcuch dostaw dostosowuje się z wyprzedzeniem do nowej platformy.