Ja, jeg graver i arkitekturen basert på både ICMS og Enfabrica. Det er en slags Mellanox-avtale. Men NVLink ville vært så overfylt rundt GPU, CPU og DPU. Nvidia må forenkle dataoverføringen for kv og vekt.

Jeg synes HBF er for overvurdert I noen tilfeller, hvis programvaren endres betydelig, vil det ikke være umulig å bruke, men det vil være en illusjon at den vil erstatte HBM eller at markedsstørrelsen vil være stor Som skrevet her, hvis den nesten lastes inn her, vil det være biasen og vekten til samme modell, ikke KV, men det ville vært helt ubrukelig Ifølge eksperter kan HBF bli introdusert i NVIDIA GPU-er innen 2027~28, og markedet kan overgå HBM innen 2038 Med økningen av AI-arbeidsbelastninger akselererer adopsjonen av høybåndbredde flash (HBF), og eksperter spår kommersialisering tidligere enn forventet. Ifølge Sisa Journal foreslår KAIST-professor Kim Jong-ho, populært kjent som «HBMs far», at Samsung Electronics og SanDisk planlegger å integrere HBF i NVIDIA, AMD og Googles produkter innen utgangen av 2027 eller tidlig i 2028. Som nevnt i rapporten legger Kim til at selv om HBM tar mer enn 10 år å utvikle, kan HBF kommersialiseres mye tidligere, ettersom selskaper allerede utnytter prosessen og designekspertisen som er opparbeidet i HBM for å utvikle HBF. I tillegg spår Kim at HBF-adopsjonen vil øke rundt tiden HBM6 introduseres, og HBF-markedet kan overgå HBM rundt 2038. Ifølge Kim er ikke HBM6 en enkelt minnestakk, men flere stakker er sammenkoblet som en leilighetsbygning. Ettersom DRAM-baserte HBM-er møter kapasitetsbegrensninger, mener Kim at HBF i form av NAND-stabler vil dukke opp for å fylle gapet. HBFs rolle i AI-inferens og systemarkitektur Når det gjelder rollen til HBF i AI-arbeidsbelastninger, forklarte Kim at GPU-er først henter variabel data fra HBM under inferensen, behandler dem og genererer utdata. Kim mener at HBF i fremtiden vil ta på seg denne rollen og tilby betydelig større kapasitet for å støtte oppgaven. HBM er raskere, mens HBF gir omtrent ti ganger mer kapasitet. Som nevnt i rapporten, understreker Kim at selv om HBF støtter ubegrensede lesesykluser, er det begrenset til omtrent 100 000 skrivesykluser, så programvaren til selskaper som OpenAI og Google må optimaliseres for leseintensive operasjoner. Kim la til at den nåværende prosessen med å mate data til GPU-er innebærer en lang overføringsvei gjennom lagringsnettverket, dataprosessorer og GPU-pipelines. I fremtiden ser selskapet for seg en mer strømlinjeformet arkitektur som kan behandle data direkte bak HBM. Denne strukturen, som forventes å bli implementert i HBM7, kalles noen ganger "minnefabrikken". Samsung og SK hynix fremmer utviklingen av HBF Som fremhevet i rapporten planlegger SK hynix å slippe en prøveversjon av HBF for demo senere denne måneden. Rapporten påpekte også at Samsung Electronics og SK hynix har signert en intensjonsavtale (MOU) med SanDisk for å fremme standardisering av HBF, og jobber for tiden med dette initiativet gjennom et felles konsortium. Begge selskapene utvikler aktivt HBF-produkter og har som mål å lansere dem i 2027. Ifølge bransjekilder sitert i rapporten, anslås HBF å kunne levere båndbredder over 1 638 GB/s, noe som er et betydelig sprang sammenlignet med standard SSD-er som vanligvis tilbyr rundt 7 000 MB/s via NVMe PCIe 4.0. Når det gjelder kapasitet, forventes HBF å nå opptil 512 GB, betydelig høyere enn HBM4s 64 GB.

Kobberfolie, boregrop Google TPUでアップグレード M9グレーパナソニックつえええ Googles TPU-er leder an innen CCL (Chip Cl)-teknologi, og produsenter av bor ønsker oppgraderinger velkommen. Etter hvert som ASIC-plattformer fortsetter å utvikle seg mot høyere krav til beregningstetthet og båndbredde, går Googles egenutviklede TPU-er inn i en ny fase med spesifikasjonsoppgraderinger. Ifølge kilder i forsyningskjeden planlegger Google å øke antall PCB-lag og CCL-materialkvaliteter for sin neste generasjons TPU-plattform fra og med 2026, noe som gir muligheter for spesifikasjonsoppgradering til CCL-produsenter i Japan og Taiwan. Etter hvert som antallet underlagslag øker og materialene blir vanskeligere, endres også etterspørselsstrukturen for bor i produksjonsprosessen. Googles CCL-forsyning for TPU-prosjekter støttes for tiden hovedsakelig av Japans Panasonic og Taiwans Taikoo Technology. Når man ser tilbake på TPU V6e-generasjonen (Ghost-serien), led Panasonic av mangel på lavdielektrisk konstant glassfiber, og Swire Technology kom inn i forsyningskjeden og fikk en viss andel. Ifølge estimater fra forsyningskjeden vil den nye generasjonen TPU-prosjektet bli levert av Panasonic til omtrent 70 % og Swire til omtrent 30 %, noe som antyder en tilbakevending til en mer stabil forsyningsstruktur. Basert på dagens design opprettholder GhostLite og GhostFish i Ghost-serien en konservativ konfigurasjon med omtrent 22~24 lag med kretskort og M7-klasse CCL. Etter 2026 vil imidlertid TPU-plattformen gå over til ZebraFish og SunFish, noe som vil forbedre de overordnede spesifikasjonene betydelig. Ifølge kilder i forsyningskjeden benytter den nye plattformen M8/M9-kvalitets CCL, og antallet PCB-lag økes til henholdsvis 36 og 44 lag, og den forventes å møte høyere båndbredde- og strømforbrukskrav ved å ta i bruk høykvalitets Low Dk optisk fiber og HVLP4 kobberfolie. Etter hvert som antallet PCB-lag og materialkvaliteter øker, øker også trykket på produksjonsprosessen. Ifølge bransjeinnsidere vokser etterspørselen etter bor til avanserte AI-kort i et tempo som betydelig overstiger vekstraten for PCB-produksjonsverdi. Tidligere ble et enkelt bor brukt omtrent 3 000 ganger, men med innføringen av avanserte AI-kort har levetiden falt kraftig til under 800 ganger. I fremtiden, hvis M9-nivå interposerkort og ASIC-hovedkort introduseres, kan antallet ganger en enkelt bor brukes bli ytterligere redusert. Bransjeanalytikere mener at Googles TPU-designtransformasjon etter 2026 betyr at ASIC-er har gått inn i en ny fase med «høyt gulvnummer, høye materialspesifikasjoner og høy merverdi». Dette vil ikke bare gjenspeiles i gjennomsnittlig salgspris (ASP) på high-end CCL- og PCB-produkter, men vil også smitte over på viktige oppstrøms forsyningskjeder som lavdielektrisk glassfiber, høykvalitets HVLP kobberfolie og bor. Forsyningskjeder justerer sine konfigurasjoner på forhånd for å tilpasse seg adopsjonen av nye plattformer.