Epizoda 2: Postřehy z IEDM 2025 @vikramskr shrnuje zajímavá témata z IEDM: - Pětaúrovňová NAND flash paměť by mohla narušit trh SSD - Čiplety GaN-on-Silicon zvyšují energetickou účinnost - Kruhové oscilátory s komplementárními FET - Optické zvětšení má problém s výkonem - Budoucnost tranzistorů je stále světlá Bonus: V této epizodě jsou také vysvětleny základy NAND a CFET. Kapitoly Úvod do konference IEDM (00:00) Význam IEDM pro inženýry a investory (02:38) Networking a poznatky na IEDM (04:21) Křemíková fotonika pro energeticky efektivní AI (07:06) Pokroky v komplementárních FET (13:34) Budoucnost inovací v tranzistorech (21:42) Porozumění NAND flash paměti a jejímu rušivému potenciálu (22:45) Inovativní technologie vícemístních buněk (28:08) Budoucnost SSD a datové hustoty (32:42) Intel GaN o křemíkových čipletech (34:55) Monolitická heterogenní integrace v RF technologii (40:51) @vikramskr @theaustinlyons @ieee_iedm $NVDA $INTC $TSM $SNDK $MU $WDC $AMAT $LRCX

Teaser: Epizoda 2 Semi Doped. Vik rozebírá NAND flash od základů. Sledujte @vikramskr celou epizodu, kde vysvětlí, proč "multi-site" pětiúrovňová buňka SK Hynix mohla zvýšit hustotu SSD bez obvyklého snížení latence a výdrže.

Epizoda 1: Nvidia "získává" Groqa Od @vikramskr a @theaustinlyons Hlavní poznatky: - GPU nejsou mrtvé. HBM není mrtvý. - LPU řeší jiný problém: deterministickou, ultra-nízkolatencní inferenci pro malé modely. - Velké frontierové modely stále vyžadují systémy založené na HBM. - Přesun Nvidie rozšiřuje plochu portfolia inference místo nahrazování GPU. - Budoucnost infrastruktury AI je optimalizace specifická pro pracovní zátěž a nasazení řízené TCO. Klíčová témata: - Co Nvidia vlastně koupila od Groq a proč to není tradiční akvizice - Proč tato dohoda vyvolala tvrzení, že GPU a HBM jsou zastaralé - Architektonické kompromisy mezi GPU, TPU, XPU a LPU - SRAM vs HBM. Rychlost, kapacita, náklady a realita dodavatelského řetězce - Základy Groq LPU: VLIW, plánované provádění kompilátorem, determinismus, ultra-nízká latence - Proč mají LPU potíže s velkými modely a kde naopak vynikají - Praktické případy použití inference s hypernízkou latencí: -- Personalizace reklamních textů při rozpočtu na latenci vyhledávání -- Směrování modelů a orchestrace agentů -- Konverzační rozhraní a překlad v reálném čase -- Robotika a fyzická AI na okraji -- Potenciální aplikace v AI-RAN a telekomunikační infrastruktuře - Paměť jako návrhové spektrum: pouze SRAM, SRAM plus DDR, SRAM plus HBM - Rostoucí portfolio hardwaru Nvidia k inferenčnímu hardwaru místo univerzálního přístupu