Poslouchal jsem podcast, který stojí za poslech, "Silicon Valley 101|The Trilion Dollar Infrastructure Era AI datových center: Růst HDP USA na tom závisí". Protože je podcast velmi dlouhý, podělím se o některé klíčové body, které jsem zaznamenal, a rozjasním některé cíle týkající se elektřiny a výpočetního výkonu, které v něm zmíním. Pokud máte čas, můžete si poslechnout celou verzi. Sekce názorů: 1️⃣Jaké jsou nejsilnější společnosti v datových centrech? OpenAI je nejagresivnější a dlouhodobě si klade za cíl vybudovat výpočetní kapacitu 10 GW nebo dokonce 100 GW. xAI a Meta jsou také agresivní, zabírají turbínové generátory a zabírají nízkoenergeticky náročnou půdu pro výstavbu datových center. (Investice 5-7 bilionů na cestě) 1 GW odpovídá investici 50 miliard. 2️⃣ Microsoft buduje datová centra zrychleným tempem a myšlenka budování datových center se během roku změnila. Google a Microsoft už mají více než 10 GW cloudových center. Proto budou nově vznikající AI společnosti agresivnější. 3️⃣ Čipy nejsou tak krátké jako energie. Za poslední 2 roky se výrobní kapacita čipů rozšířila. Mezera v paměti bude o něco větší, ale největší mezera bude stále způsobena elektřinou. 4️⃣Logika strategie Power First: Kdo má elektřinu, může využít tak velké množství výpočetního výkonu, aby získal větší podíl na trhu a generoval zisky na cirkulaci tohoto procesu. Riziko "podinvestování" je mnohem větší než riziko "přeinvestování". 5️⃣Andy dává, Bill bere. Andy odkazuje na bývalého generálního ředitele Intelu Andyho Grovea a Bill na bývalého generálního ředitele Microsoftu Billa Gatese, což znamená, že výkon vylepšený hardwarem rychle spotřebuje software. V současnosti jsou interní GPU velkých výrobců (META atd.) nedostatečné a pro interní použití je potřeba velké množství výpočetního výkonu. I když je výpočetní výkon přebytečný, může být využit ke snížení nákladů interně. 6️⃣ Proč stavět velké datové centrum (větší než 1 GW)? Snižte provozní náklady + zajistěte efektivitu tréninku AI. Trend je od 10 000 kazetových clusterů k 100 000 kartovým clusterům nebo i větším. 7️⃣ Kde se používá výpočetní výkon? Před dvěma lety se více výpočetního výkonu využívalo na předškolení, které nemohlo generovat příjmy, ale nyní se více zaměřuje na inferenci (60 %) a očekává se, že podíl aplikací a inference bude v budoucnu nadále růst (skutečně vznikne HDP). 8️⃣ Nečinný výpočetní výkon mohou startupy využít pro inferenci, ale je vhodnější pro startupy než pro velké továrny, kterým záleží více na efektivitě. 9️⃣ Zdroj energie ⚡️ datových center: Americký energetický systém rostl za posledních 20 let pomalu, s ročním růstem 1 %, což je mnohem pomalejší než růst datových center Nová poptávka: Spojené státy potřebují přidat 80 GW výroby elektřiny, Mezera: 20 GW ročně (8 GW z datových center) New York spotřebuje 6–11 gigawattů elektřiny ročně Nabídka: Na bázi zemního plynu, skladování solární energie, jaderná energie (po roce 2028) 🔟 Křehká americká síť: Výroba elektřiny (50 %) - přenos (20 %) - distribuce (30 %). Stávající sítě mají také potíže absorbovat tyto nové generace....