Słuchałem bardzo wartościowego odcinka podcastu "Silicon Valley 101 | Era wielkiej infrastruktury AI w centrach danych: wzrost PKB USA oparty na tym". Ponieważ podcast jest długi, dzielę się kilkoma punktami, które zanotowałem, związanymi z energią i mocą obliczeniową. Jeśli masz czas, warto posłuchać pełnej wersji. Część z opiniami: 1️⃣ Jakie są najbardziej agresywne firmy w branży centrów danych? OpenAI jest najbardziej agresywne, z celem zbudowania mocy obliczeniowej na poziomie 10 GW, a w dłuższej perspektywie 100 GW. xAI i Meta również są agresywne, kupując turbiny gazowe i zajmując tereny o niskich kosztach energii na budowę centrów danych. (5-7 bilionów inwestycji w drodze) 1 GW odpowiada inwestycji w wysokości 50 miliardów. 2️⃣ Microsoft przyspiesza budowę centrów danych, w tym roku zmieniły się pomysły na ich budowę. Google i Microsoft mają już ponad 10 GW w swoich centrach chmurowych. Dlatego nowe firmy AI będą jeszcze bardziej agresywne. 3️⃣ Chipy nie są tak niedoborowe jak energia. W ciągu ostatnich 2 lat zdolności produkcyjne chipów zostały zwiększone. Niedobór pamięci będzie nieco większy, ale największy niedobór pochodzi z energii. 4️⃣ Logika strategii Power First: kto ma energię, ten może wykorzystać dużą moc obliczeniową, zdobywając większy udział w rynku i generując zyski, co pozwala na powtarzanie tego procesu. Ryzyko "niedoinwestowania" jest znacznie większe niż ryzyko "przeinwestowania". 5️⃣ Andy daje, Bill zabiera. Andy odnosi się do byłego CEO Intela Andy'ego Grove'a, a Bill do byłego CEO Microsoftu Billa Gatesa. To zdanie oznacza, że wydajność sprzętu szybko jest konsumowana przez oprogramowanie. Obecnie w dużych firmach (META itp.) brakuje GPU, które są potrzebne wewnętrznie, co wymaga dużej mocy obliczeniowej. Nawet jeśli jest nadmiar mocy obliczeniowej, można go wykorzystać do obniżenia kosztów wewnętrznych. 6️⃣ Dlaczego budować duże centra danych (powyżej 1 GW)? Aby obniżyć koszty operacyjne i zwiększyć efektywność treningu AI. Trend to przejście od klastrów 10 tys. do 100 tys. kart, a nawet większych. 7️⃣ Gdzie wykorzystywana jest moc obliczeniowa? Dwa lata temu więcej mocy obliczeniowej było używane do wstępnego treningu, który nie generował zysków, teraz więcej przechodzi na wnioskowanie (60%), a w przyszłości udział aplikacji i wnioskowania będzie stale rosnąć (prawdziwe tworzenie PKB). 8️⃣ Nieużywana moc obliczeniowa może być wykorzystywana przez startupy do wnioskowania, ale bardziej nadaje się dla startupów niż dla dużych firm, które bardziej dbają o efektywność. 9️⃣ Źródła energii dla centrów danych ⚡️: amerykański system energetyczny przez ostatnie 20 lat rósł powoli, o 1% rocznie, znacznie wolniej niż wzrost centrów danych. Nowe zapotrzebowanie: USA potrzebuje zwiększyć moc produkcyjną o 80 GW, Niedobór: 20 GW rocznie (8 GW pochodzi z centrów danych) Roczne zużycie energii w Nowym Jorku wynosi od 6 do 11 GW. Dostawy: głównie gaz ziemny, energia słoneczna, energia jądrowa (po 2028 roku). 🔟 Amerykańska sieć energetyczna jest słaba: Produkcja (50%) - przesył (20%) - dystrybucja (30%). Obecna sieć ma trudności z absorpcją nowej produkcji energii. Zamówienia na turbiny gazowe są realizowane do 2028 roku, a Musk wykupił 70% zapasów w całych Stanach Zjednoczonych. Krytyczne materiały do transformatorów, takie jak stal krzemowa, są ograniczone w imporcie, co hamuje modernizację infrastruktury sieciowej. Baosteel ma ogromną produkcję, ale nie może importować. 1️⃣1️⃣ NVIDIA opracowuje nowy plan zasilania - wysokie napięcie 800V DC, używane między szafami w centrach danych. Ulepszenia GPU wymagają więcej energii, a wyższe napięcie może zmniejszyć straty podczas przesyłu i zmniejszyć zapotrzebowanie na miedź. Ta część jest jeszcze w fazie koncepcji. 1️⃣2️⃣ W tym roku zużycie energii przez centra danych w USA wynosi 5% całkowitego zużycia kraju, co jest bliskie całkowitemu zużyciu energii w Kalifornii, a do 2030 roku ma się podwoić. 1️⃣3️⃣ Budowa sieci przesyłowej na długich dystansach postępuje wolno. Aby uniknąć słabości przesyłu na długich dystansach, amerykańskie firmy technologiczne decydują się na budowę własnych elektrowni obok centrów danych. 1️⃣4️⃣ Budowa energii w USA, związane akcje energetyczne? $OKLO $CEG sektor energii jądrowej Związane z miedzią, związane z gazem ziemnym $GE $FLNC $EOSE magazynowanie energii $CIFR $IREN $BTDR przemysł wydobywczy do produkcji energii.