Jag lyssnade på en podcast värd att lyssna på, "Silicon Valley 101|The Trillion-Dollar Infrastructure Era of AI Data Centers: U.S. BDP Growth Depends on It". Eftersom podden är mycket lång kommer jag att dela några av de viktigaste punkterna jag har spelat in, och gå igenom några av målen relaterade till elektricitet och datorkraft som nämns i den. Om du har tid kan du fortfarande lyssna på hela versionen. Opinionssektion: 1️⃣Vilka är de mest kraftfulla företagen i datacentret? OpenAI är den mest aggressiva och siktar på att bygga en datorkraft på 10 GW eller till och med 100 GW på lång sikt. xAI och Meta är också aggressiva, de sopar turbingeneratorer och tar över lågenergimark för att bygga datacenter. (5–7 biljoner investeringar på väg) 1 GW motsvarar en investering på 50 miljarder. 2️⃣ Microsoft bygger datacenter i en accelererad takt, och idén om att bygga datacenter har förändrats under året. Google och Microsoft har redan mer än 10 GW molncenter. Därför kommer framväxande AI-företag att vara mer aggressiva. 3️⃣ Chips är inte lika korta som energi. Under de senaste två åren har chipens produktionskapacitet utökats. Minnesgapet kommer att vara något större, men det största gapet kommer fortfarande från elektricitet. 4️⃣Logiken bakom Power First-strategin: Den som har elektricitet kan använda så stor mängd datorkraft för att vinna en större marknadsandel och generera vinster för att cirkulera denna process. Risken för "underinvestering" är mycket större än risken för "överinvestering". 5️⃣Andy ger, Bill tar bort. Andy syftar på tidigare Intel-VD:n Andy Grove, och Bill syftar på tidigare Microsoft-VD:n Bill Gates, vilket innebär att prestandan som förbättras av hårdvaran snabbt förbrukas av mjukvaran. För närvarande är de interna GPU:erna hos stora tillverkare (META, etc.) otillräckliga, och mycket datorkraft krävs för intern användning. Även om det finns överskott av datorkraft kan den användas för att minska kostnader internt. 6️⃣ Varför bygga ett stort datacenter (mer än 1 GW)? Minska driftskostnaderna + ge AI-träningseffektivitet i praktiken. Trenden går från 10 000 kortkluster till 100 000 kortkluster eller ännu större. 7️⃣ Var används datorkraften? För två år sedan användes mer datorkraft för förutbildning, vilket inte kunde generera intäkter, men nu har det gått mer över till inferensarbete (60 %), och det förväntas att andelen applikationer och inferenser kommer att fortsätta öka i framtiden (vilket verkligen skapar BNP). 8️⃣ Ledig datorkraft kan användas av startups för att dra slutsatser, men den är mer lämplig för startups än för stora fabriker, som bryr sig mer om effektivitet. 9️⃣ Datacenters kraftkälla ⚡️: USA:s elsystem har vuxit långsamt under de senaste 20 åren, med en årlig tillväxttakt på 1 %, vilket är mycket långsammare än tillväxttakten för datacenter Ny efterfrågan: USA behöver lägga till 80 GW elproduktion, Gap: 20 GW per år (8 GW från datacenter) New York använder 6–11 gigawatt elektricitet per år Tillgång: Naturgasbaserad, solenergilagring, kärnkraft (efter 2028) 🔟 Skört amerikanskt nät: Elproduktion (50 %) - transmission (20 %) - distribution (30 %). Befintliga nät har också svårt att absorbera dessa nya generationer....