Ik heb een zeer waardevolle aflevering van de podcast geluisterd: "Silicon Valley 101 | Het tijdperk van de triljoenen infrastructuur van AI-datacenters: de Amerikaanse GDP-groei is er volledig op gebaseerd". Omdat de podcast lang is, deel ik enkele punten die ik heb genoteerd, met een overzicht van de onderwerpen die verband houden met elektriciteit en rekenkracht. Als je tijd hebt, is het de moeite waard om de volledige versie te beluisteren. Opiniesectie: 1️⃣ Welke bedrijven zijn de meest agressieve in datacenters? OpenAI is het meest agressief, met als doel een rekenkrachtcapaciteit van 10 gigawatt en op lange termijn zelfs 100 gigawatt op te bouwen. xAI en Meta zijn ook agressief, ze kopen turbo-generatoren op en veroveren goedkope energiegrond om datacenters te bouwen. (5-7 triljoen aan investeringen zijn onderweg) 1 gigawatt staat gelijk aan 50 miljard aan investeringen. 2️⃣ Microsoft versnelt de bouw van datacenters, en dit jaar zijn er veranderingen in hun ideeën over het opzetten van datacenters. Google en Microsoft hebben al meer dan 10 gigawatt aan bestaande cloudcentra. Daarom zullen opkomende AI-bedrijven agressiever zijn. 3️⃣ Chips zijn niet zo schaars als energie. In de afgelopen 2 jaar is de productiecapaciteit van chips al uitgebreid. De kloof in geheugen zal iets groter zijn, maar de grootste kloof komt nog steeds van elektriciteit. 4️⃣ De logica achter de Power First-strategie: wie elektriciteit heeft, kan zo'n grote hoeveelheid rekenkracht gebruiken, waardoor ze een groter marktaandeel kunnen verwerven en winst kunnen genereren, wat dit proces herhaalt. Het risico van "onderinvestering" is veel groter dan het risico van "overinvestering". 5️⃣ Andy geeft, Bill neemt weg. Andy verwijst naar de voormalige CEO van Intel, Andy Grove, en Bill verwijst naar de voormalige CEO van Microsoft, Bill Gates. Deze uitspraak betekent dat de prestatieverbeteringen van hardware snel worden opgebruikt door software. Momenteel is er binnen grote bedrijven (zoals META) een tekort aan GPU's, die intern veel rekenkracht vereisen. Zelfs als er overtollige rekenkracht is, kan deze intern worden gebruikt om kosten te verlagen. 6️⃣ Waarom grote datacenters (groter dan 1 gigawatt) bouwen? Om operationele kosten te verlagen + AI-trainings efficiëntie te bieden. De trend gaat van clusters van tienduizend naar honderdduizend kaarten of zelfs groter. 7️⃣ Waar wordt rekenkracht voor gebruikt? Twee jaar geleden werd meer rekenkracht gebruikt voor pre-training, wat geen opbrengsten genereert, nu verschuift het meer naar inferentie (60%), en naar verwachting zal het aandeel van toepassingen en inferentie in de toekomst blijven toenemen (echt GDP creëren). 8️⃣ Overtollige rekenkracht kan door startups voor inferentie worden gebruikt, maar is geschikter voor startups dan voor grote bedrijven, die meer om efficiëntie geven. 9️⃣ De elektriciteitsbron ⚡️ van datacenters: het Amerikaanse elektriciteitssysteem is de afgelopen 20 jaar langzaam gegroeid, met een jaarlijkse groei van 1%, veel langzamer dan de groei van datacenters. Nieuwe vraag: de VS moet 80 gigawatt aan elektriciteitsproductie toevoegen, Kloof: 20 gigawatt per jaar (8 gigawatt komt van datacenters) Het jaarlijkse elektriciteitsverbruik in New York ligt tussen de 6-11 gigawatt. Aanbod: voornamelijk aardgas, zonne-energieopslag, kernenergie (na 2028). 🔟 Het Amerikaanse elektriciteitsnet is kwetsbaar: Opwekking (50%) - transmissie (20%) - distributie (30%). Het bestaande net heeft ook moeite om deze nieuwe opwekkingscapaciteit op te nemen....