Écouter un épisode de podcast très intéressant intitulé « Silicon Valley 101 | L'ère des infrastructures de données AI de mille milliards : la croissance du PIB américain en dépend ». Comme le podcast est long, je partage quelques points que j'ai notés, en organisant certains des sujets mentionnés liés à l'électricité et à la puissance de calcul. Si vous avez le temps, vous pouvez toujours écouter la version complète. Partie des opinions : 1️⃣ Quelles sont les entreprises les plus puissantes dans le domaine des centres de données ? OpenAI est la plus agressive, visant à construire une capacité de calcul de 10 gigawatts et à long terme 100 gigawatts. xAI et Meta sont également agressifs, achetant des turbines à gaz et s'emparant de terrains à faible coût pour construire des centres de données. (5 à 7 trillions d'investissements en cours) 1 gigawatt correspond à 50 milliards d'investissements. 2️⃣ Microsoft accélère la construction de centres de données, et cette année, ses idées sur l'établissement de centres de données ont évolué. Google et Microsoft ont déjà plus de 10 gigawatts de centres cloud existants. Par conséquent, les nouvelles entreprises d'IA seront encore plus agressives. 3️⃣ Les puces ne sont pas aussi rares que l'énergie. Au cours des 2 dernières années, la capacité de production de puces a déjà été étendue. Le manque de mémoire sera légèrement plus important, mais le plus grand manque provient toujours de l'électricité. 4️⃣ La logique derrière la stratégie Power First : celui qui a de l'électricité peut utiliser une telle quantité de puissance de calcul, obtenant ainsi une plus grande part de marché et générant des bénéfices pour faire circuler ce processus. Le risque de « sous-investissement » est bien plus grand que le risque de « sur-investissement ». 5️⃣ Andy donne, Bill prend. Andy fait référence à l'ancien PDG d'Intel, Andy Grove, et Bill à l'ancien PDG de Microsoft, Bill Gates. Cela signifie que les performances améliorées du matériel sont rapidement consommées par les logiciels. Actuellement, au sein des grandes entreprises (META, etc.), les GPU sont insuffisants, nécessitant beaucoup de puissance de calcul pour un usage interne. Même s'il y a une puissance excédentaire, elle peut être utilisée pour réduire les coûts internes. 6️⃣ Pourquoi construire de grands centres de données (supérieurs à 1 gigawatt) ? Réduire les coûts d'exploitation + améliorer l'efficacité de l'entraînement de l'IA. La tendance va des clusters de 10 000 cartes à des clusters de 100 000 cartes, voire plus grands. 7️⃣ Où est utilisée la puissance de calcul ? Il y a deux ans, une plus grande partie de la puissance de calcul était utilisée pour le pré-entraînement, qui ne génère pas de revenus. Maintenant, elle est davantage orientée vers l'inférence (60 %), et on s'attend à ce que la part des applications et de l'inférence continue d'augmenter (réellement créant du PIB). 8️⃣ La puissance de calcul inutilisée peut être utilisée par les startups pour l'inférence, mais elle est plus adaptée aux startups qu'aux grandes entreprises, qui se soucient davantage de l'efficacité. 9️⃣ Source d'électricité des centres de données ⚡️ : le système électrique américain a connu une croissance lente au cours des 20 dernières années, avec une augmentation annuelle de 1 %, bien inférieure à la croissance des centres de données. Demande supplémentaire : les États-Unis doivent augmenter leur capacité de production d'électricité de 80 gigawatts, écart : 20 gigawatts par an (8 gigawatts proviennent des centres de données) La consommation annuelle de New York est de 6 à 11 gigawatts. Approvisionnement : principalement gaz naturel, stockage d'énergie solaire, énergie nucléaire (après 2028). 🔟 Le réseau électrique américain est fragile : Production (50 %) - Transmission (20 %) - Distribution (30 %). Le réseau électrique existant a également des difficultés à absorber ces nouvelles capacités de production....