Dinlemeye değer bir podcast dinledim: "Silicon Valley 101|The Trillion-Dollar Infrastructure Era of AI Data Centers: U.S. GDP Growth Depend On". Podcast çok uzun olduğu için, kaydettiğim bazı önemli noktaları paylaşacağım ve içinde bahsedilen elektrik ve hesaplama gücüyle ilgili bazı hedefleri açıklayacağım. Vaktiniz varsa, hâlâ tam versiyonunu dinleyebilirsiniz. Görüş bölümü: 1️⃣Veri merkezindeki en güçlü şirketler hangileri? OpenAI en agresif olanıdır ve uzun vadede 10 GW hatta 100 GW hesaplama gücü kapasitesi oluşturmayı hedeflemektedir. xAI ve Meta da agresif, türbin jeneratörlerini süpürüyor ve düşük enerjili arazileri ele geçirerek veri merkezleri inşa ediyor. (5-7 trilyon yatırım yolda) 1 GW 50 milyar yatırım anlamına gelir. 2️⃣ Microsoft veri merkezlerini hızlanmış bir tempoda inşa ediyor ve veri merkezleri kurma fikri yıl içinde değişti. Google ve Microsoft'un zaten 10 GW'tan fazla bulut merkezi var. Bu nedenle, gelişmekte olan yapay zeka şirketleri daha agresif olacak. 3️⃣ Cipsler enerji kadar kısa değildir. Son 2 yılda çip üretim kapasitesi genişledi. Hafıza boşluğu biraz daha büyük olacak, ama en büyük boşluk yine de elektrikten kaynaklanacak. 4️⃣Önce Güç stratejisinin mantığı: Elektriğe sahip olan kişi, bu kadar büyük bir hesaplama gücü kullanabilir, böylece daha büyük bir pazar payı kazanabilir ve bu süreci dolaştırmak için kâr elde edebilir. "Az yatırım yapma" riski, "aşırı yatırım" riskinden çok daha fazladır. 5️⃣Andy veriyor, Bill alıyor. Andy, eski Intel CEO'su Andy Grove'dan bahsederken, Bill eski Microsoft CEO'su Bill Gates'ten bahsediyor; bu da donanımın geliştirdiği performansın yazılım tarafından hızla tüketildiği anlamına geliyor. Şu anda, büyük üreticilerin (META vb.) dahili GPU'ları yetersiz ve dahili kullanım için çok fazla hesaplama gücü gerekiyor. Fazla hesaplama gücü olsa bile, bu dahili maliyetleri azaltmak için kullanılabilir. 6️⃣ Neden büyük bir veri merkezi inşa etmek (1 GW'tan fazla)? İşletme maliyetlerini azaltın + yapay zeka eğitim verimliliği sağlayın. Trend 10.000 kart kümesinden 100.000 kart kümesine veya daha fazlasına yöneliyor. 7️⃣ Hesaplama gücü nerede kullanılıyor? İki yıl önce, daha fazla hesaplama gücü ön eğitim için kullanılıyordu, bu gelir sağlayamıyordu, ancak şimdi daha çok çıkarıma kaymış (%60) ve uygulama ile çıkarım oranının gelecekte artmaya devam etmesi bekleniyor (gerçekten GSYİH yaratıyor). 8️⃣ Boşta hesaplama gücü, girişimler tarafından çıkarım için kullanılabilir, ancak verimlilikle daha çok ilgilenen büyük fabrikalardan çok girişimler için daha uygundur. 9️⃣ Veri merkezi güç ⚡️ kaynağı: ABD enerji sistemi son 20 yılda yavaş büyüdü ve yıllık büyüme oranı %1'dir, bu da veri merkezlerinin büyüme oranından çok daha yavaştır Yeni talep: Amerika Birleşik Devletleri'nin 80 GW enerji üretimi eklemesi gerekiyor, Boşluk: Yılda 20 GW (veri merkezlerinden 8 GW) New York yılda 6-11 gigavat elektrik kullanıyor Tedarik: Doğal gaz bazlı, güneş enerjisi depolama, nükleer enerji (2028 sonrası) 🔟 Kırılgan ABD Şebekesi: Enerji üretimi (%50) - iletim (%20) - dağıtım (%30). Mevcut şebekeler de bu yeni nesilleri emmekte zorlanıyor....