Am ascultat un podcast care merită ascultat, "Silicon Valley 101|Era infrastructurii de trilioane de dolari a centrelor de date AI: Creșterea PIB-ului SUA depinde de asta". Deoarece podcastul este foarte lung, voi împărtăși câteva dintre punctele cheie pe care le-am înregistrat și voi clarifica unele dintre țintele legate de electricitate și puterea de calcul menționate în el. Dacă ai timp, poți totuși să asculți versiunea completă. Secțiunea de opinii: 1️⃣Care sunt cele mai puternice companii din centrul de date? OpenAI este cel mai agresiv, având ca scop construirea unei capacități de putere de calcul de 10 GW sau chiar 100 GW pe termen lung. xAI și Meta sunt, de asemenea, agresive, măturând generatoare de turbine și confiscând terenuri cu energie redusă pentru a construi centre de date. (Investiții de 5-7 trilioane pe drum) 1 GW corespunde unei investiții de 50 de miliarde. 2️⃣ Microsoft construiește centre de date într-un ritm accelerat, iar ideea de a construi centre de date s-a schimbat pe parcursul anului. Google și Microsoft au deja peste 10 GW de centre cloud. Prin urmare, companiile emergente de AI vor fi mai agresive. 3️⃣ Jetoanele nu sunt la fel de scurte ca energia. În ultimii 2 ani, capacitatea de producție a cipurilor s-a extins. Diferența de memorie va fi puțin mai mare, dar cea mai mare diferență va veni tot de la electricitate. 4️⃣Logica din spatele strategiei Power First: Cine deține electricitate poate folosi o cantitate atât de mare de putere de calcul, astfel încât să câștige o cotă de piață mai mare și să genereze profituri pentru a circula acest proces. Riscul de "subinvestire" este mult mai mare decât riscul de "suprainvestire". 5️⃣Andy dă, Bill ia. Andy se referă la fostul CEO Intel Andy Grove, iar Bill se referă la fostul CEO Microsoft Bill Gates, ceea ce înseamnă că performanța îmbunătățită de hardware este rapid consumată de software. În prezent, GPU-urile interne ale marilor producători (META etc.) sunt insuficiente, iar pentru uz intern este necesară multă putere de calcul. Chiar dacă există un exces de putere de calcul, aceasta poate fi folosită pentru a reduce costurile intern. 6️⃣ De ce să construiești un centru de date mare (mai mare de 1 GW)? Reducerea costurilor de operare + oferirea de eficiență a instruirii AI. Tendința este de la 10.000 de clustere de carduri la 100.000 de clustere de carduri sau chiar mai mari. 7️⃣ Unde este folosită puterea de calcul? Acum doi ani, mai multă putere de calcul era folosită pentru pre-antrenament, care nu putea genera venituri, dar acum s-a orientat mai mult spre inferență (60%), iar se așteaptă ca proporția aplicațiilor și inferenței să continue să crească în viitor (creând cu adevărat PIB). 8️⃣ Puterea de calcul inactivă poate fi folosită de startup-uri pentru inferență, dar este mai potrivită pentru startup-uri decât pentru fabricile mari, care țin mai mult la eficiență. 9️⃣ Sursa de energie ⚡️ a centrelor de date: Sistemul energetic din SUA a crescut lent în ultimii 20 de ani, cu o rată anuală de creștere de 1%, mult mai lentă decât rata de creștere a centrelor de date Cerere nouă: Statele Unite trebuie să adauge 80 GW de energie electrică, Diferență: 20 GW pe an (8 GW de la centrele de date) New York consumă între 6 și 11 gigawați de electricitate pe an Aprovizionare: Pe bază de gaze naturale, stocare a energiei solare, energie nucleară (după 2028) 🔟 Rețeaua fragilă a SUA: Generarea energiei electrice (50%) - transmisia (20%) - distribuția (30%). Rețelele existente au, de asemenea, dificultăți în a absorbi aceste noi generații....