Escuché un pódcast que merece la pena escuchar, "Silicon Valley 101|La era de la infraestructura de billones de dólares de los centros de datos de IA: el crecimiento del PIB de EE. UU. depende de ello". Como el podcast es muy extenso, compartiré algunos de los puntos clave que he registrado y definiré algunos de los objetivos relacionados con la electricidad y la potencia de cálculo mencionados en él. Si tienes tiempo, aún puedes escuchar la versión completa. Sección de opinión: 1️⃣¿Cuáles son las empresas más potentes en el centro de datos? OpenAI es el más agresivo, con el objetivo de construir una capacidad de potencia de cálculo de 10 GW o incluso 100 GW a largo plazo. xAI y Meta también son agresivos, barriendo generadores de turbinas y apropiándose de terrenos de bajo consumo energético para construir centros de datos. (Inversión de 5-7 billones en camino) 1 GW corresponde a una inversión de 50 mil millones. 2️⃣ Microsoft está construyendo centros de datos a un ritmo acelerado, y la idea de construir centros de datos ha cambiado a lo largo del año. Google y Microsoft ya cuentan con más de 10 GW de centros en la nube. Por lo tanto, las empresas emergentes de IA serán más agresivas. 3️⃣ Las fichas no son tan cortas como la energía. En los últimos 2 años, la capacidad de producción de chips se ha ampliado. La brecha de memoria será un poco mayor, pero la mayor aún vendrá de la electricidad. 4️⃣La lógica detrás de la estrategia Power First: Quien tenga electricidad puede usar una cantidad tan grande de potencia de cálculo, para ganar una mayor cuota de mercado y generar beneficios para circular este proceso. El riesgo de "infrainversión" es mucho mayor que el riesgo de "sobreinversión". 5️⃣Andy da, Bill quita. Andy se refiere al exCEO de Intel, Andy Grove, y Bill al ex CEO de Microsoft, Bill Gates, lo que significa que el rendimiento mejorado por el hardware se consume rápidamente por el software. Actualmente, las GPUs internas de los grandes fabricantes (META, etc.) son insuficientes y se requiere mucha potencia de cálculo para uso interno. Incluso si hay excedente de potencia de cálculo, puede utilizarse para reducir costes internamente. 6️⃣ ¿Por qué construir un centro de datos grande (superior a 1 GW)? Reducir los costes operativos + proporcionar eficiencia en la formación de IA. La tendencia es de 10.000 clusters de tarjetas a 100.000 clusters de tarjetas o incluso más. 7️⃣ ¿Dónde se utiliza la potencia de cálculo? Hace dos años, se utilizaba más potencia de cálculo para el preentrenamiento, que no podía generar ingresos, pero ahora se ha desplazado más hacia la inferencia (60%), y se espera que la proporción de aplicaciones e inferencias siga aumentando en el futuro (creando realmente el PIB). 8️⃣ La potencia de cálculo en reposo puede ser utilizada por startups para inferencias, pero es más adecuada para startups que para grandes fábricas, que se preocupan más por la eficiencia. 9️⃣ Fuente de energía ⚡️ para centros de datos: El sistema eléctrico de EE. UU. ha crecido lentamente en los últimos 20 años, con una tasa de crecimiento anual del 1%, mucho más lenta que la tasa de crecimiento de los centros de datos Nueva demanda: Estados Unidos necesita añadir 80 GW de generación eléctrica, Intervalo: 20 GW por año (8 GW de centros de datos) Nueva York consume entre 6 y 11 gigavatios de electricidad al año Suministro: Almacenamiento de energía solar basado en gas natural, energía nuclear (después de 2028) 🔟 Frágil red eléctrica estadounidense: Generación de energía (50%) - transmisión (20%) - distribución (30%). Las redes existentes también tienen dificultades para absorber estas nuevas generaciones....