Escuché un episodio de podcast muy interesante titulado "Silicon Valley 101 | La era de la infraestructura de un billón de dólares en centros de datos de IA: el crecimiento del PIB de EE. UU. depende de ello". Como el podcast es muy largo, comparto algunos puntos que he anotado, organizando algunos de los temas mencionados relacionados con la energía y la capacidad de cálculo. Si hay tiempo, aún se puede escuchar la versión completa. Parte de opiniones: 1️⃣ ¿Cuáles son las empresas más agresivas en el sector de los centros de datos? OpenAI es la más radical, con el objetivo de construir una capacidad de cálculo de 10 gigavatios y, a largo plazo, 100 gigavatios. xAI y Meta también son agresivas, comprando turbinas de generación eléctrica y ocupando terrenos con energía barata para construir centros de datos. (Se están invirtiendo entre 5 y 7 billones). 1 gigavatio corresponde a una inversión de 50 mil millones. 2️⃣ Microsoft está acelerando la construcción de centros de datos, y en este año ha cambiado su perspectiva sobre la creación de centros de datos. Google y Microsoft ya tienen más de 10 gigavatios en sus centros de nube existentes. Por lo tanto, las nuevas empresas de IA serán aún más agresivas. 3️⃣ Los chips no son tan escasos como la energía. En los últimos 2 años, la capacidad de producción de chips ya se ha expandido. La brecha de memoria será un poco mayor, pero la mayor brecha proviene de la electricidad. 4️⃣ La lógica detrás de la estrategia Power First: quien tenga electricidad podrá utilizar una gran cantidad de capacidad de cálculo, obteniendo así una mayor cuota de mercado y generando beneficios que retroalimentan este proceso. El riesgo de "inversión insuficiente" es mucho mayor que el riesgo de "sobreinversión". 5️⃣ Andy da, Bill quita. Andy se refiere a Andy Grove, ex CEO de Intel, y Bill se refiere a Bill Gates, ex CEO de Microsoft. Esta frase significa que el aumento en el rendimiento del hardware es rápidamente consumido por el software. Actualmente, en las grandes empresas (como META), la cantidad de GPU es insuficiente, y se necesita mucha capacidad de cálculo para uso interno. Incluso si hay capacidad de cálculo sobrante, se puede utilizar para reducir costos internos. 6️⃣ ¿Por qué construir grandes centros de datos (mayores de 1 gigavatio)? Para reducir costos operativos y mejorar la eficiencia del entrenamiento de IA. La tendencia es pasar de clústeres de 10,000 a clústeres de 100,000 o incluso más grandes. 7️⃣ ¿Dónde se está utilizando la capacidad de cálculo? Hace dos años, más capacidad se utilizaba para el preentrenamiento, que no genera ingresos; ahora, más se destina a la inferencia (60%), y se espera que la proporción de aplicaciones e inferencias siga aumentando (realmente creando PIB). 8️⃣ La capacidad de cálculo ociosa puede ser utilizada por startups para la inferencia, pero es más adecuada para startups que para grandes empresas, ya que estas últimas se preocupan más por la eficiencia. 9️⃣ Fuentes de electricidad de los centros de datos ⚡️: el sistema eléctrico de EE. UU. ha crecido lentamente en los últimos 20 años, con un aumento del 1% anual, muy por debajo de la tasa de crecimiento de los centros de datos. Demanda adicional: EE. UU. necesita aumentar su capacidad de generación en 80 gigavatios, Brecha: 20 gigavatios por año (8 gigavatios provienen de centros de datos) El consumo anual de electricidad en Nueva York está entre 6 y 11 gigavatios. Suministro: principalmente gas natural, almacenamiento solar, energía nuclear (después de 2028). 🔟 La red eléctrica de EE. UU. es frágil: Generación (50%) - Transmisión (20%) - Distribución (30%). La red eléctrica existente también tiene dificultades para absorber esta nueva capacidad de generación....