Aquí hay una idea sobre la próxima gran cosa de SpaceX. Computación AI (inferencia) en órbita, pero ¿cómo demonios puede SpaceX hacer esto más barato que simplemente construir más centros de datos en tierra? Desde los primeros principios, es una propuesta atractiva porque las GPU tienen un valor extremo por kg y un ingreso extremo por kW, ambos relativamente caros. Es decir, la propuesta de valor en cierta medida compensa el dolor de operar en el espacio. Así que eché un vistazo más de cerca. Si alguien puede hacer que esto funcione, es un sistema derivado de Starlink, así que comencé con los satélites Starlink v3, con un CEO-cad de alta fidelidad a continuación. Parámetros orbitales. Elige una órbita sincrónica con el sol - así que estamos en plena luz solar de 1400 kW/m^2 en todo momento. No hay necesidad de baterías. Despliega el panel solar en modo "cortador de sol", mirando hacia el sol, pero el borde está apuntando en la dirección orbital (abajo a la derecha en estas imágenes) para minimizar la resistencia. Pero los satélites de inferencia Starlink (¿Star Thought?) no tienen que raspar la atmósfera. Estando en SSO, necesitarán usar el resto de la constelación Starlink para el backhaul a través de enlaces láser de todos modos, y órbitas más altas en realidad mejoran ligeramente la latencia en el peor de los casos (sirviendo a clientes ecuatoriales alrededor de la medianoche o el mediodía). Sin embargo, demasiado alto, y SSO está relativamente lleno de escombros. Elijamos 560 km. Un satélite Starlink en esta órbita tiene sol pleno, así que la mitad trasera siempre está en sombra y relativamente fresca. La siguiente cosa más caliente en el cielo es la Tierra, ocupando casi la mitad del cielo hacia la parte inferior izquierda en estas imágenes. Así que instala un reflector de calor MLI allí también, y luego en la parte trasera del bus principal podemos usar radiación pasiva para enfriar. Las partes no brillantes del espacio son muy frías. Un arreglo de este tamaño produce alrededor de 130 kW de potencia eléctrica. En este modelo, quizás 200 GPUs equivalentes a H100 están montadas en el bus principal, generando 13,000 tokens por segundo, muy lejos de saturar un enlace láser. A $10/token, eso son $4 millones de ingresos por año. Suponiendo un costo total de $50,000/kW (dominados por las GPUs en base a kW o kg), eso es algo así como un 60% de ROI por año. Obviamente, las suposiciones pueden variar. Pero esto descuida un punto más amplio. Los satélites Starlink tienen que hacer todo tipo de cosas que los satélites de inferencia no tienen que hacer, en particular, hablar con millones de clientes en todo el mundo. Si la mayor parte de nuestra energía se destina solo a la inferencia, ¿cambiaríamos el diseño? Cada módulo de panel solar produce alrededor de 6 kW. Cada GPU consume alrededor de 700 W. SpaceX podría instalar GPUs directamente en el módulo solar, igualando los niveles óptimos de voltaje y corriente y conectando cada uno de vuelta al bus principal no con un cable de alta tensión aislado, sino con una conexión wifi local. Entonces no hay un límite real en cuántos módulos pueden conectarse a cada bus, lo que impulsa la densidad de potencia general del sistema hacia los paneles solares más delgados que se pueden volar, probablemente cerca de 1 kg/m^2 en el límite. Es decir, la inferencia se realiza mediante un delgado trozo de silicio que siempre mira hacia el sol, conectado a un trozo algo más pequeño de silicio delgado con miles de millones de puertas lógicas en él. Esto también ayuda al problema térmico, porque no estamos llevando un montón de energía a un lugar concentrado. Si un Starship puede lanzar 100 T a LEO, entonces eso se acerca a 30 MW de inferencia por lanzamiento. 1000 lanzamientos son 30 GW. Ahora estamos hablando de una escala real - y siempre que el ingreso por kWh sea mayor que aproximadamente $4.00, creo que la economía funciona. He visto un montón de lanzamientos de Starlink de alta inclinación desde Vandenberg recientemente, pero no creo que ninguno de ellos fuera a SSO. En cualquier caso, un anillo de satélites de inferencia visibles al amanecer y al atardecer corriendo de norte a sur será increíble.
$10/megatoken por supuesto.
43,32K