Ecco un'idea su cosa potrebbe essere la prossima grande novità di SpaceX. Calcolo AI (inference) in orbita, ma come diavolo può SpaceX farlo più economico rispetto a costruire più datacenter a terra? Dal punto di vista dei principi fondamentali, è una proposta allettante perché le GPU hanno un valore estremo per kg e un'estrema redditività per kW, entrambi relativamente costosi. Cioè, il valore proposto in qualche modo attenua il dolore di operare nello spazio. Quindi ho dato un'occhiata più da vicino. Se qualcuno può farlo funzionare, è un sistema derivato da Starlink, quindi ho iniziato con i satelliti Starlink v3, con un CEO-cad ad alta fedeltà qui sotto. Parametri orbitali. Scegli un'orbita sincrona con il sole - così siamo sempre in pieno sole a 1400 kW/m^2. Nessun bisogno di batterie. Distribuisci il pannello solare in modalità "sun slicer", rivolto verso il sole, ma il bordo è puntato nella direzione orbitale (in basso a destra in queste immagini) per minimizzare la resistenza. Ma i satelliti Starlink per l'inference (Star Thought?) non devono raschiare l'atmosfera. Essendo in SSO, dovranno comunque utilizzare il resto della costellazione Starlink per il backhaul tramite collegamenti laser, e orbite più alte migliorano effettivamente leggermente la latenza nel peggior caso (servendo clienti equatoriali intorno a mezzanotte o a mezzogiorno). Troppo in alto però, e l'SSO è relativamente pieno di detriti. Scegliamo 560 km. Un satellite Starlink in quest'orbita ha sole pieno, quindi la parte posteriore è sempre all'ombra e relativamente fresca. La cosa più calda nel cielo è la Terra, che occupa quasi metà del cielo in basso a sinistra in queste immagini. Quindi mettiamo anche un riflettore di calore MLI lì, e poi sul lato posteriore del bus principale possiamo usare la radiazione passiva per raffreddarci. Le parti non lucide dello spazio sono molto fredde. Un array di queste dimensioni produce circa 130 kW di potenza elettrica. In questo modello, forse 200 GPU equivalenti a H100 sono montate sul bus principale, generando 13.000 token al secondo, ben lontano dal saturare un collegamento laser. A $10/token, sono $4 milioni di entrate all'anno. Assumendo un costo totale di $50.000/kW (dominato dalle GPU su base kW o kg), si tratta di qualcosa come il 60% di ROI all'anno. Ovviamente le assunzioni possono variare. Ma questo trascura un punto più ampio. I satelliti Starlink devono fare tutte le cose che i satelliti di inference non devono fare, in particolare, parlare con milioni di clienti in tutto il mondo. Se la maggior parte della nostra potenza va solo all'inference, cambieremmo il design? Ogni modulo del pannello solare produce circa 6 kW. Ogni GPU consuma circa 700 W. SpaceX potrebbe effettivamente installare GPU direttamente sul modulo solare, abbinando i livelli di tensione e corrente ottimali e collegando ciascuno al bus principale non con un cavo di alimentazione ad alta tensione isolato, ma con una connessione wifi locale. Non c'è quindi un vero limite su quanti moduli possono connettersi a ciascun bus, il che spinge la densità di potenza complessiva del sistema verso i pannelli solari più sottili che possono essere lanciati, probabilmente vicini a 1 kg/m^2 nel limite. Cioè, l'inference è eseguita da un sottile pezzo di silicio che guarda sempre il sole, collegato a un pezzo di silicio leggermente più piccolo con miliardi di porte logiche in esso. Questo aiuta anche il problema termico, perché non stiamo portando un sacco di potenza in un luogo concentrato. Se un Starship può lanciare 100 T a LEO, allora ci avviciniamo a 30 MW di inference per lancio. 1000 lanci sono 30 GW. Ora stiamo parlando di una vera scala - e a condizione che il ricavo per kWh sia superiore a circa $4,00, penso che l'economia funzioni. Ho visto un sacco di lanci Starlink ad alta inclinazione da Vandenberg recentemente, ma non penso che nessuno di essi fosse diretto a SSO. In ogni caso, un anello di satelliti di inference visibili all'alba e al tramonto che corrono da nord a sud sarà fantastico.

$10/megatoken ovviamente.