Oto jeden pomysł na następny wielki projekt SpaceX. Obliczenia AI (wnioskowanie) na orbicie, ale jak do diabła SpaceX może to zrobić taniej niż po prostu budując więcej centrów danych na ziemi? Z perspektywy podstawowych zasad, to atrakcyjna propozycja, ponieważ GPU mają ekstremalną wartość na kg i ekstremalne przychody na kW, z których oba są stosunkowo drogie. To znaczy, propozycja wartości w pewnym sensie niweluje ból związany z operowaniem w przestrzeni. Zatem przyjrzałem się temu bliżej. Jeśli ktokolwiek może to zrealizować, to system oparty na Starlink, więc zacząłem od satelitów Starlink v3, z pewnym wysokiej jakości CEO-cad poniżej. Parametry orbitalne. Wybierz orbitę synchroniczną ze słońcem - więc jesteśmy w pełnym świetle 1400 kW/m^2 przez cały czas. Nie ma potrzeby używania baterii. Rozłóż panel słoneczny w trybie "slicer słońca", zwrócony w stronę pełnego słońca, ale krawędź skierowana w kierunku orbitalnym (w prawym dolnym rogu tych obrazów), aby zminimalizować opór. Ale satelity Starlink do wnioskowania (Star Thought?) nie muszą zeskrobywać atmosfery. Będąc w SSO, będą musiały korzystać z reszty konstelacji Starlink do przesyłania danych za pomocą połączeń laserowych, a wyższe orbity w rzeczywistości poprawiają najgorsze opóźnienie (obsługując klientów równikowych około północy lub południa) bardzo nieznacznie. Zbyt wysoko jednak, a SSO jest stosunkowo pełne odpadów. Wybierzmy 560 km. Satelita Starlink na tej orbicie ma pełne słońce, więc tylna część jest zawsze w cieniu i stosunkowo chłodna. Najgorętszą rzeczą na niebie jest Ziemia, zajmująca prawie połowę nieba w lewym dolnym rogu tych obrazów. Więc ustaw tam również reflektor ciepła MLI, a następnie na tylnej stronie głównego busa możemy użyć pasywnej radiacji, aby schłodzić się. Nieskóre części przestrzeni są bardzo zimne. Tego rozmiaru panel produkuje około 130 kW energii elektrycznej. W tym modelu, być może 200 GPU równoważnych H100 jest zamontowanych na głównym busie, generując 13 000 tokenów na sekundę, co wcale nie wystarcza do nasycenia połączenia laserowego. Przy 10 USD/token, to 4 mln USD przychodu rocznie. Zakładając całkowity koszt 50 000 USD/kW (dominowany przez GPU na podstawie kW lub kg), to coś w rodzaju 60% ROI rocznie. Oczywiście założenia mogą się różnić. Ale to pomija szerszy punkt. Satelity Starlink muszą robić wszelkiego rodzaju rzeczy, których satelity wnioskowania nie muszą, w szczególności rozmawiać z milionami klientów na całym świecie. Jeśli większość naszej mocy idzie tylko na wnioskowanie, czy zmienilibyśmy projekt? Każdy moduł panelu słonecznego produkuje około 6 kW. Każdy GPU zużywa około 700 W. SpaceX mógłby faktycznie zainstalować GPU bezpośrednio na module słonecznym, dopasowując optymalne poziomy napięcia i prądu i łącząc każdy z powrotem do głównego busa nie za pomocą izolowanego kabla zasilającego wysokiego napięcia, ale lokalnego połączenia wifi. Nie ma więc rzeczywistego limitu na to, ile modułów może połączyć się z każdym busiem, co zwiększa ogólną gęstość mocy systemu w kierunku najcieńszych paneli słonecznych, które można wysłać w kosmos, prawdopodobnie blisko 1 kg/m^2 w limicie. To znaczy, wnioskowanie jest wykonywane przez cienki kawałek krzemu, który zawsze zwraca się w stronę słońca, połączony z nieco mniejszym kawałkiem cienkiego krzemu z miliardami bramek logicznych w środku. To również pomaga w problemie termalnym, ponieważ nie wprowadzamy dużej ilości energii w jedno skoncentrowane miejsce. Jeśli jeden Starship może wynieść 100 T do LEO, to zbliża się to do 30 MW wnioskowania na start. 1000 startów to 30 GW. Teraz mówimy o prawdziwej skali - i pod warunkiem, że przychód na kWh jest większy niż około 4,00 USD, myślę, że ekonomika się zgadza. Widziałem kilka startów Starlink o wysokiej inklinacji z Vandenberg w ostatnim czasie, ale nie sądzę, żeby którykolwiek z nich był skierowany do SSO. W każdym razie, pierścień satelitów wnioskowania widocznych o świcie i zmierzchu biegnących północ-południe będzie niesamowity.

$10/megatoken oczywiście.