nvidia właśnie wydała 20 miliardów dolarów na przejęcie firmy, która ma alternatywę dla chipów TPU Google'a jest tu wiele do omówienia, ale głównym wnioskiem jest to, że google trafiło w czuły punkt, są na tropie czegoś z Asicami, co oznacza, że dominacja rynkowa nvidii nie jest taka, jak się wydaje, mimo dziesięcioletniej przewagi jeśli GPU nvidii są w rzeczywistości zbyt przewartościowane, a Asici o niskiej latencji mogą zdobyć rynek w zakresie wnioskowania, to google, amazon i mniejsze startupy stanowią zagrożenie. uważam, że w końcu wnioskowanie będzie większym źródłem popytu na obliczenia niż trening. 2025 roku był wyraźnym sygnałem tego, że inteligentniejsze modele są odblokowywane po treningu. tańsze tokeny, niższa latencja, mniejsze chipy.

oglądanie Shreka, podczas gdy próbuję zrozumieć grafy kontekstowe dla agentów AI

naprawdę wydaje się, że pomimo wszystkich rozmów o chipach, wciąż istnieje nienasycone zapotrzebowanie na akceleratory AI wszelkiego rodzaju. całkowite przeciwieństwo tego, co wszyscy mówią o bańce. gpu nvidii wyprzedane do 2026 roku tpu google? wypuszczają 7 milionów jednostek w przyszłym roku i wciąż szukają dodatkowej pojemności. tranium 3 od amazona, ta sama historia. dostawcy neocloud? nawet ich stare gpu są wyprzedane. tak mało ekscytujące, jak to jest, bitwa o wydatki kapitałowe w centrach danych i półprzewodnikach jest bardzo jednostronna. 2026 rok przyniesie wiele tego samego. dopóki modele wymagają więcej danych, więcej pamięci i więcej mocy obliczeniowej, aby rozwijać inteligencję… bańka wydatków kapitałowych ma jeszcze wiele do wzrostu.