Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gavin Baker
Distractiv să fii pe @theallinpod
Mi-a plăcut să-i întâlnesc pe Ben și Phil.
De asemenea, câte dintre acestea mai sunt până când primesc o sticlă de tequila?
10 aug., 00:16
🚨 E238 is LIVE: two hour summer pod!
@benshapiro, @GavinSBaker, and @pdeutch fill in for @chamath and @DavidSacks
-- openai's gpt-5: why do people think it flopped?
-- ai's unlimited market
-- gpu smuggling
-- tariffs update
-- china's big advantage (and how to counter it)
-- rise in socialism in the us
-- housing crisis
-- apple's $700b in buybacks and failing ai strategy
++ much more
(0:00) bestie intros! gavin baker, ben shapiro, and phil deutch join the show
(7:32) gpt-5 underwhelms, benchmark saturation, openai's product excellence
(18:14) ai's tam, roic, and energy implications
(27:27) china's big advantage and how the us can counter it
(43:46) political parties picking winners, energy subsidy reversal, how the bureaucratic branch was created and how to fix it
(52:38) socialism, obbb impact on energy, does socialism in america rely on mamdani in nyc?
(1:10:00) tariffs update: $125b+ revenue so far, india and switzerland hit hard, trump's ad hoc approach
(1:27:51) nvidia chips being smuggled to china
(1:31:13) apple's $700b in buybacks since 2015 and failing ai strategy
(1:40:09) summer reading recommendations
77,37K
Având în vedere importanța masivă - și crescândă - a calculului în timpul testelor și a RL post-antrenament arătată de dominația absolută a lui Grok-4, a fi producătorul de jetoane cu costuri reduse este mai important ca niciodată. Ca o paranteză, aceasta este prima dată în cariera mea ca investitor în tehnologie când a contat să fiu producătorul low-cost al orice.
Astăzi, cei mai ieftini producători de token-uri sunt Google (TPU) și xAI (cel mai mare cluster coerent, cel mai mic capex $ per GPU implementat, aproape sigur cel mai mare MFU și au luat câteva decizii arhitecturale cu adevărat inteligente). Sunt evident părtinitor când vine vorba de xAI.
Dintr-o perspectivă exclusiv tehnică, a avea cea mai bună rețea de scalare și cea mai eficientă descărcare a cache-ului KV sunt cele mai importante atât pentru cost, cât și pentru latență pentru modelele și ferestrele de context din ce în ce mai mari. Acestea sunt cele mai importante axe ale concurenței în infrastructura AI de astăzi - nu calculul. Rețineți că lățimea de bandă a memoriei pe pachet este cea mai importantă atunci când puteți potrivi modelul pe un singur cip (@cerebras), dar pentru orice model foarte mare care necesită mai multe pachete, scalarea și descărcarea cache-ului kv sunt cele mai importante. După cum toți cei care lucrează la ASIC-uri încep încet să înțeleagă.
Acesta este motivul pentru care Dynamo și open-source-ul NVLink au fost atât importante, cât și inteligente. Acesta din urmă ar putea duce din ce în ce mai mult la migrarea acțiunilor ASIC către partenerii NVLink. Ca să nu mai vorbim de beneficiile naturale de negociere ale unui al doilea furnizor. Probabil să văd mai multe dintre acestea IMHO:
97,58K
Limită superioară
Clasament
Favorite