Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Gavin Baker
Leuk om op @theallinpod te zijn.
Genoten van het ontmoeten van Ben en Phil.
Hoeveel van deze nog voordat ik een fles tequila krijg?
10 aug, 00:16
🚨 E238 is LIVE: twee uur durende zomerpodcast!
@benshapiro, @GavinSBaker en @pdeutch vullen in voor @chamath en @DavidSacks
-- openai's gpt-5: waarom denken mensen dat het geflopt is?
-- de onbeperkte markt van ai
-- gpu-smokkel
-- update over tarieven
-- china's grote voordeel (en hoe dit tegen te gaan)
-- stijging van het socialisme in de VS
-- woningcrisis
-- apple's $700 miljard aan aandeleninkoop en falende ai-strategie
++ veel meer
(0:00) beste introducties! gavin baker, ben shapiro en phil deutch zijn te gast in de show
(7:32) gpt-5 teleurstelt, benchmarkverzadiging, openai's productuitmuntendheid
(18:14) ai's tam, roic en energie-implicaties
(27:27) china's grote voordeel en hoe de VS dit kan tegenhouden
(43:46) politieke partijen kiezen winnaars, omkering van energie-subsidies, hoe de bureaucratische tak is ontstaan en hoe dit te verbeteren
(52:38) socialisme, obbb-impact op energie, is socialisme in Amerika afhankelijk van mamdani in NYC?
(1:10:00) update over tarieven: $125 miljard+ aan inkomsten tot nu toe, india en zwitserland hard geraakt, trump's ad-hoc benadering
(1:27:51) nvidia-chips worden naar china gesmokkeld
(1:31:13) apple's $700 miljard aan aandeleninkoop sinds 2015 en falende ai-strategie
(1:40:09) zomerleesaanbevelingen
77,38K
Gezien het enorme - en toenemende - belang van rekentijd en post-training RL, zoals aangetoond door de absolute dominantie van Grok-4, is het belangrijker dan ooit om de laagste kostenproducent van tokens te zijn. Terzijde, dit is de eerste keer in mijn carrière als tech-investeerder dat het belangrijk is om de laagste kostenproducent van iets te zijn.
Vandaag zijn de laagste kostenproducenten van tokens Google (TPU's) en xAI (grootste coherente cluster, laagste capex $ per geïmplementeerde GPU, vrijwel zeker hoogste MFU en hebben enkele echt slimme architectonische beslissingen genomen). Ik ben uiteraard bevooroordeeld als het om xAI gaat.
Vanuit een puur technisch perspectief zijn het hebben van het beste schaalbare netwerk en de meest efficiënte KV-cache-afvoer het belangrijkst voor zowel kosten als latentie voor de steeds grotere modellen en contextvensters. Dit zijn de belangrijkste concurrentie-assen in AI-infrastructuur vandaag - niet de rekencapaciteit. Merk op dat de bandbreedte van on-package geheugen het belangrijkst is wanneer je het model op een enkele chip kunt passen (@cerebras), maar voor elk echt groot model dat meerdere pakketten vereist, zijn schaalvergroting en kv-cache-afvoer het belangrijkst. Zoals iedereen die aan ASIC's werkt langzaam begint te begrijpen.
Dit is waarom Dynamo en het open-source maken van NVLink beide belangrijk en slim waren. Laatstgenoemde zou steeds meer kunnen leiden tot een migratie van ASIC-aandeel naar NVLink-partners. Om nog maar te zwijgen van de natuurlijke onderhandelingsvoordelen van het hebben van een tweede leverancier. Waarschijnlijk meer van deze IMHO:
97,58K
Boven
Positie
Favorieten