Achei isso muito reconfortante. A solidão é um problema hoje.

A internet ajudou a cauda longa. A IA será o oposto nos próximos 3-5 anos.

A lista da Time das melhores empresas de capital de risco é interessante. Fundo dos Fundadores #37 Referência #56 Carvalhos verdes #114 Primeira Rodada #174 Sutter Hill # 176 com um CAGR de 60% nos últimos 20 anos. Eles também parecem não saber da existência de Sequoia. Confira.

Cada vez mais convencido de que o pré-preenchimento e a decodificação surgirão como mercados distintos dentro da inferência. Diferentes sistemas serão usados para cada um; obviamente eles terão que trabalhar juntos. Provavelmente daqui a 18 meses.

A capitalização de mercado dividida pela alocação de CoWoS é interessante. Geralmente leva três gerações para um ASIC obter tração real .

Importante lembrar que Grok-4, GPT5, Opus 4.1 foram todos treinados em GPUs Hopper. Animado para ver os primeiros modelos treinados na Blackwell nos próximos seis meses.

Divertido estar no @theallinpod Gostei de conhecer Ben e Phil. Além disso, quantos mais até eu conseguir uma garrafa de tequila?

O conselho é o problema de gerenciamento da Intel, não o CEO.

Dada a enorme - e crescente - importância da computação em tempo de teste e RL pós-treinamento mostrada pelo domínio absoluto do Grok-4, ser o produtor de tokens de baixo custo é mais importante do que nunca. Como um aparte, esta é a primeira vez em minha carreira como investidor em tecnologia que ser o produtor de baixo custo de qualquer coisa importa. Hoje, os produtores de tokens de menor custo são Google (TPUs) e xAI (maior cluster coerente, menor capex $ por GPU implantada, quase certamente maior MFU e tomaram algumas decisões arquitetônicas realmente inteligentes). Obviamente, sou tendencioso quando se trata de xAI. De uma perspectiva exclusivamente técnica, ter a melhor rede de expansão e o descarregamento de cache KV mais eficiente são mais importantes para o custo e a latência para os modelos e janelas de contexto cada vez maiores. Esses são os eixos mais importantes de competição na infraestrutura de IA hoje - não na computação. Observe que a largura de banda de memória no pacote é mais importante quando você pode encaixar o modelo em um único chip (@cerebras), mas para qualquer modelo realmente grande que exija vários pacotes, o aumento de escala e o descarregamento de cache kv são mais importantes. Como todos que trabalham em ASICs estão lentamente começando a entender. É por isso que o Dynamo e o NVLink de código aberto eram importantes e inteligentes. Este último pode levar cada vez mais à migração de ações ASIC para parceiros NVLink. Sem mencionar os benefícios naturais de negociação de ter um segundo fornecedor. É provável que veja mais desses IMHO:

Hipótese de confiança média: em 3 anos Trainium, TPU e Dojo serão os únicos ASICs restantes.