.@JDVance + os Melhores!!

Ambos são enormes. Obrigado pela sua atenção a este assunto!!

Uma nota de rodapé interessante nas guerras da IA será como a Lição Amarga se aplica ao capital humano que trabalha em IA. De um lado está esta onda de contratações (Google, Microsoft, Meta) e os tipos de contratações (PhDs, especialistas humanos) que estão a ser feitas agora, enquanto do outro lado está a abordagem xAI (abordagens computacionais e sintéticas). Pagar a uma pessoa $1B OU comprar $1B a mais em computação.

.@JonathanRoss321 (o inventor e pai do TPU) e eu fizemos esta aposta em 2017. @GroqInc é agora a solução de inferência mais rápida no mercado hoje. Aqui estão algumas lições aprendidas até agora: - se assumirmos que chegamos à Super Inteligência e depois à Inteligência Geral, todo o jogo convergirá para a Inferência. A arquitetura de design para Inferência não poderia ser mais diferente da de Treinamento. Considerações de memória e energia totalmente diferentes. A velocidade é primordial. - Comece com um nó de processo comprovado, barato e altamente disponível e mantenha-se nessa curva. Empilhar complexidade (ou seja, 2nm) e problemas de rendimento em um chip de Inferência resultará em um custo por token de saída que não fará sentido comercialmente. - Tudo se resume à disponibilidade e diversidade do modelo. Se o seu chip é essencialmente um ASIC para um modelo, você precisará usá-lo em mega escala internamente (ou seja, Google e TPU) ou precisará incentivar empresas de aplicativos a construírem para ele (ou seja, Amazon com Anthropic e Inferentia). De qualquer forma, sou um grande fã da direção, mas a Meta precisará evitar alguns buracos na estratégia de execução. Desejo-lhes sucesso - mais soluções são melhores, na minha opinião.

Ou quem quer que faça Dojo... oh espera!

Um corolário importante para aqueles que desejam importância online: A influência e a popularidade são exercícios de valor absoluto. A atenção negativa ou positiva não importa. O que importa é que a população está a falar sobre você e não sobre outra pessoa. Quando você mede o seu crescimento de assinantes/seguidores dessa forma, verá isso escondido à vista de todos.

A Coinbase enviou-me um dos seus raros cartões comemorativos Satoshi Nakamoto Coinbase One (1 de 21). Estou entusiasmado por receber o meu no outono, que vem com 4% de retorno em Bitcoin. Viva o BTC! Obrigado @coinbase @brian_armstrong @immuneeb

"Levou muitos anos a vomitar toda a imundície que me ensinaram sobre mim mesmo, e que acreditei a meio, antes de conseguir andar na terra como se tivesse o direito de estar aqui." ― James Baldwin

Com todo o progresso que está a ser feito na qualidade dos modelos em "silício genérico" pelos criadores de modelos fundamentais, é hora de direcionar os próprios modelos para a tarefa de projetar o seu próprio silício especializado por caso de uso. Isto acontece, em pequena medida, neste momento, mas as restrições de fornecimento devem forçar mais criadores de modelos a perceber a necessidade de projetar silício personalizado. Algumas restrições são importantes, no entanto, para este desafio de design. A mais importante é manter um design útil em um nó de processo que não seja de ponta, para que não crie restrições de fornecimento ou problemas de rendimento e não esteja a lutar contra a física a nível eletrónico. A segunda seria como você projeta o uso de memória - cache vs HBM por caso de uso é um paradoxo óbvio. O resfriamento é mais um. Tenho trabalhado com um ótimo engenheiro projetando uma bomba de calor refrigerada a CO2. Se funcionar, racks, sistemas e chips devem contemplá-lo e trabalhar para tirar proveito dessas diferentes dinâmicas de resfriamento, pois isso resulta em menos restrições. Etc, etc, etc. De qualquer forma, está claro para mim que em cinco anos, olharemos para trás e a diversidade de silício terá explodido. Estou a esperar ver uma tonelada de anúncios sobre novos chips começando com pré-treinamento e depois passando para a inferência.

🤔 No mínimo, há definitivamente alguns "AI haves" e "AI have nots" entre os 10 melhores.