.@JDVance + los Mejores!!

Ambos son enormes. ¡Gracias por su atención a este asunto!

Una nota al pie interesante en las guerras de IA será cómo se aplica la Lección Amarga al capital humano que trabaja en IA. Por un lado, está esta ola de contrataciones (Google, Microsoft, Meta) y los tipos de contrataciones (PhDs, expertos humanos) que se están realizando en este momento, frente al enfoque de xAI (enfoques computacionales y sintéticos). Pagar a una persona $1B O comprar $1B más de capacidad de cómputo.

.@JonathanRoss321 (el inventor y padre de TPU) y yo hicimos esta apuesta en 2017. @GroqInc es ahora la solución de inferencia más rápida en el mercado hoy en día. Aquí hay algunas lecciones aprendidas hasta ahora: - si asumimos que llegamos a la Superinteligencia y luego a la Inteligencia General, todo el juego convergerá en la Inferencia. La arquitectura de diseño para la Inferencia no podría ser más diferente que para el Entrenamiento. Consideraciones de memoria y potencia totalmente diferentes. La velocidad es primordial. - Comienza en un nodo de proceso probado, barato y altamente disponible y mantente en esa curva. Apilar complejidad (es decir, 2nm) y problemas de rendimiento en un chip de Inferencia resultará en un costo por token de salida que no tendrá sentido comercialmente. - Todo se trata de la disponibilidad y diversidad del modelo. Si tu chip es esencialmente un ASIC para un modelo, necesitarás usarlo a gran escala internamente (es decir, Google y TPU) o necesitarás incentivar a las empresas de aplicaciones a construir para ello (es decir, Amazon con Anthropic e Inferentia). De todos modos, soy un gran fan de la dirección, pero Meta necesitará evitar algunos baches en la estrategia de ejecución. Les deseo lo mejor - más soluciones son mejores, en mi opinión.

O quien haga Dojo... ¡oh espera!

Un corolario importante para aquellos que desean importancia en línea: La influencia y la popularidad son ejercicios de valor absoluto. La atención negativa o positiva no importa. Lo que importa es que la población está hablando de ti y no de otra persona. Cuando midas tu crecimiento de suscriptores/seguidores de esta manera, verás esto oculto a simple vista.

Coinbase me envió una de sus raras tarjetas conmemorativas Satoshi Nakamoto Coinbase One (1 de 21). ¡Emocionado de tener la mía en otoño, que viene con un 4% de reembolso en Bitcoin! ¡Larga vida a BTC! Gracias @coinbase @brian_armstrong @immuneeb

"Pasaron muchos años vomitando toda la porquería que me habían enseñado sobre mí mismo, y que había creído a medias, antes de que pudiera caminar sobre la tierra como si tuviera derecho a estar aquí." ― James Baldwin

Con todo el progreso que se está logrando en la calidad de los modelos sobre "silicio genérico" por parte de los creadores de modelos fundamentales, es hora de que los propios modelos se dediquen a la tarea de diseñar su propio silicio especializado según el caso de uso. Esto ocurre en pequeña medida en este momento, pero las limitaciones de suministro deberían obligar a más creadores de modelos a darse cuenta de la necesidad de diseñar silicio personalizado. Sin embargo, algunas limitaciones son importantes para este desafío de diseño. La más importante es mantener un diseño útil en un nodo de proceso que no sea de vanguardia, para que no se creen limitaciones de suministro o problemas de rendimiento y no se esté luchando contra la física a nivel electrónico. La segunda sería cómo diseñar el uso de la memoria: la caché frente a HBM por caso de uso es una paradoja obvia. La refrigeración es otra. He estado trabajando con un gran ingeniero diseñando una bomba de calor enfriada por CO2. Si funciona, los racks, sistemas y chips deberían contemplarlo y trabajar para aprovechar estas diferentes dinámicas de refrigeración porque generan menos limitaciones. Etc, etc, etc. De todos modos, me queda claro que en cinco años, miraremos hacia atrás y la diversidad del silicio habrá explotado. Espero ver un montón de anuncios sobre nuevos chips comenzando con el preentrenamiento y luego pasando a la inferencia.

🤔 Como mínimo, definitivamente hay algunos "AI haves" y "AI have nots" entre los 10 principales.