在人工智能战争中，一个有趣的脚注将是《苦涩的教训》如何适用于从事人工智能工作的人的人力资本。 一方面是目前的招聘热潮（谷歌、微软、Meta）以及正在进行的招聘类型（博士、人工专家），另一方面是xAI方法（计算机和合成方法）。 支付一个人10亿美元，或者购买10亿美元的计算能力。

.@JonathanRoss321（TPU的发明者和创始人）和我在2017年打了这个赌。@GroqInc 现在是市场上最快的推理解决方案。 到目前为止，这里有一些经验教训： - 如果我们假设我们达到了超级智能，然后是通用智能，整个游戏将会集中在推理上。推理的设计架构与训练截然不同。内存和功耗的考虑完全不同。速度至关重要。 - 从一个经过验证、便宜且高度可用的工艺节点开始，并保持在该曲线上。将复杂性（即2nm）和良率问题叠加到推理芯片上，将导致每个输出令牌的成本在商业上没有意义。 - 一切都与模型的可用性和多样性有关。如果你的芯片本质上是针对一个模型的ASIC，你要么需要在内部以超大规模使用它（即谷歌和TPU），要么需要激励应用公司为其构建（即亚马逊与Anthropic和Inferentia）。 无论如何，我非常喜欢这个方向，但Meta需要避免在执行策略中遇到一些坑。 我祝他们好运——更多的解决方案在我看来是更好的。

或者任何制作 Dojo 的人……哦等等！

对于那些想要在线重要性的人来说，这一点非常重要： 影响力和受欢迎程度是绝对价值的练习。 负面或正面的关注并不重要。重要的是人们在谈论你，而不是其他人。 当你以这种方式衡量你的订阅者/关注者增长时，你会发现这一点显而易见。

Coinbase 给我寄来了他们的一张稀有的纪念 Satoshi Nakamoto Coinbase One 卡（21 张中的 1 张）。 我很兴奋能在秋天得到我自己的那张，附带 4% 的比特币返现。BTC 万岁！ 感谢 @coinbase @brian_armstrong @immuneeb

“我花了很多年才把我所学到的关于自己的污秽和半信半疑的想法呕吐出来，才得以像有权利在这里一样走在大地上。” ― 詹姆斯·鲍德温

随着基础模型制造商在“通用硅”模型质量方面取得的所有进展，是时候将模型本身转向设计其专用硅以满足特定用例的任务了。 目前在这方面的进展虽然有限，但供应限制应该会迫使更多的模型制造商意识到设计定制硅的必要性。 不过，一些限制对于这个设计挑战是重要的。 最重要的是在非尖端工艺节点上保持有用的设计，以免造成供应限制或良率问题，并且不与电子层面的物理规律作斗争。 第二个是如何设计内存使用——缓存与HBM在每个用例中的使用显然是一个悖论。 冷却又是另一个问题。我一直在与一位优秀的工程师合作设计一个CO2冷却的热泵。如果成功，机架、系统和芯片应该考虑这一点，并努力利用这些不同的冷却动态，因为这会减少约束。 等等等等。 总之，我清楚地看到，在五年后，我们将回顾过去，硅的多样性将会爆炸性增长。 我期待看到大量关于新芯片的公告，从预训练开始，然后扩展到推理。

🤔 至少，在前10名中，确实存在一些“拥有AI”和“没有AI”的差异。

他们说你应该打篮球来突破薪资上限。 更像是获得博士学位…

我本周阅读的内容…… 本周，特朗普总统签署了一项行政命令，创建了G类，这是联邦政府中针对某些政治任命的新分类。 它解决了政府在管理预计会随着每届政府而变化的政策制定职位方面的长期空白。 在过去，这些角色常常处于灰色地带。一些职位由职业公务员担任，他们在不同的总统任期内保持不变，而其他职位则被松散地归类为机密工作人员而非政策决策者。 这使得新上任的政府在进行人员变动时面临困难，即使是在塑造和执行政策的核心职位上。 此外，职业公务员和其他与政策相关人员的公务员保护使得解雇程序过于缓慢和复杂，常常导致管理者无法对表现不佳的员工追责。 G类的设计旨在提供一个结构组成部分，以打破联邦机构中的官僚惰性，同时也给予未来的总统更多的自由度，以引入与其议程一致的政策团队，最终确保各机构对选举领导层作出响应。