来自Anthropic团队的对齐隐写术的惊人工作 我一直在寻找一个斯特劳斯式的解释，为什么中国不断发布开放模型，出于他们的善良之心 如果你做一些事情，比如使用开放模型，呃，清理*咳* 以教科书质量进行合成性改写你的数据，你可能会引入一些你无法在为时已晚之前检测到的偏见。 所以如果你想把你的价值观输出到世界其他地方，这是自好莱坞以来发明的最强大的软实力工具。 为了非常清楚，我们没有实际证据表明这激励了任何中国实验室。但这篇论文是朝着可能解释的明确一步。

祝贺 Bee 被亚马逊收购；与 Blink、Ring、Eero 以及当然还有新的 Claude + Nova + Alexa 类似，我认为 @panos_panay 正在为亚马逊的 AI 硬件战略打造一个相当稳固的第二幕。 当 @dharmesh 出现在他的 @latentspacepod 上时，我就知道 Bee 在赢。

llm 分析（以及监管和 PMing）之所以困难，是因为相关的维度随着每一代前沿模型的出现而不断变化；仅仅将 x 或 y 轴设置为对数刻度并跟踪缩放法则是不够的，你必须真正努力思考模型在 2025 年、2024 年、2023 年等结构上的不同。 例如， 每个人关注 elo 两年，elo 被利用并失去信誉； 每个人关注代币价格三年，推理模型在每个任务的输出代币上有 10-40 倍的变化，代币价格失去意义。 你可以尽情收集数据，但如果你只是收集原始的时间序列，你可能会失去更大的视野。 （以及为什么像“ai 工程师并不存在，因为所有软件工程师都是 ai 工程师”这样的说法是自我安慰，除了在最琐碎的意义上永远不会正确）

试图找到那条推文，内容是： 人类当前的三大宏伟任务是： - 建造上帝 - 探索星星 - 战胜死亡 有人知道是谁说的吗？@xai @grok 让我失望了

哇，感谢 @tferriss 在《五个要点星期五》中介绍了摩洛克的超信念！

我会坚守这个观点：o1-preview 是一个远比 o1 或 o3 更好的摘要工具，而世界即将失去一个从未被妥善投入生产的伟大模型的访问权。

🆕 发布我们整个 RL + 推理课程！ 特色： • @willccbb，Prime Intellect • @GregKamradt，Arc Prize • @natolambert，AI2/Interconnects • @corbtt，OpenPipe • @achowdhery，Reflection • @ryanmart3n，Bespoke • @ChrSzegedy，Morph 特别的 3 小时研讨会由： @danielhanchen 的 Unsloth 主办！ 从这里开始： 祝周末愉快！感谢 @OpenPipeAI 的支持和主办这个课程！

如果正如@sgrove所提议的，规范是未来的代码，那么调试是什么？ 1) 规范编译是一个编码代理将规范转化为代码的过程 2) 越来越多的“编译”将是无人值守的，减少观察代理逐行工作的时间，更多的是规范输入，代码输出 3) 类型错误 -> 真实性错误：大多数调试将是深入研究和实施计划中的markdown，以找到那一行错误的上下文，这使得编码代理在实施时无法成功。测试套件将检查真实性和逻辑一致性等内容。 4) 有一种新的更高阶的“附加步骤调试器”的风味，即观察代理逐步实施计划，以找出规范中的逻辑错误。当你在逐行调试程序时发现错误时，你会更改代码，重新启动过程，并重复直到它正常工作。当你在实施过程中逐步检查*规范*时发现错误时，你会向上游修复规范，并重新启动*实施*。

听 @GregKamradt 在 @latentspacepod 上与 @swyx 和 @FanaHOVA 讨论 ARC-AGI-3 * 为什么要进行互动基准测试？ * 定义智能 * ARC-AGI-3 游戏的演示

我们每天都会发布一首来自@aidotengineer会议的曲目。昨天的RecSys曲目反响热烈，但最受欢迎的曲目无疑是我们对MCP现状的报道，由@Calclavia主持。 我个人最喜欢的幻灯片是这一张，我意识到@AnthropicAI对MCP的自我测试比我最初从与@dsp_和@jspahrsummers的播客中想象的要强得多。 看看这些演讲，给你最喜欢的演讲者打个招呼！ *大多数已经可以通过“完整播放列表”以“未列出”的形式搜索到。