我很高兴能参加PyTorchCon的早间主题演讲。进行了很多有趣的讨论： 强化学习是最有前景的前沿之一，因为它超越了模仿学习，因为它学习目标而不是示范，发现超出训练数据的策略，而这些是监督学习无法达到的，比如o1的涌现推理痕迹。 但预训练并没有死。像扩散模型这样的架构突破用于编码，以及DeltaNet改善联想记忆性能，都是有前景的前沿。 我的哲学是支持那些在前沿领域大胆创新的创始人，例如，Voyage AI在企业AI搜索起飞之前就构建了向量嵌入。