谷歌首席执行官桑达尔·皮查伊最近承认了一件引人注目的事情（保存此内容）。 谷歌现在并不完全理解其自身的AI系统是如何工作的。 这是AI开发方式的根本转变。 当谷歌的工程师训练这些庞大的AI模型时，他们并不是像旧软件那样手动编码每一个行为。 相反，他们向AI输入数十亿条数据，让它自己找出模式。 一旦这些模型变得极其庞大和复杂，它们开始做一些没有人明确编程的事情。 谷歌的AI学会了理解和翻译孟加拉语，这是一种它从未专门训练过的语言。 这就是奇怪的地方，系统自己搞定了这一切。 这种现象被称为涌现行为。 它发生的原因是，当你将模型扩展到数十亿个参数时，某种东西发生了变化。 在某个阈值上，这些模型突然发展出几乎直观的能力。 它们开始通过复杂问题进行推理，使用它们不应该知道的语言，解决它们从未训练过的任务。 就像AI在自我教学一样。 核心问题是能力与理解之间的脱节。 谷歌将AI系统部署给数百万人，明知他们并没有完全掌握这些系统如何得出结论的完整图谱。 ...