なんてこと。。。Metaは「AIは自らを改善し、私たちを置き去りにする」という考えを覆す論文を発表し、その影響は非常に大きい😳です ここが驚くべきところです: 彼らは、超知能への最も安全かつ最速の道は自己改善AIではないと主張しています。 これは人間とAIが共同でAI研究を行う共改良システムです。 「AIが研究者に取って代わる」という意味ではありません。 「AIは闇の中で書き換える」ではありません。 しかし、AIは人間とアイデア出し、ベンチマーク作成、実験、誤差分析、アラインメント作業、システム設計などで協力するために明確に構築されています。 詳細を読むと、なぜこれが重要なのかが明らかになります。 → 自己改善と共改善はまったく異なる世界として扱われている: 自己改善は人間を排除します。 共創は、人間がAIを改善し、AIが人間の研究を向上させ、両者が共に上昇していくループを生み出します。 → 3ページの表1は「AI研究の協働」が実際に何を意味するのかを分解しています: ベンチマークの共同設計 共同運営実験 共同デバッグの失敗 安全手法の共同開発 共著論文 共同建設インフラ ...