最近の米空軍の消耗? 米空軍はロボティクスと自律システム研究に最大8,700万ドルを投資しており、自律能力はもはや概念実証ではなく、真に戦略的なレベルに入りました。 しかし、自律システムが軍事の意思決定や実行に参加し始めると、単に速く賢くなるだけでは不十分です。 検証可能な計算能力を持たない自律システムは、それ自体が国家的なリスクです。 モデルが置き換えられたかどうか、推論が改ざんされたかどうか、決定が確立されたルールに従って実行されているかどうかを確認することが不可能であれば、どんなにロボットが高度でも、それは単なる監査不可能なブラックボックスに過ぎません。 ログやベンダーの声明は軍レベルで責任を問われることはなく、責任を負わないミスのコストは取り返しのつかないものになることがあります。 だからこそ、防衛自律システムは検証を核に据えなければなりません。 後で見直すのではなく、事前に抑制していた。 システム自体が問題ないとは思いませんが、ルールに従って本当に機能していることは証明できます! 軍事的シナリオでは、暗号学的な証拠を境界線として示さなければ、大規模な自律性を展開することはできず、ましてや長期的なセキュリティ上の優位性を生み出すことはなおさらです。 真に信頼できる防衛自律システムは、信頼に基づく仮定ではなく、検証可能な計算に基づいて構築されなければなりません。 自律型システムが基盤となる能力になるとき、正しく機能していることを証明することは、実際に何かをさせるのと同じくらい重要です! #KaitoYap @KaitoAI #Yap @inference_labs