モデルが大きく機能が高まるにつれて、問題がますます明らかになり、検証の速度は推論の複雑さや速度に全く追いつけません 推論プロセスがますますブラックボックスのようになり、モデルの出典が不明瞭になり、実行経路が完全に再現できなくなると、信頼は崩れ始めます。 それは間違いだからではなく、単に正しいことを証明できないからです これを検証ギャップと呼びます。 AIは十分に賢くありませんが、出力がどのモデルから、どの環境で、規則に厳密に従って実行されたかを誰でも確実に確認できる方法がありません Inference Labsが目指しているのは実はかなりシンプルで、すべてのAI出力に暗号化されたデジタル指紋を付与することです。 これは事後の説明でもなく、製造元の保証に依存しているわけでもありません。誰でも検証し、永久に検証できる証明書であり、その識別、出典、実行の完全性はすべて出力の瞬間にロックされています システムが監査可能で初めて真に信頼でき、信頼が証明可能であってこそ、自律型AIを大規模に安全に実装できます。 それが彼らが押し進めている方向です #KaitoYap @KaitoAI #Yap @inference_labs