Güven genellikle uygulanmak yerine varsayılır. Yapay zeka ajanları asistanlardan otonom aktörlere geçtikçe bu varsayım sessizce yıkılır. Gerçek başarısızlık modu kötü mantık değil, ajanların kesin sınırları olmayan eylemleri gerçekleştirmesi. Zayıf altyapıda çalışan akıllı ajanlar özerklik yaratmaz. Risk yaratırlar.

Zorluk, güvenin niyetten veya sonuçlardan çıkarılamamasıdır. Otonom sistemlerde beklentiler, politikalar ve "en iyi davranış" ölçeklenmez. Açık kimlik, kapsamlı yetki ve uygulama zamanında uygulanabilir sınırlar olmadan, sistemler kör devre vermeye dayanır. Kayıtlar ve sonradan yapılan açıklamalar hasarı önlemez, sadece bunu tanımlar. O noktada, güven, araçlarla desteklenen iyimserliğe dönüşür.

Kite, altyapı katmanında güveni uygulayarak bu durumu çözüyor. Ajan kimliği, otorite, kısıtlamalar ve yürütme yerel olarak tanımlanır ve zincir üzerinde doğrulanır, bu yüzden eylemler gerçekleşmeden önce kısıtlanır, sonrasında açıklanmaz. Bu, ajanların insan onayı veya körü körüne güven olmadan bağımsız ve güvenli hareket etmesini sağlar. Kite'da güven bir söz değildir. Bu sistemin 🪁 bir özelliğidir