Yapay zeka sistemleri her geçen gün daha akıllı hale geliyor. Ancak sadece zeka bir sistemi güvenilir kılmaz. Aslında, bir ajan ne kadar özerk olursa, doğrulanmamış istihbarat o kadar tehlikeli olabilir.

Zeka, şu soruları yanıtlıyor: • Bu ajan mantık yürütebilir mi? • Plan yapabilir mi? • Verimli davranabilir mi? Trust tamamen farklı sorulara cevap verir: • Oyunculuk yapmasına izin verildi mi? • Kısıtlamalar içinde kaldı mı? • Eylemleri sonradan kanıtlanabilir mi?

Koruma önlemleri olmayan son derece zeki bir ajan hâlâ: • Yetkisini aşmak • Kötüye kullanım izinleri • Kimsenin denetleyemeyeceği veya açıklayamadığı eylemleri gerçekleştirmek Akıllı davranış, sorumlu davranışı garanti etmez.

Bu yüzden güven sadece sonuçlardan çıkarılamaz. Güven, sisteme şu yollarla tasarlanmalıdır: • Doğrulanabilir kimlik • Açık izinler • Denetlenebilir uygulama Bunlar olmadan istihbarat belirsiz hale gelir — güvenilir değildir.

Otonom sistemlerin geleceği, ajanların ne kadar akıllı olduğuna göre tanımlanmayacak. Bu, eylemlerinin ne kadar iyi doğrulanabileceği, kısıtlanabileceği ve açıklanabileceğiyle tanımlanacaktır. İşte Kite'ın inşa 🪁 ettiği temel