Sistem AI semakin cerdas setiap hari. Tetapi kecerdasan saja tidak membuat sistem dapat dipercaya. Faktanya, semakin otonom seorang agen, semakin berbahaya intelijen yang tidak terverifikasi.

Kecerdasan menjawab pertanyaan seperti: • Bisakah agen ini beralasan? • Bisakah itu merencanakan? • Bisakah itu bertindak secara efisien? Kepercayaan menjawab pertanyaan yang berbeda sepenuhnya: • Apakah diizinkan untuk bertindak? • Apakah itu tetap dalam batasan? • Bisakah tindakannya dibuktikan setelah fakta?

Agen yang sangat cerdas tanpa pengamanan masih dapat: • Melampaui wewenangnya • Menyalahgunakan izin • Menjalankan tindakan yang tidak dapat diaudit atau dijelaskan oleh siapa pun Perilaku cerdas tidak menjamin perilaku yang bertanggung jawab.

Inilah sebabnya mengapa kepercayaan tidak dapat disimpulkan dari hasil saja. Kepercayaan harus dirancang ke dalam sistem melalui: • Identitas yang dapat diverifikasi • Izin eksplisit • Eksekusi yang dapat diaudit Tanpa ini, kecerdasan menjadi buram - tidak dapat diandalkan.

Masa depan sistem otonom tidak akan ditentukan oleh seberapa pintar agen. Ini akan ditentukan oleh seberapa baik tindakan mereka dapat diverifikasi, dibatasi, dan dijelaskan. Itulah fondasi yang dibangun 🪁 Kite