Saya telah melihat banyak orang bertanya apa sebenarnya ZeroLeaks dan apa fungsinya, jadi inilah rincian yang jelas. ZeroLeaks adalah agen keamanan AI yang dibuat untuk menemukan kerentanan tingkat prompt dalam sistem AI: hal-hal seperti kebocoran prompt, injeksi prompt, penggantian instruksi, dan perilaku agen yang tidak aman. Jika produk Anda mengandalkan perintah sistem atau logika agen, ini adalah lapisan yang diuji.