🚨 Bu makale, çoğu ajan demosunun gerçek kullanıcılar tarafından hayatta kalamayacağını açıklıyor. Araçlar, bellek ve özerklik eklediğinizde, her "prompt savunması" bozuluyor. Bu film yok. Çoğu "anlık enjeksiyon savunması" ajan, araç veya bellek eklediğinizde bozulur. Makale, üç ajanlık güvenlik hattı ve dördüncü bir değerlendirici temsilci öneriyor. Her temsilcinin sabit bir rolü vardır: üretim, temizlik, politika uygulama. Tartışma yok. Hiçbir enerji yok. Sadece katmanlı savunma. Her ara çıktı incelenir, puanlanır ve kaydedilir. Gerçek atılım Nested Learning. İstemleri durumsuz olaylar olarak ele almak yerine, her ajanın orta ve uzun vadeli hafızaya sahip bir Süreklilik Bellek Sistemi vardır. İstemler gömülüp anlamsal olarak eşleştirilir. Yeni bir saldırı daha önce görülmüş bir şeye benziyorsa, ajan doğrulanmış bir yanıtı yeniden oluşturmak yerine tekrar kullanır. Bu aynı anda üç şeyi yapar. 1, güvenlik. 10 saldırı ailesini kapsayan 301 gerçek hızlı enjeksiyon saldırısı boyunca, sistem yüksek riskli ihlal gerçekleştirmemiştir. Riskin azalması değil. Sıfır. 2, gözlemlenebilirlik. Denetimler için ne kadar güvenlik mantığına maruz kaldığını ölçen OSR adında yeni bir metrik tanıtıyorlar. Sezgilere aykırı olarak, en fazla şeffaflığa sahip konfigürasyon genel olarak en iyi performans gösterdi. 3, sürdürülebilirlik. Semantik önbellekleme, LLM çağrılarını %41,6 oranında azalttı ve önbellekli yollar için gecikmeyi ~9 saniyeden 150ms'e düşürdü. Daha az çağrı, model ağırlıklarına dokunmadan daha düşük maliyet, daha düşük enerji kullanımı ve daha düşük karbon emisyonu anlamına gelir. Çıkarım çoğu ajan üreticisi için rahatsız edici. Güvenlik, akıllı istemlerden gelmez. Mimari, bellek ve değerlendirme disiplininden gelir. Bu, üretim seviyesinde, güvenli ve sürdürülebilir ajanik yapay zeka için şimdiye kadarki en net planlardan biridir. Tam makaleyi buradan okuyabilirsiniz: