Mimariyi düzeltmemiz gerekiyor, rolling window bağlamı ajan belleği 🧵 değildir

1/dönen pencere bağlamı, ajan belleği değildir. Yapay zeka ajanlarıyla inşa eden çoğu kişi farkı bilmiyor. Ve bu onların ürünlerini bozuyor.

2/a rolling window, LLM'nin şu anda görebildiği şey. (Geçici. Vatandaşsız. Pencerenin dışında kör.) Aktif konuşma (jetonlar girer, jetonlar çıkar). Bir şey sınırı aştığında gitmiş olur. Tamamen. Modelin varlığından habersiz.

3/ajan belleği tamamen başka bir şey. (RAM ile sabit disk arasındaki fark bu.) modelin dışında yaşayan açık depolama (gerçekler, tercihler, geçmiş etkileşimler). Sorgulanabilir, güncellenebilir, silinebilir. Seans sonlarına rağmen hayatta kalır.

4/Gerçek hafıza olmadan, ajanlar geçmiş konuşmalardan aslında öğrenmiyor. (Bu sadece çok kendinden emin bir halüsinasyon.) Bunun yerine yaptıkları şey tahmin etmek. mevcut pencere içinde desen eşleşiyor ve sahte süreklilik yapıyorlar. Tutarlı görünüyor. Değil.

5/İkisini karıştırmak sessizce işler ters gidiyor. Temsilcinizin kullanıcının tercihlerini bildiğini varsayıyorsunuz. Olmuyor (bu sadece iki oturum önce kaydırılan bağlam). Hatırladığı gibiydi. sadece önündekilerle çalışmaktı.

Ajanınız bozuk değil. Zaten hiç hafızası olmamıştı.