Google, çok ajanlı sistemler için etkili bağlam mühendisliği üzerine bir harika rehber yayınladı. Buna dikkat edin, yapay zeka geliştiriciler! (yer imlerine işaret ediyor) İşte temel çıkarımlarım: Bağlam pencereleri darboğaz değil. Bağlam mühendisliği ise. Daha karmaşık ve uzun ufuklu sorunlar için, bağlam yönetimi basit bir "dizi manipülasyonu" problemi olarak ele alınamaz. Bugün ajan sistemlerinde bağlamı yönetmek için varsayılan yaklaşım, her şeyi prompta doldurmak olarak kalmaktadır. Daha fazla tarih, daha fazla jeton, daha fazla kafa karışıklığı. Çoğu takım bağlamı bir dizi birleştirme problemi olarak ele alır. Ancak ham bağlam dökümleri üç kritik başarısızlık yaratır: > tekrarlayan bilgilerden kaynaklanan maliyet patlaması > "ortada kaybolmuş" etkilerinden kaynaklanan performans düşüşü > ajanların bir sistem genelinde eylemleri yanlış atfettiğinde halüsinasyon oranlarında artış Bağlam yönetimi, depolama ve hesaplama ile birlikte mimari bir konu haline gelir. Bu, açık dönüşümlerin ad-hoc dize birleştirmesinin yerini aldığı anlamına gelir. Ajanlar varsayılan olarak gerekli minimum bağlamı alır ve araçlar aracılığıyla açıkça ek bilgi talep ederler. Google'ın Agent Development Kit'i gerçekten bağlam yönetimi üzerine derinlemesine düşünüyor gibi görünüyor. Bağlamı, "durumlu bir sistem üzerinde derlenmiş bir görünüm" olarak ele alan katmanlı bir mimari sunar; bu da bir prompt-stuffing aktivitesi olarak değil. Bu nasıl görünüyor? 1) Yapı: Kademeli Model Çerçeve, depolamadan sunumu dört farklı katman arasında ayırır: 1) Çalışma Bağlamı, geçici çağrı başına görüşleri yönetir. 2) Oturum, dayanıklı olay günlüğünü tutar, her mesajı, araç çağrısını ve kontrol sinyalini yakalar....