Bir yıldan fazla süredir üretimde yapay zeka ajanları kuruyorum. İşte geliştiricilerin ajanları üretime ölçeklendirirken karşılaştığı yaygın bir sorun: Genellikle vektörler, yapılandırılmış veriler ve oturumlar için ayrı servisler arasında geçiş yaparlar. Üç farklı bağlantı havuzu. Üç yedek strateji. Üç izleme paneli. Ajan döngüsü kendisi akıl yürütme, araçlar ve hafıza açısından basittir, ancak altyapı darboğaz haline gelir. Bunu daha temiz bir şekilde yönetmek isterseniz, her şey için tek backend olarak @MongoDB kullanan bir ajan oluşturdum. Bunu sizinle paylaşmak için onların ekibiyle çalıştım. Kurulum basittir: ↳ PDF belgeyle başlayın. Temsilci, geçmiş konuşmaları hatırlayarak bu konuda soruları yanıtlar. ↳ Öncelikle, PDF'yi parçalayın ve Voyage AI modelini kullanarak gömleyin. Bu gömülemeler doğrudan MongoDB'ye vektör indeksiyle girer. ↳ Sonra iki araç tanımlarsınız: biri vektör araması için, biri gerekirse temel hesaplamalar için. Temsilci, sorguya göre hangisini kullanacağına karar verir. ↳ Bellek aynı veritabanında oturum kimlikleri altında saklanır. Ajanın yaptığı her etkileşim geri yazılır, böylece önceki turlara referans verebilir. ↳ Planlayıcı her şeyi birbirine bağlıyor. Konuşma geçmişine bakar, bir araçla iletişime ihtiyaç duyup duymadığına karar verir, o aracı çalıştırır ve nihai yanıtı oluşturur. İşte birleşik arka uçun önemli olduğu nokta: Ajan bağlam aradığında, kullanıcı oturumlarını ve yapılandırılmış verileri saklayan aynı veritabanını sorgular. Belleğe yazdığında, aynı MongoDB örneği vektör gömmelerini işliyor. ...