Jeg har bygget AI-agenter i produksjon i over ett år. Her er et vanlig problem utviklere møter når de skalerer agenter til produksjon: De balanserer vanligvis mellom separate tjenester for vektorer, strukturerte data og økter. Tre forskjellige tilkoblingspooler. Tre backup-strategier. Tre overvåkingsdashbord. Agentløkken i seg selv er enkel med resonnement, verktøy og minne, men infrastrukturen blir flaskehalsen. Hvis du vil se en renere måte å håndtere dette på, har jeg laget en agent med @MongoDB som eneste backend for alt. Jeg jobbet med teamet deres for å dele dette med deg. Oppsettet er enkelt: ↳ Start med et PDF-dokument. Agenten vil svare på spørsmål om det samtidig som han husker tidligere samtaler. ↳ Først, chunk PDF-en og legg den inn ved hjelp av Voyage AIs modell. Disse embeddingene går rett inn i MongoDB med en vektorindeks. ↳ Deretter definerer du to verktøy: ett for vektorsøk, ett for grunnleggende beregninger om nødvendig. Agenten bestemmer hvilken som skal brukes basert på forespørselen. ↳ Minnet lagres i samme database under sesjons-IDer. Hver interaksjon agenten har, blir skrevet tilbake, slik at den kan referere til tidligere turer. ↳ Planleggeren binder det sammen. Den ser på samtalehistorikken, avgjør om den trenger et verktøy, kjører det verktøyet og genererer det endelige svaret. Her er det at den enhetlige backenden betyr noe: Når agenten søker etter kontekst, spør den i den samme databasen som lagrer brukersesjoner og strukturerte data. Når den skriver til minnet, håndterer samme MongoDB-instans vektorinnleggingene. ...