Google har nettopp publisert en flott guide om effektiv kontekstutvikling for systemer med flere agenter. Følg med på denne, AI-utviklere! (bokmerk det) Her er mine viktigste punkter: Kontekstvinduer er ikke flaskehalsen. Kontekstutvikling er det. For mer komplekse og langsiktige problemer kan ikke konteksthåndtering behandles som et enkelt «strengmanipulasjons»-problem. Standardmetoden for å håndtere kontekst i agentsystemer i dag er fortsatt å stappe alt inn i prompten. Mer historie, flere tokens, mer forvirring. De fleste lag behandler kontekst som et streng-sammenkoblingsproblem. Men rå kontekstdump skaper tre kritiske feil: > kostnadseksplosjon fra repeterende informasjon > ytelsesforringelse fra «lost in the middle»-effekter > økning i hallusinasjonsrater når agenter feiltilskriver handlinger på tvers av et system Kontekststyring blir en arkitektonisk bekymring sammen med lagring og databehandling. Dette betyr at eksplisitte transformasjoner erstatter ad hoc-strengsammenkledning. Agenter mottar som minimum nødvendig kontekst som standard og ber eksplisitt om tilleggsinformasjon via verktøy. Det virker som Googles Agent Development Kit virkelig tenker dypt på konteksthåndtering. Den introduserer en lagdelt arkitektur som behandler kontekst som «en kompilert visning over et tilstandsbasert system» i stedet for en prompt-stuffing-aktivitet. Hvordan ser dette ut? 1) Struktur: Den lagdelte modellen Rammeverket skiller lagring fra presentasjon i fire distinkte lag: 1) Working Context håndterer flyktige per-invocation-visninger. 2) Sesjonen opprettholder den varige hendelsesloggen, og fanger opp hver melding, verktøykall og kontrollsignal....