Det er en grunnleggende spenning i AI-agentdesign i dag! Og det blir først tydelig når du begynner å bygge for produksjon: Jo strengere du håndhever en instruksjon, desto mer ofrer du kontekstuelle nyanser. Tenk på det slik. Når du bygger en kundeorientert agent, er noen instruksjoner faktisk ikke forhandlingsbare. Derfor vil du at agenten din skal håndheve dem strengt, selv om det høres robotaktig ut når det skjer. For eksempel kan instruksjoner som etterlevelsesopplysninger i økonomi eller sikkerhetsadvarsler i helsevesenet ikke tolerere noen feil. Men andre instruksjoner er milde forslag, som å matche kundens tone eller holde svarene korte. Disse bør påvirke samtalen, ikke dominere den. Problemet er at de fleste agentarkitekturer ikke lar deg uttrykke denne distinksjonen så lett. Hver instruksjon får vanligvis samme nivå av håndhevelse, så du må enten være streng på alt og høres robotaktig ut, eller være fleksibel med alt og risikere å gå glipp av viktige regler. Og nei, du kan ikke bare fremheve visse instruksjoner i selve prompten fordi selve tilstedeværelsen av en instruksjon i prompten allerede skjevtrekker modellens oppførsel. Vektlegging legger bare til mer skjevhet oppå eksisterende skjevhet. Men jeg synes Parlants siste kontroll over «kritikalitetsnivåer» er interessant (åpen kildekode med 18 000 stjerner). Den lar deg fortelle agenten din hvor mye oppmerksomhet du skal vie hver instruksjon. ``` agent.create_guideline( betingelse="Kunde spør om medisiner", handling="Direkte til helsepersonell",...