Er is een fundamentele spanning in het ontwerp van AI-agenten vandaag de dag! En het wordt pas echt duidelijk wanneer je begint te bouwen voor productie: Hoe strikter je een instructie afdwingt, hoe meer je de contextuele nuance opgeeft. Denk er zo over na. Wanneer je een klantgerichte agent bouwt, zijn sommige instructies inderdaad niet onderhandelbaar. Dus wil je dat je agent ze strikt afdwingt, ook al klinkt het robotachtig wanneer dat gebeurt. Bijvoorbeeld, instructies zoals nalevingsdisclosures in de financiën of veiligheidswaarschuwingen in de gezondheidszorg kunnen geen fouten tolereren. Maar andere instructies zijn zachte suggesties, zoals het afstemmen op de toon van de klant of het beknopt houden van antwoorden. Deze zouden het gesprek moeten beïnvloeden, niet domineren. Het probleem is dat de meeste agentarchitecturen je niet in staat stellen om dit onderscheid zo gemakkelijk te maken. Elke instructie krijgt doorgaans hetzelfde niveau van handhaving, dus je bent ofwel gedwongen om over alles strikt te zijn en robotachtig te klinken, of je bent flexibel over alles en loopt het risico belangrijke regels te missen. En nee, je kunt niet gewoon bepaalde instructies in de prompt zelf benadrukken, omdat de loutere aanwezigheid van een instructie in de prompt al het gedrag van het model bevooroordeelt. Benadrukking voegt gewoon meer bias toe bovenop de bestaande bias. Maar ik vind Parlant's laatste controle van "kritikaliteitsniveaus" interessant (open-source met 18k sterren). Het laat je je agent vertellen hoeveel aandacht hij aan elke instructie moet besteden. ``` agent.create_guideline( condition="Klant vraagt naar medicijnen", action="Verwijs naar zorgverlener",...