Es gibt eine grundlegende Spannung im Design von KI-Agenten heute! Und sie wird erst offensichtlich, wenn man mit dem Bau für die Produktion beginnt: Je strenger man eine Anweisung durchsetzt, desto mehr opfert man den kontextuellen Nuancen. Denken Sie so darüber nach. Wenn Sie einen kundenorientierten Agenten bauen, sind einige Anweisungen tatsächlich nicht verhandelbar. Daher möchten Sie, dass Ihr Agent diese strikt durchsetzt, auch wenn es sich dabei roboterhaft anhört. Zum Beispiel können Anweisungen wie Compliance-Offenlegungen im Finanzwesen oder Sicherheitswarnungen im Gesundheitswesen keine Fehler tolerieren. Aber andere Anweisungen sind sanfte Vorschläge, wie den Ton des Kunden zu treffen oder die Antworten prägnant zu halten. Diese sollten das Gespräch beeinflussen, nicht dominieren. Das Problem ist, dass die meisten Agentenarchitekturen es nicht zulassen, diese Unterscheidung so einfach auszudrücken. Jede Anweisung erhält typischerweise das gleiche Maß an Durchsetzung, sodass man entweder gezwungen ist, bei allem streng zu sein und roboterhaft zu klingen, oder bei allem flexibel zu sein und das Risiko einzugehen, kritische Regeln zu übersehen. Und nein, man kann nicht einfach bestimmte Anweisungen im Prompt selbst betonen, denn die bloße Präsenz einer Anweisung im Prompt beeinflusst bereits das Verhalten des Modells. Betonung fügt nur mehr Bias auf bestehenden Bias hinzu. Aber ich finde Parlants neueste Kontrolle der "Kritikalitätsstufen" interessant (Open Source mit 18k Sternen). Es ermöglicht Ihnen, Ihrem Agenten zu sagen, wie viel Aufmerksamkeit er jeder Anweisung schenken soll. ``` agent.create_guideline( condition="Kunde fragt nach Medikamenten", action="An Gesundheitsdienstleister weiterleiten",...