Tekoälyagenttien suunnittelussa on nykyään perustavanlaatuinen jännite! Ja se käy ilmi vasta, kun alat rakentaa tuotantoa varten: Mitä tiukemmin noudatat ohjetta, sitä enemmän uhraat kontekstuaalisia vivahteita. Ajattele asiaa näin. Kun rakennat asiakaspalvelijaa, jotkut ohjeet ovat todellakin neuvottelemattomia. Siksi haluat, että agenttisi valvoo niitä tiukasti, vaikka se kuulostaisikin robottimaiselta. Esimerkiksi ohjeet, kuten vaatimustenmukaisuusilmoitukset rahoituksessa tai turvallisuusvaroitukset terveydenhuollossa, eivät voi sietää virheitä. Mutta muut ohjeet ovat lempeitä ehdotuksia, kuten asiakkaan sävyn sovittaminen tai vastaukset ytimekkäinä. Näiden tulisi vaikuttaa keskusteluun, ei hallita sitä. Ongelma on, että useimmat agenttiarkkitehtuurit eivät anna tämän eron ilmaista niin helposti. Jokainen käsky saa yleensä saman tason valvontaa, joten sinun täytyy joko olla tiukka kaikessa ja kuulostaa robottimaiselta, tai olla joustava ja riskeerata kriittiset säännöt unohtaa. Ja ei, et voi vain korostaa tiettyjä ohjeita kehotteessa itsessään, koska pelkkä ohjeen läsnäolo kehotteessa jo vinoutuu mallin käyttäytymiseen. Painotus vain lisää puolueellisuutta olemassa olevan vinouman päälle. Mutta pidän Parlantin uusinta "kriittisyystasojen" hallintaa mielenkiintoisena (avoin lähdekoodi, 18 000 tähteä). Sen avulla voit kertoa agentillesi, kuinka paljon huomiota kuhunkin ohjeeseen kannattaa kiinnittää. ``` agent.create_guideline( condition="Asiakas kysyy lääkkeistä", action="Suoraan terveydenhuollon tarjoajalle",...