LLM 代理無法很好地做到的一件事: 任何老派的聊天機器人都可以遵循腳本,而 LLM 代理則往往會失控,將客戶引入奇怪的對話。 但當然,舊聊天機器人感覺很機械,客戶不想和它們交談。 它們是可靠的,但人們不喜歡它們, LLM 代理則正好相反。 它們流暢且具有適應性,但它們可以說任何話。你實際上只需一次幻覺就可能導致災難。 Parlant 背後的團隊正在用他們的新版本做一些非常聰明的事情:你可以建立一個兼具兩者優點的代理。 該代理可以根據對話中發生的事情動態切換 LLM 代理和嚴格模式。 風險在整個對話中並不均勻: 1. 當客戶詢問隨意的產品問題時,Parlant 會啟用 LLM 來生成流暢且有幫助的回答。 2. 當客戶要求退款時,Parlant 會啟用嚴格模式,只返回經過批准的、基於上下文的回應模板。 你可以根據對話當前狀態的自然語言觀察來控制代理的 "組合模式"。 這是一個非常酷的想法。它應該會顯著改善當前聊天機器人的技術水平。 你可以在這裡查看: 附圖顯示了動態組合模式的工作原理。