外觀
「AI 會不會亂講」是導入前最常見的疑慮
大型語言模型本身是靠訓練資料生成文字,沒有額外設計的話,遇到不知道的問題也會 生成一個聽起來合理但其實是編的答案——這正是多數企業不敢直接把通用 AI 接上 客服的原因。
讓 AI 查資料再回答,而不是靠記憶生成
降低亂答風險的做法是檢索:AI 回覆前先去查一份知識庫或呼叫工具拿到實際資料, 再用查到的內容組答案,而不是純靠模型自己的記憶回答。這也是為什麼 OakXgen 的 每則 AI 回覆下面,只要有用到查詢結果,就會出現參考清單,列出這次答案是根據 哪些來源——看得到參考,代表這次真的有查資料;同一個問題每次答案風格差很多卻 都沒有參考出現,通常代表資料來源沒設對或查不到東西,這是判斷「AI 是不是在瞎猜」 最直接的方法,詳見 怎麼從一則回覆確認 AI 真的查到了什麼。
範圍可以縮到比 agent 本身更小
一顆 agent 掛的知識庫與工具,是它能力的上限。但同一顆 agent 底下不同服務場景該 查的東西通常不一樣——例如「療程諮詢」場景只該查價目表,不該查到「訂單查詢」 場景用的訂單 API。OakXgen 讓場景層級可以再縮小一次範圍:全部、自選幾項、或完全 不查、只用寫死的文字回答,三選一。這代表越單純、越不需要即時資料的場景,可以 直接關掉查詢,降低查到不相關資料的機率,設定方式見 諮詢查詢場景:資料來源與工具範圍怎麼縮小。
查不到的時候,該轉真人而不是硬猜
檢索加參考來源能降低亂答機率,但沒辦法讓 AI 對「知識庫裡真的沒寫」的問題生出 正確答案。這種情況下該做的是判斷轉真人,而不是逼 AI 硬答——轉真人的觸發邏輯 (客人要求真人、AI 連續答不出來幾次、對話帶負面情緒關鍵字)設定在 agent 本身, 見轉真人怎麼觸發。