← 返回觀點
/智慧方案FDE團隊

企業 AI Agent 的記憶,該由誰來管

推薦變準、交易額上升,也不能證明每筆顧客檔案都判斷正確。這篇整理查看、修改與刪除記憶的做法,並用抽查紀錄找出把單次例外當成固定規則的案例。

AIEgentWrX人機協作導入
企業 AI Agent 的記憶,該由誰來管

客戶替同事買過一次迎嬰派對禮物,之後每次打開網站,首頁卻還是一直出現嬰兒用品。業務因為特殊專案提出一次急件需求,AI Agent 往後卻把急件當成固定需求。這兩種情況的問題都一樣:系統只看到一筆行為,沒有分清楚這是使用者的長期偏好,還是只在當下出現的例外。

企業希望 AI Agent 愈用愈了解使用者,就得先決定每一筆記憶要怎麼保存、哪些人可以查看,以及記錯時要怎麼更正。如果只顧著增加資料,錯誤也會愈積愈多;一旦 AI Agent 把這些記憶用在報價、採購或客服流程,一次誤判就可能影響後續建議。

一次購買為什麼不能直接當成長期偏好?

TechOrange 報導,Etsy 過去如果只看最近一次購買紀錄,消費者買了皮帶扣,系統接下來可能推薦皮帶或帽子;有人買了迎嬰派對禮物,系統也可能誤以為對方即將成為父母,之後持續推播嬰兒用品。因此,Etsy 改用購買歷史、個人偏好與行為線索建立顧客檔案,嘗試分辨消費者是在準備開學、搬家、收藏書籍,還是替別人買禮物。

同樣的問題也會出現在企業內部的 AI Agent。業務曾因個別案件,同意調整某位客戶的付款期限,不代表這位客戶往後都偏好這項條件;採購曾因缺料,改向另一家供應商詢價,也不代表原本的供應商已經被排除;客服為了一次性的客訴提高處理層級,更不能直接把這次做法變成所有同類案件的固定規則。如果系統只記住處理結果,沒有一併記下當時涉及的客戶、期限與原因,下次遇到類似案件時就可能用錯。

因此,專案團隊設計記憶欄位時,至少要把「偏好內容」與「適用條件」分開,並保留資料來源、發生時間與用途。檢查現有資料時,可以先抽查最近的交易與對話,確認團隊能不能說清楚每筆資訊究竟是本人的偏好、替別人處理事情,還是因應特殊狀況的做法。無法說清楚的資料,先不要直接當成長期偏好。

寫入記憶前,先分成四類

同一句話要不要記住,要看它的用途與可能帶來的風險。使用者明確表示「報價請固定用繁體中文」,可以列為可直接記住的偏好;業務提到某位客戶最近可能縮減預算,但資訊還沒有確認,就應該先交由負責人審核;如果內容涉及授信條件,或可能改變客戶分級,則需要指定主管核可。至於身分證字號、健康資料或與工作無關的私密內容,企業應明確規定不得寫入,避免 AI Agent 日後在不相干的工作中使用。

建議先由業務、法遵與資料治理人員共同訂出四類規範:可直接記住、需審核、需核可、不得寫入。分類時不要只列抽象的類別名稱,而要附上各部門實際會遇到的句子,例如「客戶偏好使用電子發票」可以直接記住,「客戶可能停止合作」則需要審核。如果遇到無法歸類的內容,先不要寫入,等負責人確認後再處理。

EgentWrX 的 AI Agent 記憶可供使用者查看、修改與刪除,後台也能設定直接寫入、需審核與需核可等規範,含有個資的記憶則會隔離。企業採用這類機制時,仍要把責任分工寫清楚,包括誰負責審核、內容多久沒有獲得確認就不再採用,以及使用者要求更正後要由誰處理。第一步可以先從客服回覆偏好、業務文件格式等低風險情境開始,確認分類方式是否清楚,再考慮加入會影響交易條件的資訊。

擴大使用範圍前,先確認誰看得到、事後能不能查清楚

顧客檔案涵蓋的部門愈多,資料遭到誤用時,影響的範圍也會愈大。客服為了處理退貨而看到的資訊,不一定需要開放給行銷部門;採購掌握的供應商議價條件,也不應直接出現在其他單位的 AI Agent 回覆中。如果企業先開放所有資料,之後才補上角色限制,試行期間就可能讓不相關的人員看到敏感內容。

在 EgentWrX 裡,企業可以依照組織架構與角色,分層設定每個人可以執行哪些工作、查看哪些資料;管理者也能透過稽核日誌,回頭查閱 AI Agent 執行過哪些工作,並確認紀錄是否完整。不過,有留下紀錄,不代表已經證明 AI Agent 帶來業務成果,團隊仍須分別檢查推薦品質,以及營收、訂單金額等業務指標。

原文將個人化購物體驗列為 Etsy 近期業績改善的因素之一,但沒有提供 AI 顧客檔案單獨帶來多少貢獻。企業試行時,也不能因為同期營收上升,就把成果全部算在 AI Agent 身上。建議先建立角色權限矩陣,列出資料類型、可以查看的單位、可以操作的角色與核准人;接著每月抽查一批紀錄,逐一核對資料來源、寫入規則、輸出結果、人工核准與後續修正,再決定是否擴大到其他部門。

常見問題

AI Agent 要看過幾次行為,才能當成長期偏好?
沒有一個固定次數能適用所有情況。企業要同時確認使用者是否明確表達、相同行為是否在不同時間重複出現,以及這項偏好會不會影響價格或權益;風險愈高,愈需要等本人或主管確認後再寫入。
使用者可以自己修改 AI Agent 記錯的內容嗎?
可以。企業應讓使用者查看、修改與刪除 AI Agent 為自己保存的記憶。如果資訊會影響客戶分級、授信或報價,修改後還要留下處理紀錄,並確認後續流程已經改用新的內容。
哪些資訊不該寫進 AI Agent 的長期記憶?
與工作無關的私密內容、沒有明確用途的個資,以及尚未證實且可能損害他人權益的推測,都應列為不得寫入,或必須等待核可的資訊。企業可由法遵、資料治理與業務單位共同維護清單,並定期抽查。
怎麼判斷個人化推薦真的帶來業務成果?
企業要先分開追蹤 AI Agent 的操作紀錄與業務指標,再比較採用建議前後的推薦結果、人工修正情況與客戶反應。營收或訂單金額也會受到價格、行銷活動與市場狀況影響,不能只看整體數字上升,就認定成長都是 AI Agent 帶來的。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。