客戶替同事買過一次迎嬰派對禮物,之後每次打開網站,首頁卻還是一直出現嬰兒用品。業務因為特殊專案提出一次急件需求,AI Agent 往後卻把急件當成固定需求。這兩種情況的問題都一樣:系統只看到一筆行為,沒有分清楚這是使用者的長期偏好,還是只在當下出現的例外。
企業希望 AI Agent 愈用愈了解使用者,就得先決定每一筆記憶要怎麼保存、哪些人可以查看,以及記錯時要怎麼更正。如果只顧著增加資料,錯誤也會愈積愈多;一旦 AI Agent 把這些記憶用在報價、採購或客服流程,一次誤判就可能影響後續建議。
一次購買為什麼不能直接當成長期偏好?
TechOrange 報導,Etsy 過去如果只看最近一次購買紀錄,消費者買了皮帶扣,系統接下來可能推薦皮帶或帽子;有人買了迎嬰派對禮物,系統也可能誤以為對方即將成為父母,之後持續推播嬰兒用品。因此,Etsy 改用購買歷史、個人偏好與行為線索建立顧客檔案,嘗試分辨消費者是在準備開學、搬家、收藏書籍,還是替別人買禮物。
同樣的問題也會出現在企業內部的 AI Agent。業務曾因個別案件,同意調整某位客戶的付款期限,不代表這位客戶往後都偏好這項條件;採購曾因缺料,改向另一家供應商詢價,也不代表原本的供應商已經被排除;客服為了一次性的客訴提高處理層級,更不能直接把這次做法變成所有同類案件的固定規則。如果系統只記住處理結果,沒有一併記下當時涉及的客戶、期限與原因,下次遇到類似案件時就可能用錯。
因此,專案團隊設計記憶欄位時,至少要把「偏好內容」與「適用條件」分開,並保留資料來源、發生時間與用途。檢查現有資料時,可以先抽查最近的交易與對話,確認團隊能不能說清楚每筆資訊究竟是本人的偏好、替別人處理事情,還是因應特殊狀況的做法。無法說清楚的資料,先不要直接當成長期偏好。
寫入記憶前,先分成四類
同一句話要不要記住,要看它的用途與可能帶來的風險。使用者明確表示「報價請固定用繁體中文」,可以列為可直接記住的偏好;業務提到某位客戶最近可能縮減預算,但資訊還沒有確認,就應該先交由負責人審核;如果內容涉及授信條件,或可能改變客戶分級,則需要指定主管核可。至於身分證字號、健康資料或與工作無關的私密內容,企業應明確規定不得寫入,避免 AI Agent 日後在不相干的工作中使用。
建議先由業務、法遵與資料治理人員共同訂出四類規範:可直接記住、需審核、需核可、不得寫入。分類時不要只列抽象的類別名稱,而要附上各部門實際會遇到的句子,例如「客戶偏好使用電子發票」可以直接記住,「客戶可能停止合作」則需要審核。如果遇到無法歸類的內容,先不要寫入,等負責人確認後再處理。
EgentWrX 的 AI Agent 記憶可供使用者查看、修改與刪除,後台也能設定直接寫入、需審核與需核可等規範,含有個資的記憶則會隔離。企業採用這類機制時,仍要把責任分工寫清楚,包括誰負責審核、內容多久沒有獲得確認就不再採用,以及使用者要求更正後要由誰處理。第一步可以先從客服回覆偏好、業務文件格式等低風險情境開始,確認分類方式是否清楚,再考慮加入會影響交易條件的資訊。
擴大使用範圍前,先確認誰看得到、事後能不能查清楚
顧客檔案涵蓋的部門愈多,資料遭到誤用時,影響的範圍也會愈大。客服為了處理退貨而看到的資訊,不一定需要開放給行銷部門;採購掌握的供應商議價條件,也不應直接出現在其他單位的 AI Agent 回覆中。如果企業先開放所有資料,之後才補上角色限制,試行期間就可能讓不相關的人員看到敏感內容。
在 EgentWrX 裡,企業可以依照組織架構與角色,分層設定每個人可以執行哪些工作、查看哪些資料;管理者也能透過稽核日誌,回頭查閱 AI Agent 執行過哪些工作,並確認紀錄是否完整。不過,有留下紀錄,不代表已經證明 AI Agent 帶來業務成果,團隊仍須分別檢查推薦品質,以及營收、訂單金額等業務指標。
原文將個人化購物體驗列為 Etsy 近期業績改善的因素之一,但沒有提供 AI 顧客檔案單獨帶來多少貢獻。企業試行時,也不能因為同期營收上升,就把成果全部算在 AI Agent 身上。建議先建立角色權限矩陣,列出資料類型、可以查看的單位、可以操作的角色與核准人;接著每月抽查一批紀錄,逐一核對資料來源、寫入規則、輸出結果、人工核准與後續修正,再決定是否擴大到其他部門。



