← 返回觀點
/智慧方案FDE團隊

企業資訊按用途分四類存放:對話、技能、知識庫與記憶

短期脈絡會隨工作結束失去重要性,固定規則卻必須讓 AI Agent 每次照做。分類時先看資訊用途與出錯影響,再指定維護與審查方式。

AIEgentWrX人機協作導入
企業資訊按用途分四類存放:對話、技能、知識庫與記憶

業務上週告訴 AI Agent:「這類客戶報價要先扣除年度返利,而且交期超過六週要請主管確認。」這週再請 AI Agent 處理另一張報價單時,它卻沒有沿用這套規則。這不一定是模型忘了,也可能是重要資訊埋在一長串歷史對話裡,等到真正需要時,AI Agent 根本沒有找到。

企業導入 AI Agent 時,常會以為它只要「看過」,下次就會照著做。我們認為,對話適合處理眼前的任務,個人偏好可以存進受控的記憶,需要查證的內容則應放進知識庫。至於每次都必須遵守的公司規則,應該整理成技能或任務指令。分類時不要只看資料長短,而要先確認這筆資訊的用途,以及一旦出錯會影響哪些人。

歷史對話能保留前後脈絡,但不能拿來存企業規則

OpenAI 公布的 LifeVal 評測收錄了 169 項任務,涵蓋照護、教育、購物、個人財務與政府服務等領域。研究團隊讓 AI 使用瀏覽器並操作電腦,完成尋找幼兒園、安排防洪志工及搜尋住宅等工作,同時檢查指定操作是否完成,以及結果是否符合使用者需求。

這項研究的結果很明確:背景資訊放在哪裡,會影響 AI 能不能在需要時找到。需要從歷史對話取得資訊的評分條件,平均達標率為 33.33%;研究團隊把原本直接提供的背景資訊移進歷史對話後,相關達標率也從 55.8% 降到 41.5%。不過,LifeVal 主要是在模擬環境中測試,完整任務資料集、評測程式,以及個人化分析採用的模型都沒有公開,因此企業不能直接拿這組數字推估自家系統上線後的成效。

歷史對話仍然有用,例如記錄這次客訴談到哪裡、採購正在比較哪些方案,或報價過程中臨時增加了哪些條件。這些資訊和眼前的工作密切相關,工作結束後,重要性也可能隨之降低。折扣門檻、簽核條件、品管判定標準與固定輸出格式則不同,企業不能只靠 AI Agent 回頭翻找舊對話。

可以先挑一項經常執行的流程,把裡面的公司規則逐條圈出來,再問:「下個月換一位同仁操作,AI Agent 還是必須照做嗎?」如果答案是肯定的,就該把這些規則移出對話,整理成技能(skill)或任務指令,並且指定由誰維護、如何審查。

需要文件依據的內容,應放進可檢索的知識庫

制度辦法、作業規範、產品規格與供應商資料都有明確來源,使用者也需要知道答案是根據哪一份文件。這類內容適合放進知識庫(knowledge base),不該散落在不同對話裡。以採購比價為例,AI Agent 可以在當次對話中接收「這次先比較交期」的指示;付款條件、驗收規範與合格供應商名單,則應回到正式資料來源查找。

研究團隊也發現,部分被標註為需要查閱歷史對話,而且達標率為 100% 的評分條件,其實可以從其他資料或對話標題推得答案。也就是說,AI Agent 把任務做對了,不代表它真的找過指定的資料。企業驗收時如果只核對最後答案,很可能漏掉一項風險:這次只是碰巧答對,下次資料一改,AI Agent 可能仍會繼續引用錯誤的來源。

驗收可以分成兩層。第一層檢查工作是否完成,例如報價單有沒有產出;第二層則核對答案引用了哪一份制度、哪一個版本,以及找不到足夠依據時,AI Agent 是否會停止回答。測試題也要刻意安排知識庫裡沒有答案的情況,確認 AI Agent 不會為了交差自行補出內容。這一階段可以先挑一份目前有效的制度文件,再搭配一份已經失效的版本,測試 AI Agent 能否引用正確版本,並在缺少依據時清楚說明。

記憶只適合存個人背景,而且使用者要看得到、改得掉

記憶(memory)適合保存可以跨任務沿用、但屬於個人的資訊,例如主管偏好的報告格式、業務負責的產品線,或使用者習慣先看摘要再看明細。LifeVal 中,需要使用 ChatGPT 記憶的評分條件,平均達標率為 47.8%;不過,研究沒有公開個人化分析使用的是哪個模型。這組結果不能直接用來推估企業環境的成功率,但已經足以提醒導入團隊:使用者必須能查看並修正記憶內容。

企業應先訂好哪些資料可以寫進記憶。一般偏好可以直接寫入;工作背景如果會影響部門作業,應先經過審核;敏感資料或可能改變核准結果的資訊,則要由指定人員核可。同時,使用者要能查看、修改與刪除錯誤記憶,管理者也要指定人員定期檢查。像「習慣使用繁體中文」可以當作個人偏好,但「這家供應商可以免驗收」牽涉正式流程,不能只因為某次對話提過,就直接寫進記憶。

EgentWrX 提供知識庫、記憶與技能等機制。文件可以依 Wiki、向量(vector)或表格型態整理,找不到足夠依據時可以拒絕回答;使用者可以查看、修改或刪除記憶,後台也能依照直接寫入、需要審核或需要核可等方式設定政策。至於固定做法,則可整理成技能;同事自行建立的技能若要推廣到全公司使用,必須先經過後台審查。建議先挑一項經常執行的流程試做,逐筆標示哪些資訊屬於當次對話、個人記憶、正式知識或固定技能,再請流程負責人確認分類方式與例外處理。

常見問題

每次把完整背景貼進對話,會不會最可靠?
直接提供當次任務需要的背景,比期待 AI Agent 自己翻找舊對話更容易驗證,但沒有必要每次都重貼所有資料。建議只帶入這次需要的條件,固定規則整理成技能,需要引用的內容則交給知識庫。
哪些資訊不該寫進記憶?
敏感資料、還沒有核准的判斷,以及會直接改變價格、資格或簽核結果的內容,都不應自動寫進記憶。企業應設定需要審核或核可的寫入政策,並讓使用者能夠查看、修改與刪除記憶。
知識庫與技能有什麼差別?
知識庫用來回答「依據在哪裡」,技能則規定「每次應該怎麼做」。產品規格、制度文件與名單適合放進知識庫;報價步驟、核准門檻、輸出格式與例外處理,則應整理成技能或任務指令。
怎麼確認 AI Agent 真的查了指定資料?
驗收時除了看答案,也要核對引用依據,並安排「其他檔案也有相似答案」及「知識庫找不到答案」的測試。如果 AI Agent 在找不到資料時仍然能回答,就要追查答案來源,不能只因為最後結果正確就判定通過。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證