← 返回觀點
/智慧方案FDE團隊

敏感資料不交給供應商:導入 AI Agent 先確認三件事

報價、合約與客戶資料不能讓供應商查看,AI Agent 仍可能參與流程。上線前要確認資料留在哪裡、公司能否查到紀錄,以及重要結論由誰核准。

AIEgentWrX人機協作導入
敏感資料不交給供應商:導入 AI Agent 先確認三件事

公司想用 AI Agent 整理業務報價、比對採購合約或彙整客訴時,第一個遇到的問題通常不是模型夠不夠聰明,而是這些資料能不能離開公司。報價裡有成本、合約裡有交易條件、客訴裡有個資;但如果供應商完全看不到這些內容,系統出問題時,又要由誰查清楚 AI Agent 做過哪些事?

不把敏感資料交給供應商,不代表企業只能放棄使用 AI Agent。企業要分開處理兩件事:一方面不能讓供應商看到資料內容,另一方面公司內部仍要查得到完整的執行軌跡(trace)。前者要靠部署位置、內網連線與對外連線限制,後者則要靠公司自行保管的紀錄與核可流程。

供應商看不到資料,公司內部仍要查得到工作紀錄

法律科技公司 Legora 面對的限制很明確:資料屬於法律事務所的客戶,因此 Legora 不能查看 AI Agent 協助律師工作時留下的執行軌跡。這套系統可以協助起草及編輯 Word 文件、在同一張表格裡審查 10,000 份合約,也能處理盡職調查;不過,供應商能承接這些工作,不代表它就能讀取客戶的資料內容。

這個例子也提醒台灣企業,對外保密與公司內部能不能追查,是兩件不同的事。公司可以禁止外部供應商讀取報價、採購條件或客戶資料,但資安、法遵與流程負責人仍要知道 AI Agent 讀過哪些資料、呼叫過哪些工具、產出什麼結果,最後又是由誰核准放行。如果公司為了保密,連內部紀錄也沒有留下,發生錯誤時就只能看到結果,查不出問題究竟出在資料、模型、搜尋,還是流程設定。

因此,第一步不是選模型,而是先列出每一段工作會接觸哪些資料,以及哪些人可以查看。建議企業先畫出資料流向,逐項標明資料來源、敏感等級、儲存位置、可以使用資料的人員,以及供應商能不能接觸;只要有一項說不清楚,就先不要把整段流程交給 AI Agent 執行。

地端與雲端怎麼分,先看資料會流到哪裡

企業不必把整套系統都放在同一個地方。地端部署(on-premises deployment)適合處理不能離開公司環境的資料;混合部署(hybrid deployment)則可以把敏感資料留在內部,再把允許送到外部的工作交給雲端模型。例如,處理採購比價時,可以先在內網讀取料號、歷史價格與供應商條件,再把已經移除機密欄位的內容送到其他環境整理。要怎麼切分,應該取決於資料內容與法遵要求,而不是團隊偏好哪一個品牌。

剛開始串接內部系統時,也不要直接開放 AI Agent 寫入資料。AI Agent 查詢企業資源規劃(enterprise resource planning,ERP)系統、合約庫或品管資料時,建議先使用唯讀連線;等團隊確認查詢範圍、權限設定與例外處理都沒有問題,再評估是否需要開放後續操作。至於對外連線,則應從預設拒絕開始,只放行工作需要的網域,避免 AI Agent 在執行流程時改用未經審查的外部服務。

EgentWrX 支援雲端、地端與混合三種部署形態,也可以讓 AI Agent 透過公司內網,以唯讀方式存取資料庫;對外網域則採逐一放行,企業可以依照資料的敏感程度切分工作。導入團隊現在要做的,是先挑一段可以控制風險的流程,列出每次讀取及送出的欄位,再決定哪些步驟要留在公司內部,哪些步驟可以交給雲端處理。

供應商看不到客戶內容,要怎麼測試及追查錯誤?

Legora 由三名工程師與三名律師共同建立一套模擬客戶實際工作的測試環境,做法類似在強化學習(reinforcement learning)中建立模擬世界(worlds)。企業也可以用去識別化(de-identification)或虛構資料,重現真實工作中容易出錯的情況,例如合約條款互相矛盾、報價缺少必要欄位,或採購條件超過授權範圍。這樣一來,供應商不需要接觸真實內容,也能測試流程。

測試時不能只看最後的答案對不對,團隊還要分別檢查資料擷取、搜尋結果、引證與工具呼叫,並記錄每次測試使用的模型版本。Legora 曾遇過引證正確率從 70% 提升到 99% 的情況;原因是模型版本更新,而不是產品本身經過修改。也就是說,模型升級後不能直接沿用舊的驗收結果;原本通過的題目要再跑一次,原本失敗的題目也要確認是否真的改善。

實際使用的流程則要保留稽核日誌(audit log),並事先指定誰可以調閱、多久檢查一次,以及發現異常任務時要由誰處理。EgentWrX 的稽核日誌可以匯出,也能用雜湊鏈(hash chain)驗證紀錄是否完整;管理者下載紀錄時,系統同樣會留下紀錄。建議企業在上線前先演練一次,刻意放入缺少欄位或權限不足的任務,確認團隊能從紀錄裡查到 AI Agent 執行的每一個步驟,也找得到負責處理的人。

高風險流程不能讓 AI Agent 一路自動送出

AI Agent 可以把收件、整理清單、審查文件與後續工作串在一起,但法律審查、盡職調查、對外報價或採購核定都涉及明確責任。Legora 技術長 Jacob Lauritzen 估計,現有模型大約能妥善完成 60% 的法律工作,其餘工作仍需要更聰明的模型。雖然這是他的估計,但已足以提醒導入團隊:AI Agent 能完成部分工作,不代表可以在沒有人監督的情況下跑完整段流程。

企業可以把現有流程畫成交棒圖,標出哪些地方一定要停下來等人確認。內容即將寄給客戶、金額超過授權上限、條件含糊,或不同資料來源互相矛盾時,都應設置人工核可關卡(human approval gate)。流程文件也要寫清楚由誰核准、退回後由誰修改,以及修改後要不要重新核可。

建議先選擇結果容易查證、影響範圍有限的流程,例如整理合約清單或彙整採購差異,讓 AI Agent 負責前段的資料整理,再由人員判斷並對外提交。正式使用前,主管要親自確認三件事:敏感資料沒有流到不該去的地方、公司內部查得到完整紀錄、重要結論在送出前一定有人核准。

常見問題

敏感資料完全不能上雲,還能使用 AI Agent 嗎?
可以。企業可以選擇地端部署,讓工作在公司的中央伺服器或員工電腦上執行,再透過內網的唯讀連線讀取資料庫。不過,導入前仍要逐一確認模型、紀錄與備份存放在哪裡,不能只看系統主機放在哪裡。
供應商不能查看工作內容,出了錯要怎麼查?
公司內部要保留可以匯出、也能驗證完整性的稽核日誌,記錄 AI Agent 讀取過哪些資料、呼叫過哪些工具,以及由誰核准。導入前要先指定紀錄管理者、調閱權限與檢查週期,並用異常任務實際演練一次追查流程。
模型更新後,需要把所有測試重新做一次嗎?
至少要重新執行高風險與具有代表性的測試,因為模型版本更新可能改變引證與工具使用的表現。團隊應固定測試資料與評分方式,保留舊版結果,再比較新版有沒有退步,不能只抽查幾個看起來正確的答案。
哪些步驟應該設定人工核可?
對外送出、金額超過授權上限、條件含糊,以及不同資料互相矛盾的步驟,都應停下來等待指定人員核准。流程文件還要寫明誰可以核准、退回後由誰修改,以及修改後要不要再次送審,不能只靠口頭約定責任歸屬。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證