公司公布 AI 使用政策後,業務仍可能把客戶來信交給個人註冊的工具整理,採購也可能把供應商報價貼進外部服務比對。員工未必想違規,只是核准工具不好找、工作趕時間,或根本不知道哪些資料不能輸入。此時,政策寫得再完整,也無法在員工實際操作時發揮管控作用。
TechOrange 引述 Pax8 的研究指出,約 78% 員工正在使用雇主未核准的 AI 工具;另一份針對逾 400 位美國中小企業主管進行的調查報告則顯示,90% 企業已開始導入 AI,但只有 23% 訂有書面政策。Pennsylvania Bank 更曾發生員工為求快速,把客戶姓名與社會安全號碼輸入未核准的大型語言模型(large language model),最後必須向美國證券交易委員會申報。這些數字不能直接代表台灣企業,不過案例提醒主管:AI 治理要落到權限、流程與紀錄,才有機會在操作時發揮作用。
書面政策為什麼攔不住工作捷徑?
「不得輸入機密資料」看起來清楚,實際執行時卻有兩個缺口。第一,員工未必能立即判定一份報價單、客訴紀錄或品管照片屬於哪個等級;第二,就算員工知道規定,仍可照常開啟外部工具、上傳資料或連線到外部服務。企業若把遵守規定的責任全壓在員工的警覺性上,只能等到事情發生後再追究。
建議先盤點影子 AI(shadow AI),也就是員工自行使用、公司尚未核准的 AI 工具。IT 團隊可從端點(endpoint)與網路紀錄確認員工正在使用哪些服務,業務單位則補充使用目的、輸入資料,以及輸出內容後續如何使用。盤點不是為了立刻封鎖所有工具,而是先找出資料已經流向哪裡,以及現有核准工具為什麼沒有被採用。
政策條文也要改寫成可供查核的具體規範,例如「業務可用核准工具整理公開產品資料,但不得上傳未公開報價與客戶聯絡資料」,比「使用者應注意資訊安全」更容易落實。第一步可請 IT、資安、法遵與 AI 使用量較高的兩個部門共同列出前十個 AI 使用情境,逐項寫清楚允許的工具、資料與輸出用途,再處理使用頻率較低的情境。
先把角色、資料與動作放進同一張矩陣
要讓治理措施能夠落實,企業需要回答三個問題:誰可以使用、可以讀取什麼、可以做哪些事。建議建立「角色、資料、可執行動作」三欄權限矩陣,角色至少區分一般成員、單位主管、管理者與唯讀人員;資料則可分為一般、內部、機密與受監管四級。動作欄不能只寫「使用 AI」,而要拆成查詢、上傳、產生內容、呼叫外部服務與執行程式腳本。
以採購比價為例,AI Agent 可以整理公開規格,也可以讀取經核准的歷史採購資料;不過,若資料包含未公開底價或供應商個資,企業應限制資料來源、執行環境與對外連線。資料分級也要落實到技術設定,否則同一位使用者仍可能把機密內容複製到未核准的服務。
EgentWrX 可依組織架構設定誰能用 AI Agent 做什麼、能看到哪些資料,也能讓 AI Agent 透過公司內網唯讀存取資料庫,並把對外連線設為預設拒絕、逐一放行網域。企業可先挑業務報價、採購比價或客服摘要中的一項流程,把每個角色能讀取的資料與能執行的動作填完,再由資料權責單位確認;不要一開始就用同一套權限涵蓋所有部門。
人工核可與紀錄要寫進工作流
「重要內容應由主管確認」仍不夠具體,因為同仁不知道哪些情況算重要,流程也無法設定應在哪個節點暫停。每個 AI 工作流都應列出需要人工確認的條件,例如內容含有客戶資料、金額超過部門上限、輸入條件模糊、不同資料來源互相矛盾或程式腳本即將執行。企業還要指定由誰核可、核可人可將流程退回到哪一步,以及哪些節點不得略過。
留下紀錄也不能只保存最後答案。稽核軌跡(audit trail)至少要能回答:誰在何時啟動工作、AI Agent 讀取哪些資料、呼叫哪些服務、產生什麼輸出、誰核可放行,以及後續執行了什麼動作。EgentWrX 的稽核日誌可記錄 AI Agent 的操作,並支援驗證紀錄是否遭到修改;系統也會記錄管理者下載稽核紀錄的動作,管理者還能設定工作流在交棒前必須經過人工核可,等指定人員放行後再繼續。
企業應同時指定紀錄的檢視責任人、檢查週期與異常處理方式。建議每季抽查涉及機密或受監管資料的操作,檢查權限是否仍符合職務、是否確實完成核可、外連服務是否都在允許清單內;若發現同仁反覆繞過流程,先確認核准工具是否符合工作需求,再決定調整工具、權限或教育方式。
AI 使用政策要能執行,管理團隊就得把文字規定逐項對應到系統權限、工作流節點與可回查紀錄。先選一項會接觸敏感資料、流程又清楚的工作試做,讓資安、IT 與業務共同確認矩陣與核可條件;完成抽查後再擴大範圍,這樣比一開始就發布適用全公司的原則更容易找出缺口。
