← 返回觀點
/智慧方案FDE團隊

AI Agent 只需查資料,為什麼還能刪掉資料?

原本只需查詢的 AI Agent,拿到管理者權限後就可能修改或刪除資料。這篇說明盤點後怎麼限制可讀、可改與可外傳範圍,並留下紀錄追查問題。

AIEgentWrX人機協作導入
AI Agent 只需查資料,為什麼還能刪掉資料?

員工把 AI Agent 裝進電腦後,主管最常先問:「公司到底有哪些人在用?」這題當然要問,不過,完成盤點不代表風險就管住了。假設業務只需要 AI Agent 查詢歷史訂單,系統卻開放管理者權限;或採購同仁下載一項來路不明的技能,AI Agent 就可能讀取本機檔案、呼叫應用程式介面(application programming interface,API),甚至修改原本不該碰的資料。

TechOrange 報導引述 TeamT5 資深經理侯翔齡的看法:企業要先掌握內部有哪些 AI Agent、使用哪些模型、是否符合規範,之後還要持續檢查權限、技能與機敏資料的存取情形。報導也轉述 Gravitee 的調查,超過八成受訪企業已部署大型語言模型(large language model,LLM)或 AI Agent,但受到監控或防護的 AI Agent 比例不到 50%。不過,原文沒有交代受訪企業的數量、地區與產業分布,因此這組數字只能用來提醒企業檢查管理缺口,不宜直接當成自家公司的風險比例。

盤點完成後,還要確認 AI Agent 可以碰哪些資料

企業完成盤點後,會知道「公司有哪些 AI Agent」,接下來還要確認「每一個 AI Agent 可以做哪些事」。除了產品名稱、版本與安裝位置,還要列出每個 AI Agent 會接觸哪些資料庫、共享資料夾、本機檔案、API 與外部網域,並標明它可以讀取、修改、刪除或傳送哪些內容。有了這份清單,IT、資安與業務主管才能一起確認:這項工作只需要查詢資料,還是真的需要修改資料?

以業務報價為例,如果 AI Agent 只負責查詢歷史訂單與價格規則,就不需要取得刪除訂單或修改客戶主檔的權限。採購比價也是一樣,工作若只需要讀取供應商報價與交期,就應該移除管理者權限,並限制它可以呼叫哪些 API。如果 AI Agent 需要把結果傳送到外部服務,團隊還要逐一確認連線的目的網域、會傳送哪些欄位,以及這項連線是否確實有業務需要,不能只為了方便就全部開放。

原文把風險分成三個方向:有人竄改工具的用途說明、在工具輸出中夾帶惡意要求,或修改技能供應鏈中的內容。不論是哪一種攻擊,最後會造成多大損害,仍取決於 AI Agent 手上有哪些權限。我們建議企業先假設流程中可能混入惡意指令,因此應將資料庫連線限制在內網,並且只開放讀取;對外網域則一律先拒絕,再逐一審核開放,降低可能造成的損害。不過,限制權限不能取代技能檢查,企業必須分別做好這兩道防線。

這一階段可以先做一件很具體的事:挑一項已經上線的工作,從資料來源一路列到結果送往何處。只要工作不需要讀取、修改、刪除資料或對外連線,就先把相關權限移除,再請工作負責人確認整個流程仍可正常完成。

同事做的技能,可以直接推廣給全公司嗎?

不能。技能(Skills)會把固定指令、工具與處理規則整理成可以重複使用的做法;公司一旦將它列為共用項目,使用範圍就會從個人試用擴大到多個部門。原文提醒,只要有人修改技能中的一行指令,就可能要求 AI Agent 將環境資料傳給攻擊者。因此,「同事用過沒問題」不能當成公司核准使用的依據。

建議企業把技能分成「個人試用」與「公司共用」兩級。個人試用期間,只能使用測試資料,並在受控環境中執行;要改列為公司共用技能,就要排入審查,並指定熟悉這項工作的負責人。審查人員至少要確認指令內容、技能會讀取哪些資料、呼叫哪些工具、是否連上外部網域,以及版本更新後由誰重新檢查。如果技能來源不明、找不到明確的負責人,或要求的權限超過工作需要,就先不要推廣。

負責審查的人也不能只看程式碼。以品管報告為例,資安人員可以檢查連線與檔案存取情形,但只有品管主管知道哪些欄位是工作需要、哪些結果可以傳送到廠外。因此,IT、資安與業務單位要分別確認自己負責的部分,並記錄核准人、技能版本與核准日期。企業可以先從使用人數最多或會接觸機敏資料的技能開始,不必一次把所有個人試用的技能都納入公司標準。

已經限制權限,為什麼還要每月檢查紀錄?

權限、技能版本與工作流程都可能改變,因此企業不能把第一次核准當成永久有效。原文主張,AI Agent 上線後仍要持續評估與檢查,不能等到事故發生才處理。企業需要保留可以追查的稽核日誌(audit log),記錄哪個 AI Agent 在什麼時間讀取哪些資料、呼叫哪個工具、何時調整權限,以及哪些人員曾下載稽核日誌,確保事後都能查得到。

每月檢查時,不需要從頭翻完一整疊日誌。IT、資安與業務單位可以先約定幾個固定的檢查項目,例如有沒有在非上班時段大量讀取資料、有沒有連上未核准的網域、原本只需查詢的工作是否多了寫入權限,以及共用技能是否更換過版本。每個異常項目都要指定處理人與完成期限;如果系統只能匯出紀錄,卻沒有人固定檢查,這些日誌仍然無法發揮管理作用。

EgentWrX 提供幾項企業可以採用的機制:企業可以讓 AI Agent 透過內網唯讀連線查詢公司資料庫,對外連線則一律先拒絕,再逐一開放網域;同事自行建立的技能若要推廣給全公司,必須先通過後台審查;AI Agent 的操作會留下可匯出的稽核日誌,也能用雜湊鏈(hash chain)驗證紀錄是否遭人修改,系統就連管理者下載稽核日誌的行為也會記錄下來。不過,企業仍要先決定哪些資料可以使用、由誰負責核准,以及多久檢查一次。平台提供的是執行與追查工具,哪些風險可以接受,還是要由主管決定。

完成盤點後,建議先挑一項會接觸機敏資料或需要對外連線的工作進行測試,移除不必要的權限、檢查共用技能,接著按月查看紀錄。等到每項異常都有處理人與完成期限,也有人追蹤是否如期完成,再把同一套做法推廣到其他部門。

常見問題

盤點 AI Agent 時,只記產品與版本夠嗎?
不夠。除了產品與版本,還要列出每個 AI Agent 可以讀取哪些資料、呼叫哪些 API、使用哪些帳號權限、連上哪些外部網域,並註明用途與負責人。這樣後續檢查時,才能確認哪些權限應該移除。
只負責查詢的 AI Agent,應該給什麼權限?
先給唯讀權限,並把可存取的範圍限制在完成工作所需的資料庫、欄位與檔案。如果流程確實需要寫入或刪除資料,就要另外設計核准步驟,不能直接沿用管理者帳號。
同事自建的技能,何時可以提供全公司使用?
公司確認過指令內容、資料存取範圍與外部連線,並指定負責人後,才適合列為共用技能。個人試用期間應使用測試資料;技能版本更新後,也要重新檢查內容與權限。
每月應該檢查哪些 AI Agent 紀錄?
先檢查異常的資料存取、未經核准的外部連線、權限變更、共用技能版本變動,以及管理者下載稽核日誌的紀錄。每個異常都要指定處理人與完成期限,下一次檢查時再確認是否已經改善。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。