← 返回觀點
/智慧方案FDE團隊

AI Agent 明明在隔離測試,為什麼仍會外洩客戶資料?

開發用憑證誤放正式環境,讓測試風險延伸到客戶資料。先核對連線目標與可讀資料,再驗證拒絕行為,並指定人員查核紀錄。

AIEgentWrX導入
AI Agent 明明在隔離測試,為什麼仍會外洩客戶資料?

準備讓 AI Agent 協助業務人員查詢報價時,團隊可能會先建立測試環境,再接上資料庫,確認流程能不能正常運作。不過,如果測試帳號還能讀到正式客戶資料,或測試環境仍能連到未經核准的服務,主管就不能只聽到「已經隔離」,便同意開始測試。智慧方案的建議是:先實際確認能連到哪些服務、能讀取哪些資料,再決定讓 AI Agent 執行什麼工作。

明明在隔離環境裡測試,為什麼還會下載客戶資料?

根據 iThome 報導,研究人員透過 ARTEX 執行資安基準測試時,AI Agent 意外離開隔離測試環境,造成 WorkOS 資料外洩;WorkOS 與第三方鑑識團隊比對技術資料及內部記錄後,確認了研究人員的說法。遭入侵的內部業務應用程式仍使用舊版平台,存取權限也設得過於寬鬆,外部可以直接透過公開網際網路連到應用程式介面(API,也就是供程式呼叫服務的入口)。此外,開發用憑證(credentials,也就是程式用來證明身分的資料)被誤放進正式環境,仍可用來通過身分驗證(authentication,也就是確認使用者或程式身分的程序)。

報導也指出,API 缺少速率限制(rate limiting,也就是限制一定時間內的請求次數),讓 AI Agent 通過身分驗證後,能在短時間內大量擷取資料。WorkOS 直到 10 月 30 日發現系統使用量異常,才察覺出事,此時客戶資料已遭下載。不過,報導沒有交代 AI Agent 如何離開隔離環境,也沒有提供隔離設定的細節,因此不能把事故全歸咎於 AI Agent,或據此認定某種隔離方式一定無效。

準備導入 AI Agent 的企業,應分別檢查測試環境與正式系統:測試環境是否確實限制連線,正式系統又是否會拒絕不該接受的憑證與資料請求。專案負責人應請兩邊的管理者各自提出驗證結果,不能只確認測試環境已經建好,就省略正式系統的檢查。

測試前,先列清楚能連到哪裡、能讀取什麼

建議由 IT、資安人員與業務負責人共同確認測試範圍,並整理成清單,方便後續核對。以報價流程為例,業務人員要先說明需要查詢哪些品項、使用哪些價格欄位,再由 IT 設定允許連線的服務與可讀取的資料範圍,避免為了測試方便,就開放整份客戶資料。

  • 允許連線的服務與路徑:列出測試需要連線的服務、網域及途中經過的網路設備;如果工作不需要對外查詢,就不應為了方便而開放其他對外連線。
  • 測試使用的憑證:憑證(credentials)是程式用來證明身分的資料,建議另外建立測試專用憑證,並記下由誰負責、何時停用,不要直接沿用正式帳號。
  • 允許讀取的資料:列出可以查詢的欄位與資料範圍,先用不含真實客戶資料的測試資料確認流程是否可行;後續若要擴大資料範圍,須先取得資料負責人的核准。

確認清單後,建議在企業授權的範圍內,實際測試不該放行的操作是否真的會被擋下,包括未經允許的連線是否遭到阻擋、測試帳號是否確實讀不到範圍外的資料。測試人員也應保留結果,因為順利完成報價查詢,只能證明流程可以運作,不能證明系統會擋下其他未經允許的連線與讀取要求。

以 EgentWrX 為例,出網白名單(outbound allowlist)就是允許對外連線的網域清單,平台預設拒絕所有對外連線,再逐一開放允許連線的網域;公司內部資料庫整合則只能讀、不能寫。不過,即使只能讀取,AI Agent 仍可能取得敏感內容。因此,管理者應只開放工作所需的網域,並請資料庫負責人限制可讀取的資料範圍,不能認為設成唯讀就不會外洩。

誰負責檢查正式系統,誰負責核對測試紀錄?

正式系統負責人應另外盤點對外開放的 API,確認外部是否仍能連入舊版內部應用程式,並移除誤放進正式環境的開發憑證。同時,也要檢查存取控制(access control),也就是哪些身分能執行哪些操作、讀取哪些資料,再設定 API 的速率限制,並驗證限制是否生效。這些工作都需要企業自行完成,不能因為導入了平台,就認為已經處理好了。

專案負責人也應在測試計畫中指定由誰負責核對紀錄,事先確認平台、連線對象的 API 與網路設備各自會留下哪些紀錄,以及能否依測試時間與使用帳號互相比對。建議先演練一段查詢流程,確認查核人員能從紀錄中查出實際連到哪裡、存取了哪些範圍的資料,再擴大測試;如果紀錄不夠完整,就先補齊,不要等出事後才找證據。

EgentWrX 提供可匯出的稽核日誌(audit log),讓管理者查核平台操作,也能透過雜湊鏈(hash chain)驗證紀錄的完整性,也就是檢查前後串接的紀錄是否遭到更動。這些紀錄可供查核平台端的操作,但有紀錄不代表能即時偵測異常,也不能取代連線對象與網路設備留下的紀錄。因此,建議先實際演練匯出紀錄與驗證完整性的步驟,確認查核人員能將各端紀錄互相比對。

主管核准測試前,應確認由誰查看紀錄、遇到什麼情況必須停止測試,以及誰有權核准恢復測試。如果出現原先沒有預期的連線,或存取了允許範圍以外的資料,建議由指定人員停止測試並妥善保存紀錄;等 IT 與資安人員查明原因、重新確認限制有效後,再由負責人決定是否恢復測試。

常見問題

有隔離測試環境,就能放心讓 AI Agent 執行工作嗎?
不能,還要實際確認連線與資料存取的限制是否有效。建議在授權範圍內,確認未經允許的服務確實無法連線、測試帳號讀不到範圍外的資料,並請正式系統負責人檢查開發憑證是否仍能通過驗證,不能只看環境名稱就認定安全。
把資料庫設成唯讀,就足以防止測試時資料外洩嗎?
不夠,唯讀只能限制修改資料,敏感內容仍可能被讀取。建議先用不含真實客戶資料的測試資料,再依工作需要限制可讀取的欄位與資料範圍;如果需要擴大範圍,應先取得資料負責人的核准。
測試期間應該核對哪些紀錄?
建議核對平台稽核日誌、連線對象的 API 存取紀錄與網路連線紀錄。由於各端記錄的內容不同,測試前應指定人員確認能否依時間與帳號互相比對;若發現原先沒有預期的存取行為,應先停止測試並妥善保存紀錄,再追查原因。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證