← 返回觀點
/智慧方案FDE團隊

AI Agent 寫的程式能跑,為什麼還不算符合規範?

AI Agent 寫的程式能跑,也可能用了錯的 API 或漏掉文件要求。這篇說明如何把規則做成技能、在哪些節點等待人員放行,以及事後該查哪些紀錄。

AIEgentWrX人機協作導入
AI Agent 寫的程式能跑,為什麼還不算符合規範?

資訊部請 AI Agent 修改程式,測試全數通過,主管也準備簽核;不過,資深工程師重新檢查後才發現,AI Agent 呼叫了公司不准使用的應用程式介面(application programming interface,API)。程式雖然可以執行,採用的方法卻違反內部規範。如果團隊驗收時只問「做完了嗎」,這類問題很可能要到交付後才會被發現。

微軟近日開源 Scope 評測平臺,讓不同的 AI 程式開發工具執行指定任務,檢查這些工具是否正確使用軟體開發套件(software development kit,SDK)、API 與其他相關工具。平臺會保存模型、版本、工具設定、操作紀錄及測試結果。不過,即使設定完全相同,每次執行的結果仍可能不一樣,自動檢查也可能出錯,因此微軟建議重複測試,並安排人員查看操作紀錄。這則消息直接提醒企業:驗收 AI Agent 時,除了檢查結果,也要確認它是否按照規則執行,並留下可供查核的完整紀錄。

先把「怎麼做才算合規」寫成可以逐項檢查的條件

公司規範如果只寫「依照標準流程處理」,人員遇到不清楚的地方還能回頭詢問,AI Agent 卻沒有足夠明確的依據可以判斷。以採購比價為例,「完成比價」只說明最後要交出什麼,卻沒有交代可以查哪些供應商資料、哪些欄位必須逐項核對,以及資料不齊時應該停止還是繼續處理。規則寫得不夠清楚,即使最後產出一份格式完整的比較表,主管也無法確認整個執行過程是否符合要求。

因此,完成標準至少要說清楚三件事:可以使用哪些資料與工具、禁止採用哪些做法,以及系統要根據哪些條件判定任務已經完成。如果檢查項目有先後順序,也要明確寫出彼此的關係。例如,先確認程式成功建置,再檢查 SDK 初始化及整合測試(integration testing),才不會因為後面的測試通過,就忽略前面已經發生的錯誤。這些條件不必一開始就涵蓋所有例外,但每一條都要明確到能讓審查者決定「通過」或「退回」,不能只憑個人感覺。

團隊可以先整理五類最常見的 SDK、API 或工具誤用情況,逐項寫下適用情況、允許與禁止的做法,以及判定條件,再挑一項常見任務試跑。如果開發人員與資安人員對同一條規則有不同解讀,就先把規則寫清楚,再擴大交給 AI Agent 執行。

相同規則要能反覆套用,遇到模糊或高風險的情況則要由人員放行

規範即使放進文件庫,也可能因為提問方式或前後文不同,導致 AI Agent 沒有套用到該用的規則。企業如果希望 AI Agent 每次遇到相同情況,都能按照同一套方法處理,就應該把資深同仁的判斷整理成技能(AI Skill),寫清楚何時適用、要按照哪些步驟執行、哪些事情不能做,以及遇到哪些情況必須退回。規則更新後,團隊也要保留不同版本,並使用相同任務重新測試,才能確認錯誤是偶爾發生,還是修改後仍然一再出現。

在 EgentWrX 中,企業可以把資深同仁的判斷寫成 AI Skill,讓 AI Agent 遇到符合條件的情況時使用。同事自行建立的技能如果要提供全公司使用,必須先經過後台審查。審查時不能只看文字是否通順,開發與資安人員還要共同確認使用哪些工具、可以存取哪些資料,以及哪些做法明確禁止,確認通過後才能發布給其他人使用。

技能可以讓 AI Agent 按照固定方法執行,但不可能事先列完所有例外。流程需要存取內網資料或變更權限時,以及規則不夠明確時,還是應該交由指定人員確認。EgentWrX 可以在任務工作流交棒前設定人工核可;AI Agent 完成前一段工作後,流程會先停下來,等待人員確認後才繼續。核可條件也要寫得具體,包括要查看哪一份依據、誰有權批准,以及遇到什麼情況必須退回,否則簽核很容易流於形式。

試辦時,可以先畫出一項現有流程,標出每次交棒時要接收哪些資料、交出哪些結果,再把各個環節分成三類:可以自動執行、必須人工核可、完成後由人員抽查。接著,為每個核可點指定負責人並寫清楚退回條件,不要為了追求全程自動化,就拿掉必要的人員判斷。

保存紀錄之外,還要能還原當時的執行過程

AI Agent 出錯後,如果團隊只留下「成功」或「失敗」,就很難查明問題出在規則、工具選擇、自動檢查,還是人工核可。可以用來查核的紀錄,至少要能串起當時使用的模型與版本、工具設定、執行步驟、測試結果及核可動作。文件或工具修改後,再用同一項任務重新測試,團隊才有辦法比較修改前後的差異。

不過,有紀錄不代表紀錄裡的判定一定正確。自動檢查可能把不符合條件的結果列為通過,人員也可能漏掉關鍵步驟,因此企業仍然要安排抽查。建議把執行失敗與人工退回的案件列入異常檢討清單,先查看 AI Agent 做過哪些操作、引用哪一版規則,以及從哪一步開始偏離要求,再決定要修改技能、工作流或完成條件。如果沒有固定的檢查項目,留下再多紀錄,也只會增加日後查找的時間。

EgentWrX 的稽核日誌涵蓋 55 種資源類型,可以透過雜湊鏈(hash chain)驗證紀錄是否完整,也可以從匯出中心匯出;就連管理者下載稽核紀錄的動作,也會一併留下紀錄。這些機制讓 IT、資安與稽核人員有資料可以查,但企業仍要先決定由誰負責查看、多久抽查一次,以及發現差異後由誰修正規則。

第一輪驗證可以從一項常見任務開始,要求團隊根據紀錄回答四個問題:AI Agent 是按照哪一版規則執行、使用了哪些工具、由誰核可,以及如何驗證紀錄的完整性。只要其中一題答不出來,就要回到對應的技能、核可點或日誌設定補齊,再考慮擴大使用範圍。

常見問題

程式已經通過測試,就代表 AI Agent 符合公司規範嗎?
不能。測試通過只能證明結果符合部分條件,無法證明 AI Agent 使用的是公司指定的 API、SDK 或工具。驗收時還要比對規則版本、工具設定及操作紀錄,確認執行方法也符合公司要求。
哪些 AI Agent 操作應該安排人工核可?
需要存取內網資料或變更權限時,以及交棒點的規則不夠明確時,應優先安排人工核可。團隊也要寫清楚由誰核可、要查看哪些依據,以及遇到什麼情況必須退回,讓審查者知道該檢查什麼,避免每一步都要簽核,或最後只是形式上按下同意。
同一設定要重跑幾次,才能判斷問題是否反覆發生?
沒有一個適合所有任務的固定次數。建議先固定任務、模型版本、工具設定及完成條件,執行多次後再比較同一種失敗是否反覆出現;企業可以根據任務風險與每次結果的差異,訂出自己的測試次數與人工抽查方式。
稽核紀錄至少要保留哪些內容?
至少要能查到規則版本、模型與工具設定、操作步驟、測試結果,以及人工核可紀錄。團隊也要確認紀錄可以匯出,並且能夠驗證是否完整,發生異常時才能還原執行步驟,找出需要修改的規則或工作流。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。