← 返回觀點
/智慧方案FDE團隊

採購用 AI 比價,出錯或停用時如何繼續下單?

澳洲關鍵基礎設施指引建議,業者保留人工方式,避免 AI 故障影響必要作業。先備妥查核依據與替代流程,再分別演練建議有誤和工具停用。

AIEgentWrX人機協作導入
採購用 AI 比價,出錯或停用時如何繼續下單?

假設採購同仁正準備送出急件訂單,卻發現 AI 比價時用錯了規格,或平台突然無法使用。這時,主管能不能及時攔下錯誤,讓同仁改查原始報價、完成必要的簽核?如果連處理步驟與所需資料都只能透過 AI 取得,即使文件寫著可以改由人工處理,同仁仍可能無法繼續工作。

智慧方案認為,企業驗收 AI Agent 時,應該分別測試建議出錯與工具停用這兩種情況。建議出錯時,要確認人員能找出問題、阻止後續作業繼續執行;工具停用時,則要確認同仁不靠 AI,也能完成事先指定的必要工作。只確認 AI 在正常情況下能產出答案,還不足以知道出問題時該怎麼辦。

要能改由人工處理,先說清楚哪些工作不能停

iThome 報導,澳洲內政部轄下的主管機關更新了關鍵基礎設施風險管理計畫指引,將 AI 的營運風險納入考量。主管機關指出,決策支援工具若給出錯誤建議、發生故障或遭攻擊者濫用,可能影響關鍵服務,也可能造成敏感資訊外洩,因此建議人員先確認建議是否正確,再採取行動,同時保留人工處理的方式。

這份指引針對澳洲的關鍵基礎設施,報導未說明臺灣企業是否適用,也沒有提供改善成效的數據。因此,我們建議企業參考其中的檢查方向,先由業務主管列出故障期間仍必須完成的工作,再請 IT 確認需要哪些條件才能做到,不要直接拿外國指引來認定公司是否符合法規。

以採購比價為假設情境,主管可以先訂下要求:急件仍須核對規格、確認交期並取得核准,非急件的分析報告則可以延後。接著列出哪些步驟有 AI 參與、出錯會影響哪些人,以及哪些步驟即使沒有 AI 建議,人員仍能根據手上的資料完成。可以先選一項關鍵作業,寫清楚故障期間做到什麼程度才算完成、最多可以等多久,讓 IT 知道要測試哪些項目。

人工核可要查什麼,不能只寫主管同意

如果要求人員先確認再執行,就要把具體的查核項目寫進操作程序。例如,採購主管核准比價結果前,應該拿得到供應商的原始報價、適用規格及交期條件,才能逐一核對 AI 整理的內容;如果只能看到整理後的結論,就無法自行查證。

負責核可的人也需要知道,遇到規格不一致或資料不足時,該退回哪個步驟、請誰補充資料,以及資料補齊前有哪些事情不能繼續做。建議由熟悉這項作業的人負責核可,同時安排代理人,避免主要承辦人不在時,其他同仁因為急著完成工作而略過檢查。

EgentWrX 的工作流(workflow)可以讓幾個任務依序執行,並在進入下一個任務前設定人工核可,讓流程暫停,等人員核准後再繼續。這項機制讓人員有機會在執行前確認內容,不過,有人核可不代表內容一定正確,也不能取代企業在 AI 無法使用時的人工處理程序。因此,設定哪些步驟需要核可時,也要寫清楚應核對哪些資料、什麼情況要退回,以及由誰負責,再刻意放入有錯誤的建議,測試人員能否發現並攔下問題。

AI 停用後,同仁還拿得到資料嗎?

要能改由人工處理,就得確認同仁在 AI 無法使用時,仍拿得到操作程序與必要資料。建議企業準備不必透過 AI 平台就能開啟的文件與表單,標明由誰維護、何時更新,並請承辦人實際確認自己能否開啟;如果使用的是資料副本,也要寫清楚如何辨認版本,避免拿過期報價繼續作業。

另一方面,IT 應畫出 AI 平台、內網資料庫、外部服務與既有作業系統之間的連線圖,逐一記錄每條連線的用途、需要讀取或寫入哪些資料、由誰負責,以及中斷後會影響哪些工作。例如,停用 AI 連線後,採購人員是否還能登入原有系統查詢訂單?如果查詢仍須經過同一個已停用的服務,就得先解決這個問題,人工處理才能繼續。

以 EgentWrX 為例,平台可以透過內網連線讀取公司資料庫,其中的公司內部資料庫整合只能讀取、不能寫入;出網白名單(allowlist)則預設拒絕所有對外連線,企業必須逐一放行需要連線的網域。這些設定可以限制存取範圍,不過,企業不能因此就認為已做好網路隔離(network isolation),或認定關鍵系統不靠 AI 也能運作。仍應請 IT 在能控制影響範圍的環境中停用 AI 相關連線,實際確認原有系統與人工流程還能完成哪些工作。

上線前,分別演練建議出錯與工具停用的情況

建議業務主管與 IT 一起安排演練,事先約定要用哪些資料、允許影響哪些作業,以及演練後如何恢復,避免直接中斷正式作業。驗收紀錄也要寫清楚人員實際完成了哪些工作,不能只勾選已有備援文件。

第一場演練可以提供規格弄錯或漏列條件的比價建議,觀察負責核可的人是否查閱原始資料、找出錯誤並停止後續處理。如果核可的人看不出問題,就要調整查核清單,或補齊查核所需的資料,不能只是多加一道簽名。

第二場則讓承辦人在無法使用 AI 的情況下,依照既定程序完成必要作業,同時確認由誰宣布改用人工處理、由誰接手,以及每個步驟應留下哪些紀錄。系統恢復後,也建議指定人員核對改用人工期間已完成的工作,避免重複送出訂單,或漏掉尚未處理的事項。

下一次上線會議,可以帶著這兩場演練的結果,討論哪些資料還是只能透過 AI 取得、要由誰處理,並決定哪些作業暫時不交給 AI,以及修正後何時再測試。主管應根據演練中實際完成的工作決定上線範圍,不能只看正常情況下的展示就核准。

常見問題

設了人工核可,就足以處理 AI 出錯或停用的風險嗎?
不夠,還要備妥原始資料、列出查核項目並訂好退回方式,才能實際測試人員是否攔得下錯誤。而且平台停用時,可能連核可流程都無法開啟,因此企業還要另外演練不靠 AI 的人工處理方式。
人工備援應該先準備哪些東西?
先準備不必透過 AI 平台就能取得的操作程序、必要資料與接手人員名單,並指定誰能宣布改由人工處理。接著請實際承辦人照著文件完成必要作業,確認資料版本正確、權限足夠,代理人也能接手,再修正演練中遇到的問題。
澳洲這次更新的指引,臺灣企業也必須遵守嗎?
不能直接認定適用,這篇報導談的是澳洲關鍵基礎設施指引,沒有說明臺灣企業是否適用。企業可以先透過人工查核與備援演練,檢查自己的流程是否可行;至於法規要求,仍應請負責法遵的人員確認公司適用哪些規範。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證