系統畫面寫著「建議」,主管卻要求每個單位照單執行;同仁若選擇不同做法,還得額外說明,甚至擔心影響考核。這時,AI 建議在組織裡已經很難被當成參考。台灣企業把 AI Agent 用於業務報價、採購比價、品管判定或客服處理時,也可能遇到同樣的情況。
AI 輸出究竟是建議還是要求,取決於實際流程如何分配決策權。企業要先說清楚誰能拒絕建議、誰負責核准,以及拒絕後會不會影響考核、簽核速度或後續作業,再談模型準不準。只要同仁沒有合理拒絕的空間,「人工決定」就可能只剩下畫面上的按鈕。
AI 建議何時已經變成實質要求?
數位時代整理《路透》的調查指出,麥當勞使用機器學習(machine learning)分析門市交易,依各店、各品項提出價格建議,參考因素包括當地顧客的價格敏感度、付費意願及競爭業者公開價格。公司表示工具提供建議,加盟主仍可決定最終價格;不過,報導也提到,總部把定價工具納入營運標準,並記錄加盟主偏離建議價的情形。
爭議的重點在管理制度。當組織持續追蹤誰沒有採用建議,偏離紀錄又可能進入考核、續約或主管檢討,即使系統仍顯示「建議」,使用者承受的壓力也會改變決策。反過來說,記錄偏離原因可以協助檢查模型與流程,問題在於紀錄拿來改善系統,還是拿來要求服從。
企業也要釐清,系統算出的「最適」是對誰最有利。總部可能在意整體營收與品牌一致性,門市或通路則直接承擔人力、庫存及租金等成本。當各方的目標與成本不同,同一項建議可能讓某一方受益,卻把風險留給另一方。導入團隊應先列出建議影響的對象、各自承擔的成本,以及系統採用的衡量標準,並檢查偏離建議是否會造成不合理的不利結果。
先畫決策流程,再設定人工核可關卡(human approval gate)
企業可以先畫出從資料輸入、AI 建議、人工審查到實際執行的流程圖,每一步都標明負責角色、可採取的動作與停止條件。這張圖要能回答幾個實際問題:AI 建議是否會自動帶入報價單、承辦人能否修改、修改後由誰核准,以及主管未回覆時,流程會等待、退回,還是照建議執行?
接著,團隊應依風險設置人工核可關卡。例如,業務報價超過授權幅度、採購建議涉及單一供應商、品管結果可能造成整批退貨,或客服方案牽涉賠償時,AI Agent 可以先整理依據並提出建議,但流程必須停下來,等待有核准權限的人作決定。系統也不應把「未回覆」自動視為同意,否則人工核可很容易淪為形式。
拒絕建議的設計同樣重要。同仁應能選擇不同方案並留下理由,例如現場庫存異常、客戶另有合約條件,或資料尚未更新;主管應審查理由與風險,避免只看偏離次數。專案團隊可先挑一條風險明確、決策人清楚的流程試行,實際測試同仁能否拒絕、流程能否停住,以及核准責任是否落在正確職務上。
紀錄要能回答誰決定、為何核准
治理紀錄至少要讓管理、法務與稽核人員查到四件事:AI 當時提出什麼建議、依據哪些資料、人工最後做了什麼決定,以及誰在何時核准。若人工選擇不同方案,也要保留原因與後續結果,這些資料才能用來檢查建議品質、處理內部爭議,並在外部質疑出現時還原決策經過。
權限也要分開。能查看交易資料的人、能調整建議規則的人、能核准結果的人與負責稽核的人,不宜全部由同一角色掌握。若定價系統會參考競爭業者公開價格,並向多個門市或通路提出建議,企業還要讓法務或合規人員審查資料來源、建議方式及使用範圍,因為法律界對相關競爭法風險仍有不同見解。
EgentWrX 可以把任務串接成工作流程,並在交棒前設定人工核可,讓流程停下來等人放行;平台也能依組織分層設定誰可執行、查看與管理,並保留可查驗的稽核紀錄。導入團隊仍須自行定義核准條件、角色責任與紀錄用途,平台提供的是執行治理規則的機制。
正式上線前,專案負責人應找一筆可控的測試案件,分別演練採用、修改與拒絕 AI 建議,確認三條路徑都能完成,且不會因拒絕而卡住後續工作。若團隊無法從紀錄中找出決策人、核准依據與執行結果,就先補齊流程與權限,再擴大使用範圍。
