財務部明明核了一筆 AI 預算,IT 也看得到模型用量,月底收到的帳單卻還是超出預期。把業務報價、採購比價或客服回覆交給 AI Agent 後,一個工作流程可能要查詢多個資料來源、呼叫不同模型,遇到錯誤還得重新執行。主管最後看到的只是一份結果,但每次執行的情況不同,背後的費用也會跟著變動。
TechOrange 整理 Mavvrik 與 Benchmarkit 的聯合報告指出,98% 的受調查企業已經追蹤 AI 基礎設施成本,95% 編列了正式預算,但只有 11% 能把預估誤差控制在 ±10% 以內。原文稱調查涵蓋全球 396 家企業,卻沒有交代產業、企業規模與地區分布,因此這些數字適合用來提醒企業留意風險,不宜直接當成台灣企業的成本基準。企業應從部署前就開始管理成本,先算清楚每個工作流程要花多少錢、設定預算上限,讓系統在用量達到上限時直接停止工作流程,再安排異常時的停機方式,並依工作難度選用不同模型。
先算清楚每個工作流程的費用,才知道錢花在哪裡
如果把所有費用都放進同一筆 AI 年度預算,財務部只能看出總支出增加,卻很難查清楚是哪個單位、哪位成員或哪個 AI Agent 超出預算。企業可以改用「完成一次工作」作為計算單位,例如產出一份報價建議、完成一輪採購比價或整理一批客服案件,再把這次工作使用的模型、資料平台、第三方應用程式介面(API)以及失敗後重新執行的費用全部算進去。
之所以要這樣計算,是因為模型費用不一定是最大的一筆支出。報告列出的意外費用來源中,資料平台費用占 47%,高於語言模型 token 費用的 43%。當 AI Agent 頻繁查詢資料庫時,即使每次呼叫模型的價格看起來不高,整段流程加起來仍可能超出預算。如果公司只追蹤 token 用量,就會漏掉查詢資料、安排流程與重新執行所產生的費用。
產品型 AI(Product AI)與工作流程型 AI(Workflow AI)也應分開管理。產品型 AI 會直接影響產品毛利與客戶體驗,因此建議把產品端的運算與 API 支出列入銷貨成本,算清楚每次客戶互動要花多少錢。工作流程型 AI 則用於員工日常工作與公司營運,企業可以計算完成一次任務的費用,再對照省下多少人工處理時間,以及後續還需要多少人工覆核。上線前,專案負責人應先確認:公司能不能分別算出每個功能、每項工作流程和每次客戶互動所產生的費用?
預算要設在實際花錢的位置,超額時直接擋下
總預算仍然有必要,不過企業還要把額度分配到實際花錢的位置。建議依公司、單位、成員與 AI Agent 分別設定上限,並指定各層級的負責人。例如客服單位的用量接近上限時,由單位主管檢查案件量與流程設定;如果特定 AI Agent 的用量突然增加,則由流程負責人先暫停執行並查明原因。
費用告警與攔阻也要分清楚。告警只會通知相關人員,攔阻才會停止新增費用。如果系統只是寄出通知信,半夜還在執行的排程並不會因此停下來,帳單仍會繼續增加。企業可以先設定較早的告警門檻,替負責人保留檢查時間,等用量達到預算上限時就停止執行。如果業務確實需要提高額度,應由有權限的人確認用途、調高的金額與有效期間後,再允許系統繼續執行。
EgentWrX 提供租戶(tenant,也就是整家公司)、單位、成員與 AI Agent 四層預算,只要其中一層的額度用完,EgentWrX 就能擋下後續執行,預設告警門檻為 80%。不過,管理者仍要把超額後的處理方式設定為「擋下」,系統才會真的停止執行。企業導入時,應先設定各層預算並指定超額時的處理人員,在上線前把規則補齊;之後每月再依工作量與完成一次流程的成本調整額度,不要把尚未使用的總預算直接平均分配給各單位。
流程連續失敗就要暫停,模型也要按工作難度分流
原文指出,自動重試與複雜的流程安排,可能讓同一個工作流程第二次執行時,費用增加至原本的 2 倍,甚至超過 10 倍。資料格式改變、內部系統沒有回應或權限設定錯誤,都可能使排程一再失敗。負責人還沒處理完問題就直接恢復執行,只會讓公司為同一個錯誤繼續付錢。
針對例行排程,EgentWrX 會在任務連續失敗 5 次後自動暫停,等人員處理完問題再重新啟動。企業仍應事先指定負責處理異常的人員、保留執行紀錄,並寫清楚重新啟動的條件,例如確認資料來源已恢復、先測試一筆任務並成功完成,再恢復原本的排程。自動暫停是為了替人員保留檢查時間;要不要重新啟動並繼續產生費用,必須由負責人決定。
選用哪一種模型,也會影響整段流程的成本。企業可以先依工作難度,將任務分成判斷難度較高的工作、一般文件處理工作、大量例行工作三類,再分別採用能力最強、效能均衡或速度最快且成本較低的模型。EgentWrX 可以在同一平台管理 Anthropic、OpenAI 與地端模型(on-premises model),並依每則訊息的任務需求切換模型。不過,企業仍應用完整的工作流程測試執行次數與總花費,因為單次對話的價格無法反映資料查詢、工具呼叫與失敗後重新執行的費用。部署前可以先選一項固定流程實測,分別記錄正常執行與失敗時的費用,確認停機、告警與人工處理方式都能正常運作後,再逐步增加使用範圍。



