AI Gateway

AI Gateway: 讓企業在同一個 平台管理所有 AI 應用與呼叫

當各個部門開始使用 AI,各種 AI 服務的金鑰與訂閱(GPT、Claude、Gemini)會散落在不同人手上,費用也缺少統一管理的平台,相關花費往往要等到額度用完或費用報表出來才看得到,AI Gateway 就是為了解決這些狀況。EgentWrX 原生包含這一層管理,同仁和 AI Agent 用哪家模型、用公司哪組憑證、花了多少預算,管理者都能在同一個管理主控台設定和查核。

產品畫面:管理主控台的用量報表,上方是本月逐次付費與訂閱內涵蓋的金額,下方逐筆列出每一次 AI 呼叫的時間、類型、供應商、模型、AI Agent、成員、token 數與金額。
每一次 AI 呼叫用了哪家的哪顆模型、是哪隻 AI Agent 替誰呼叫、花了多少 token,都逐筆記在用量報表裡。畫面中是示範資料。
500+ 家導入 EgentWrX 的企業
200家其中的製造業
10,000+ 支累計上線的 AI Agent
5,000位每週活躍使用者
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證
01

企業為什麼需要 AI Gateway

AI 從少數人試用擴大到全公司之後,模型、金鑰、費用和使用紀錄很容易分散在各部門,資訊部門想統一管理,也不知道該從哪裡開始。

AI 服務的金鑰散落在各部門

各團隊自己向不同的 AI 供應商申請帳號、API 金鑰和訂閱,等到有人離職或調部門,沒有人說得清楚哪些金鑰還在使用、又該由誰收回。

費用難以管控

各部門的 AI 用量沒有統一記錄的地方,花費常常要等到額度用完或費用報表出來才知道,想了解是哪個部門、哪項工作用掉的,只能回頭逐一詢問。

使用紀錄要查得到

誰在什麼時候用 AI 做了什麼、資料送到了哪裡,這些紀錄都要能被查詢,資安稽核或事後追查時,才拿得出完整的證明。

02

EgentWrX 的 AI Gateway 如何運作

同仁和 AI Agent 的每一次模型呼叫,都會先經過 EgentWrX 的 AI Gateway 管理層,由它決定用哪顆模型、用哪組憑證、預算夠不夠、內容能不能送出,同時留下紀錄。

01

多家模型,一個入口

同仁在同一個對話框裡就能選擇 Anthropic、OpenAI、Google 等雲端模型或地端模型,每則訊息都能換,管理者也可以替每隻 AI Agent 設好預設模型,之後模型改版,原本建好的 AI Agent 和技能都不必重做。

選模型

產品畫面:選擇模型的視窗,左側依供應商分成 Anthropic 與 OpenAI,右側列出各模型的定位(最強大、均衡、最快最省)與思考程度。
同仁在同一個入口依供應商挑選模型,能選哪些模型由公司配發的憑證決定。
02

憑證由公司集中配發

AI 供應商的 API 金鑰和訂閱授權都由管理者統一登記,同仁使用時不會接觸到金鑰本身,多組憑證依權重決定先用哪一組,最優先的那組暫時不能用或用到月上限時就改用下一組,要不要開放同仁自帶金鑰也由公司決定。

管金鑰

產品畫面:管理主控台的 AI 憑證清單,列出各部門的 Anthropic、OpenAI、Google 憑證,每組都標示由組織配發、授權方式、狀態、本月花費與月上限的使用比例。
各部門用的憑證集中在一張清單,每組的花費和月上限一眼看得到。畫面中是示範資料。
03

token 預算在花費前擋下

管理者可以替公司、各部門、個別成員與每隻 AI Agent 分別設定 token 預算上限,呼叫送出前,系統會逐層確認額度,任何一層用完就暫停這個範圍內的呼叫,或依設定改為通知管理者。用量報表依供應商、模型與 AI Agent 列出實際花費,財務對帳時可以直接引用。

控成本

產品畫面:管理主控台的單位預算,依組織樹列出公司與各部門的每月上限、本期已用金額、使用進度、觸發行為(擋下或僅告警)與狀態,其中研發中心標示接近上限。
每個部門的每月上限和使用進度排在同一張表,接近上限的部門會先標出來。畫面中是示範資料。
04

個資和金鑰先檢查再送出

同仁送出的訊息和檔案、AI Agent 的回覆,以及從網頁和知識庫讀回的內容,都會依公司政策檢查是否含有身分證字號、統一編號、銀行帳號、信用卡號等個資,命中時可依類別設定為記錄、警告、遮罩或直接攔截。金鑰與憑證則由平台強制攔截,公司無法關閉這項檢查。

防外洩

產品畫面:管理主控台的內容防護政策,上方可切換觀察與執行模式,中間依類別列出要檢查的位置(使用者輸入、Agent 回覆、檔案、工具)與命中時的動作,金鑰與憑證、平台內部資訊標示為平台底線,身分證字號、銀行帳號、健保卡號設為遮罩,信用卡號設為擋下,下方是原文保留天數。
每一類個資要檢查哪裡、命中時遮罩還是擋下,管理者在同一張表設定,標示平台底線的類別不能關閉。畫面中是平台的預設政策。
05

每一次呼叫都留下紀錄

成員、權限、憑證、預算、整合與匯出的每一筆操作都會記入稽核日誌,紀錄以雜湊鏈串接,管理者隨時可以驗證完整性,確認紀錄沒有遭到竄改。AI Agent 可以連線的外部網站同樣由管理者逐一核准,未經核准的網站,AI Agent 無法連線。

可稽核

產品畫面:管理主控台的稽核日誌,逐筆列出政策擋下 AI 呼叫、更新用量預算、輪替 Agent 憑證、核准與封鎖出網網域、下載匯出等事件,以及資源、操作者與結果,右上有驗證完整性與匯出按鈕。
擋下的 AI 呼叫、預算和憑證的異動、出網白名單的變更都記在稽核日誌,按「驗證完整性」就能確認紀錄沒被動過。畫面中是示範資料。
看資安與 ISO 27001 驗證 →
04

AI Gateway 常見問題

AI Gateway 是什麼?
AI Gateway 是企業和 AI 模型之間的一層管理,模型呼叫都先經過它,由它決定用哪家模型、用哪組憑證、能花多少預算並留下紀錄,EgentWrX 原生包含這一層管理,企業內的 AI Agent 不必各自串接模型供應商。
EgentWrX 的 AI Gateway 管得到哪些呼叫?
在 EgentWrX 上運作的對話、任務、例行任務和工作流,都會經過同一層憑證、預算和稽核控管,企業既有的系統要怎麼搭配,可以在諮詢時和顧問一起規劃。
token 預算超過了會怎樣?
設成「擋下」的話,額度一用完就會攔住那個範圍內的呼叫,不必等到月底帳單寄來才發現,設成「僅告警」則照常運作,用量到達告警門檻(預設 80%)時通知管理者。
AI Gateway 能防止個資送進 AI 模型嗎?
可以,EgentWrX 的內容防護會依公司政策檢查同仁送出的訊息和檔案,身分證字號、統一編號、健保卡號這類臺灣常見的個資格式都辨識得出來,命中時遮罩或擋下。被擋下的原文加密保存、到期自動刪除,管理者要查看或放行都得重新驗證身分,每次都記進稽核日誌。
可以只用地端模型,讓資料不出公司嗎?
可以,EgentWrX 支援地端和雲地混合部署,模型也能選擇地端模型,機敏資料就留在公司內部,需要更強的推論能力時,再替特定的 AI Agent 改用雲端模型。
能接公司既有的 SSO 嗎?
可以,EgentWrX 支援 OIDC 單一登入,搭配 SCIM 由公司的身分系統自動開通和停用帳號,群組也能對應到 EgentWrX 的角色和單位,同仁離職當天,使用 AI 的權限就跟著失效。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。

ISO/IEC 27001:2022 資訊安全管理驗證