購買担当者が AI Agent に相見積もり資料の整理や支払条件の確認を依頼し、支払伝票を作成してもらう。上司がシステムを開いて承認しようとすると、しばしば一つの難題に直面します。必要なデータがすべて揃っているなら、最後の確認ボタンを押して支払いを実行する作業まで AI Agent に任せてもよいのでしょうか。答えが単に「任せてもよい」または「任せてはいけない」の二択しかないのであれば、権限の区分が粗すぎるということです。問題が発生した際に、誰が責任を負うべきかも明確にできません。
TechOrange の報道によると、JPモルガン・チェース、チャールズ・シュワブ、シティ、バンク・オブ・アメリカは、外部の AI Agent による顧客口座の操作を制限しています。各社の対応は異なりますが、概して情報の照会と資金の移動を分離しています。バンク・オブ・アメリカはさらに、資金を外部へ送金する前に、人が承認に関与すべきだと主張しています。これは企業にとって明確な示唆となります。AI Agent が資金を扱う場合は、読み取り専用（read-only）、下書きの作成、承認、実行のそれぞれに必要な権限を明確に分けたうえで、どの段階まで自動化するかを決める必要があります。
支払いを5つのステップに分解してから権限を割り当てる
企業は、AI Agent に支払いを任せられるかどうかを急いで議論する必要はありません。まず現在のプロセス全体を可視化し、含まれる作業を一つずつ分解するとよいでしょう。仕入先からの請求を例にすると、照会、提案、支払いの下書き作成、承認、実行という5つのステップに分けられます。照会では、発注書、検収記録、買掛金データを読み取ります。提案では、支払条件、支払期日、割引を照合します。下書きの作成では、受取人、口座番号、金額、支払日を入力しますが、まだ支払いは実行しません。その後、権限と責任を持つ担当者が承認し、実行の段階に進んで初めて、資金が会社の口座から移動します。
この5つのステップで同じ権限を共有すべきではありません。AI Agent が最初の3ステップのみを担当するのであれば、承認権限や送金権限を付与する必要はありません。また、承認者も、AI Agent がすでにデータを整理しているからといって要約だけを確認し、振込先口座、金額、証憑の確認を省略してはいけません。同じ主体が支払データの作成に加えて、承認と実行まで行えるのであれば、本来の職務分掌は形骸化し、事後にどのステップで問題が発生したのかを特定することも困難になります。
チームはまず一つの支払プロセスを選び、この5つのステップを図示したうえで、各ステップの横に次の事項を明記するとよいでしょう。どのデータを読み取れるのか、どの項目を追加できるのか、誰が承認権限を持つのか、最終的にどのシステムから支払いを実行するのか。この4点を現時点で明確に説明できないのであれば、AI Agent に実行権限を付与すべきではありません。
どのような場合に処理を停止し、人の確認を待つべきか？
人による承認を、プロセスの最終段階だけに設定してはいけません。金額が部門の承認限度額を超えている、振込先口座がマスターデータと一致しない、請求書や検収データに不備がある、初めての支払先である、または AI Agent が取得したデータ同士に矛盾がある場合、プロセスを停止し、指定された担当者が原本書類とデータの差異を確認できるようにする必要があります。承認画面には、承認者が判断するために必要な情報を表示し、単に「承認」ボタンを配置するだけでは不十分です。
また、チームはあらかじめ、次の3つのケースへの対応を明文化しておく必要があります。承認後はどのステップに進むのか、差し戻し後は誰が不足データを補完するのか、一定時間内に誰も対応しなかった場合は今回の支払いを取り消すのか。これらを決めておかなければ、人による承認を設定していても、実際の運用では支払いを急ぐあまり、メール、メッセージアプリ、手入力などに切り替えられ、結果として誰にも管理されていない新たな支払経路が生まれるおそれがあります。
EgentWrX では、複数のタスクをワークフローとして連携し、次の担当者へ引き継ぐ前に人による承認を設定できます。AI Agent が前半の作業を完了すると、プロセスはいったん停止し、担当者が確認して処理の継続を許可するまで待機します。第1段階では、AI Agent が社内ネットワーク経由で必要なデータのみを読み取り専用で照会できるようにすることを推奨します。外部への接続はデフォルトで無効にし、審査済みの必要なドメインだけに接続を許可します。承認条件、差し戻し時の対応、異常時の通知がすべてルールどおりに機能することを確認してから、後続の権限を追加するかどうかを検討します。
問題発生後に、誰が何をしたのかを確認できるか？
支払プロセスに残す記録は、「成功」または「失敗」だけでは不十分です。企業は、AI Agent がどのデータを読み取ったのか、どのバージョンの支払い下書きを作成したのか、どの書類を根拠に提案したのか、誰がいつ承認したのか、そしてシステムが最終的にどの取引を実行したのかを保存する必要があります。データに不備があった場合は、その時点で AI Agent が実際に参照できた内容も保存しなければなりません。そうしなければ、後から確認できるのは支払いの結果だけとなり、問題の原因が元データ、判断ルール、人による承認、システム連携のどこにあったのかを特定できません。
記録方法を設計する際には、各部門の責任も併せて明確にする必要があります。事業部門は支払条件と例外ルールの確認、財務部門は承認権限と実行権限の管理、IT・情報セキュリティ部門は本人認証、接続範囲、記録の保存を担当し、監査部門は定期的にサンプルチェックを行います。また、企業はツールの調達時や契約締結時に、ベンダーがどこまで責任を負うのかを確認する必要があります。少なくとも、問題発生時にどのような記録を提供できるのか、調査をどのように支援するのか、誰がこれらのデータにアクセスできるのかを明確にしておくべきです。
EgentWrX の監査ログでは、AI Agent が行った操作を記録し、ハッシュチェーン（hash chain）によって記録が改ざんされていないかを検証できます。管理者はエクスポートセンターからデータを出力し、情報セキュリティ部門や監査部門による確認に使用することもできます。導入チームはまずテスト用の支払いを使い、通常処理、差し戻し、異常処理の各フローを最後まで実行するとよいでしょう。各ステップで操作者、承認者、その時点で使用されたデータを確認できることを検証してから、実際の資金を扱わせるかどうかを判断します。
よくある質問
AI Agent にインターネットバンキングのアカウントとパスワードを直接与えてもよいですか？
個人のアカウントとパスワードを AI Agent に渡すことは推奨しません。企業は、管理された認証とシステム接続を利用し、照会、下書き作成、承認、実行の権限を個別に設定する必要があります。第1段階では、必要なデータへの読み取り専用アクセスだけを許可し、AI Agent が担当者のアカウントを直接使用して支払いを操作することは避けるべきです。
少額の支払いであれば、人による承認を省略できますか？
金額が少ないという理由だけで、人による承認を省略することは推奨しません。チームは金額、支払先、データの完全性、例外の有無に応じて、異なる確認方法を採用できます。ただし、その場合でも責任者を指定し、サンプルチェックとプロセスを即時停止できる仕組みを維持する必要があります。本番稼働前には、リスクの低いテスト用の支払いを使って、ルールが実際に機能するかを確認すべきです。
人による承認画面には、どのようなデータを表示すべきですか？
承認画面には少なくとも、受取人、口座番号、金額、支払理由、原本の証憑、例外に関する警告を表示する必要があります。AI Agent がデータを変更した場合は、変更前後の差分と変更の根拠も表示し、上司が要約だけを見て承認するのではなく、各項目を確認できるようにします。
支払いで問題が発生した場合、誰が責任を負うべきですか？
企業は本番稼働前に責任を分担し、問題が発生してから議論することがないようにすべきです。事業部門はルールと証憑の確認、財務担当者は承認、IT・情報セキュリティ部門は認証と接続の管理を担当します。ツールベンダーは契約に基づき、必要な記録の提供と調査支援を行います。各担当者が行った操作は、すべて記録として残す必要があります。
参考資料
- 米国の銀行・証券会社が AI Agent による顧客資金の移動を制限：JPモルガン・チェース、チャールズ・シュワブ、シティはどのように境界線を定めているのか？ — TechOrange が、米国の大手銀行による外部 AI Agent の情報照会、口座操作、資金移動に関する制限をまとめた記事。
