POC は通常、それほど難しくありません。課題が明確なプロセスを1つ選び、協力的な同僚を2、3人集めれば、2週間以内に実用可能な AI Agent を構築することは、多くの企業で実現できます。難しいのはその先です。最初の1体が30体に増え、ユーザーが3人から3部門へ広がったとき、初めて管理上の問題が表面化します。しかも、それらは技術的な問題ではありません。
誰が Agent を構築できるのか、誰が自分の方法を全社に展開できるのか、今月いくら使ったのか、先週の誤った出荷通知はどのステップで判断されたのか。POC の段階では、これら4つの問題はいずれも存在しません。担当者がすぐそばで見守っているからです。しかし規模が拡大すれば、監視する人手が足りなくなります。
課題1：誰が構築でき、誰が停止できるのか
最初の Agent は通常、熱心な同僚の誰かが構築します。しかし10体目あたりから、非常に現実的な問題が浮上します。その人が退職した場合、その人が構築したものは誰に帰属するのでしょうか。
EgentWrX では、Agent を「個人」ではなく「職務」にひも付けます。リストの1行が「所有者＋職務」の組み合わせに相当します。この設計の利点は引き継ぎにあります。職務が存続する限り、Agent も存続します。
権限は、変更できない読み取り専用の5つの組み込みロールに分けられます。所有者、管理者、部門責任者、部門メンバー、閲覧専用メンバーです。実務上、リスクの大きさを左右するのは権限項目の数ではなく、その適用範囲です。部門単位のロールでは、自部門とその配下の部門だけを閲覧できます。複数拠点や複数事業部を持つ企業では、まずこの項目を設定すべきです。
各 Agent のサブエージェント数は、デフォルトで最大8体です。上限に達すると追加に失敗しますが、エラーメッセージは表示されません。導入初期に「追加できない」という声が出た場合は、まずこの数値を確認してください。Agent は増えるほど制御が難しくなります。この点については、AI Agent を増やしても、できることが同じだけ増えるとは限らないでも解説しています。
課題2：個人のやり方を、どう全社のやり方に変えるか
POC で最も一般的な成果は、Agent そのものではありません。経験豊富な社員が、自身の判断ロジックをルールとして記述したことです。次に問われるのは、そのルールを展開すべきか、そして誰にその正しさを判断する資格があるかという点です。
EgentWrX では、これを2つの段階に分けています。社員はフロント画面で自らスキルを作成できますが、全社へ展開するには、管理画面のレビューキューで承認を受けなければなりません。このゲートの目的は、プロセスを増やすことではなく、「個人の習慣」と「会社のルール」を切り分けることにあります。前者は本人の Agent に残し、後者だけをスキルライブラリへ登録します。
メモリは自動的に蓄積されるため、より厳格に管理されます。書き込みポリシーは適用範囲に応じて段階化されています。ユーザー自身の Agent の範囲であれば直接登録され、部門範囲ではレビューが必要です。全社範囲へ昇格する場合は、メモリタイプに応じてレビューと承認の2段階に分かれます。また、ポリシー表の設定に左右されない固定の例外があります。個人情報を含むメモリはすべて隔離されます。
ナレッジベースにも境界があります。データの保存範囲には、部門、プロジェクト、Agent の3種類があります。その違いが現れるのは、担当者が退職した後です。部門範囲に保存されたデータは、担当者が退職しても消失しませんが、個人の Agent 範囲に保存されたデータは消失します。退職後のデフォルト保持期間は90日です。また、保持データのクリーンアップは実行後に元へ戻せません。そのため、退職手続きでは、まず所有権を移管し、その後でクリーンアップするのが正しい順序です。
課題3：発生したコストを、誰が監視するのか
EgentWrX の予算管理は、テナント、部門、メンバー、Agent の4層で構成されます。いずれかの層が先に上限へ達した時点で、処理がブロックされます。ここには、設定の細部に隠れた2つの落とし穴があります。
上限を設定するだけでは、アラートしか機能しません。 各層の「トリガー時の動作」で「ブロック」を選択して初めて、処理が実際に停止されます。選択しなければ、上限を使い切ってもアラートが送信されるだけで、処理はそのまま継続します。アラートのデフォルトしきい値は80％です。
AI 認証情報の予算は、5つ目のゲートではありません。 超過しても処理はブロックされず、レポートに反映されるだけです。実際にゲートとして機能するのは、前述の4層です。
長時間実行される処理には、変更できない3つの固定値もあります。60分経過時に続行するかを確認し、続行後の上限は90分、1件の処理に対するコスト上限は3米ドルです。実務上、これが1回の実行で発生し得るコストの上限となります。
課題4：問題発生時、そのステップまで追跡できるか
この問いが左右するのは効率ではありません。重要な業務プロセスに AI Agent を組み込めるかどうかです。
EgentWrX の監査ログは55種類のリソースを対象としており、「整合性を検証」する機能によってハッシュチェーン全体を再計算できます。セキュリティ審査の場で相手に実際の検証操作を見せ、その記録をエクスポートセンターから提出することも可能です。顧客のセキュリティ担当者にあらかじめ説明しておく価値のある点として、管理者が監査記録をダウンロードした操作自体も監査ログに記録されます。
3つの制約は、顧客が実際に直面してからではなく、事前に説明すべきです。ワークフローの「引き継ぎ前に人による承認を必須とする」という設定は、後から追加できません。接続を作成した後は、いったん削除して作り直すしかないため、判断に迷う箇所には最初から設定しておくべきです。全社の承認待ち接続を一覧表示できる画面はありません。概要画面の数値で件数を把握した後、ノード図を1件ずつ開いて確認する必要があります。そのため、「誰が定期的に確認するか」を人の責任として明文化しなければなりません。定期タスクは5回連続で失敗すると自動的に一時停止されます。一時停止後は自動復旧しないため、手動で再開する必要があります。
ワークフローには実行時の保護機能もあります。ブロックされた場合、それは通常、プロセス設計に問題があることを意味します。上限値を引き上げることは解決策になりません。この層は、プラットフォームの実行フレームワークそのものです。AI Agent プラットフォームを選ぶとき、使用モデルだけを尋ねてはいけないでは、モデル選択以上にこの層が信頼性を左右する理由を詳しく解説しています。
コンプライアンス対応のスケジュールはすでに進んでいる
前述の4項目への対応は先送りできますが、EU のスケジュールは待ってくれません。
EU の「人工知能法」（EU AI Act）は2024年8月1日に発効し、義務が段階的に適用されています。欧州委員会が公表したスケジュールでは、禁止規定と AI リテラシー義務は2025年2月2日から、ガバナンス規則と汎用 AI モデルに関する義務は2025年8月2日から適用されています。法律の一般適用日は2026年8月2日です。高リスクシステムの期限は、2026年の法改正（Digital Omnibus）によって後ろ倒しされました。欧州委員会のページには現在、特定の高リスク分野に属するシステムは2027年12月2日から、規制対象製品に組み込まれた高リスクシステムは2028年8月2日から適用されると記載されています。
このうち2つの義務は、導入者、つまり AI を利用する企業に課されます。供給者だけの責任ではありません。
AI リテラシー（第4条）。 条文では、AI システムの提供者と導入者に対し、「自社のスタッフおよび自社を代表して AI システムを操作・利用するその他の者が十分な AI リテラシーを備えることを確保するため、可能な限りの措置を講じる」よう求めています。また、対象者の技術的知識、経験、教育、訓練、およびシステムの利用状況を考慮することも要求しています。この条項は、すでに2025年2月から適用されています。
人による監視とログの保持（第26条）。 第2項は、導入者に対し、「必要な能力、訓練、権限を有し、必要な支援を受けられる自然人に、人による監視を割り当てる」ことを求めています。第6項は、高リスク AI システムが自動生成したログを、システムの意図された目的に見合う期間、かつ少なくとも6か月間保持することを求めています。
これは EU の法規制であり、自社に直接適用されるかどうかは、AI システムまたはその出力が EU 市場に入るかによって個別に判断されます。ただし、台湾の製造業にも直接関係する点が2つあります。欧州の顧客がコンプライアンス要件を調達条件へ盛り込んだ場合、ロール権限、人による承認、監査記録を提示できなければなりません。また、監査アンケートではすでに共通言語が使われています。米国 NIST が公表した「AI リスクマネジメントフレームワーク」（AI RMF 1.0）は任意採用ですが、ガバナンス、マッピング、測定、管理という4つのコア機能は、多くの顧客アンケートの構成として採用されています。
Anthropic が Claude Enterprise の発表時に挙げた企業向けコントロールも、シングルサインオンとドメイン管理、ロールベースのアクセス権限、監査ログ、SCIM という同じ組み合わせです。
ガバナンスはポリシー文書ではなく、設定可能なパラメーターである
多くの企業にとって、AI ガバナンスとは1つの文書です。しかし文書では、上限を超える API 呼び出しを止めることも、誰かが個人情報を共有メモリへ書き込んだ際にブロックすることもできません。
プラットフォームがガバナンスを担えるかどうかを判断するには、次の3点を画面上で設定し、記録として残せるかを確認します。誰が何をできるのか（アカウントとパスワードだけでなく、ロールと適用範囲）、どの操作に人の承認が必要か（プロンプト内で注意を促すだけではないこと）、実行された操作を追跡できるか（さらに、その記録自体を検証できること）です。EgentWrX では、それぞれ管理画面のロール権限、スキルのレビューキューとメモリ書き込みポリシー、4層の予算管理、監査チェーンとエクスポートセンターに対応します。
順序も重要です。第二段階で直面する問題の多くは、第一段階で境界を設定しなかったことに起因します。30体の Agent を導入した後に、誰にどの権限を与えるべきだったのかを逆算するよりも、組織とロールを最初に設定するほうがはるかに容易です。これが、Intellicon Solutions が導入プロセスをシードチームと組織統合の2段階に分けている理由です。FDE 方法論では、同じテーマの前半部分を扱っています。
POC が証明するのは、技術的に実現可能であることです。第二段階で証明すべきなのは、それを適切に管理できることです。
よくある質問
EU AI Act はいつから自社に適用されますか？
EU の「人工知能法」は2024年8月1日に発効し、一般適用日は2026年8月2日です。禁止規定と AI リテラシー義務はそれより早く、すでに2025年2月2日から適用されています。高リスクシステムについては、2026年の法改正後、期限が2027年12月2日と2028年8月2日に延期されました。自社に直接適用されるかどうかは、AI システムまたはその出力が EU 市場に入るかによって個別に判断されます。直接適用されない場合でも、欧州の顧客が同等の要件を調達条件へ盛り込む可能性があります。また、第4条の AI リテラシー義務は、提供者と導入者の双方を対象としています。AI を利用する企業自身にも責任があり、すべてを供給者に委ねることはできません。
AI の操作記録はどのくらいの期間、保持する必要がありますか？
EU AI Act 第26条第6項は、高リスク AI システムの導入者に対し、システムが自動生成したログを、意図された目的に見合う期間、かつ少なくとも6か月間保持することを求めています。実務上は、法令上の最低期間より長く設定することを推奨します。監査や顧客による審査では、半年以上前まで遡ることが少なくないためです。
社員が自分で AI Agent を構築してもよいのでしょうか？会社による管理は必要ですか？
構築は可能ですが、2つのケースを分けて考える必要があります。個人利用の方法を自分の Agent に残すだけであれば、リスクは限定的です。一方、全社共通のルールとして展開する場合は、レビューを経るべきです。EgentWrX のスキルは、管理画面のレビューキューで承認されなければ展開できません。メモリは適用範囲に応じて段階管理されます。部門範囲ではレビュー、テナント範囲ではレビューまたは承認が必要で、個人情報を含むメモリはすべて隔離されます。
AI の利用コストが制御不能になるのを防ぐには、どうすればよいですか？
上限を設定しただけでは、処理はブロックされません。EgentWrX には、テナント、部門、メンバー、Agent の4層の予算管理があり、いずれかの層が上限へ達した時点で処理をブロックできます。ただし、各層の「トリガー時の動作」で「ブロック」を選択して初めて、処理が実際に停止されます。選択しなければアラートが送信されるだけです。デフォルトのアラートしきい値は80％です。また、「AI 認証情報の予算」はゲートではないため、超過しても処理はブロックされません。
AI ガバナンスは、ポリシー文書とシステム設定のどちらから始めるべきですか？
どちらも必要ですが、先にシステムを設定することを推奨します。ポリシー文書だけでは、実際の操作を1件も止められません。まずロールと適用範囲、人の承認を必要とする操作、監査記録を設定します。その後、それらの設定内容を説明する形でポリシー文書を作成すれば、文書が参照すべき実体を持つことになります。
参考資料
- AI の規制枠組み｜European Commission — 欧州委員会の公式ページ。本記事に記載した AI Act の発効日と段階的な適用日（2026年の法改正後における高リスクシステムの期限を含む）は、すべてこのページに基づいています
- EU AI Act 第4条 — AI リテラシー｜European Commission AI Act Service Desk — 第4条の原文。AI リテラシー義務は、提供者と導入者の双方を対象としています
- EU AI Act 第26条 — 高リスク AI システム導入者の義務｜European Commission AI Act Service Desk — 第2項は人による監視、第6項はログを少なくとも6か月間保持する義務について規定しています
- AI リスクマネジメントフレームワーク｜NIST — AI RMF 1.0。2023年1月26日公表。任意採用で、Govern／Map／Measure／Manage の4つのコア機能で構成されています
- Claude Enterprise の発表｜Anthropic — 2024年9月10日。企業版の機能として、シングルサインオンとドメイン管理、ロールベースのアクセス権限、監査ログ、SCIM が挙げられています