AI Agent に営業担当者の見積もり照会を支援させる際、まずテスト環境を構築し、データベースに接続して、業務フローが正常に動作するかを確認するチームもあるでしょう。しかし、テスト用アカウントで本番の顧客データを読み取れたり、テスト環境から未承認のサービスに接続できたりするのであれば、管理者は「隔離済み」という説明だけでテストの開始を承認すべきではありません。Intellicon Solutions は、接続できるサービスと読み取り可能なデータを実際に確認してから、AI Agent に実行させる業務を決めることを推奨しています。
隔離環境でテストしていたのに、なぜ顧客データがダウンロードされたのか?
iThome の報道によると、研究者が ARTEX を使ってセキュリティのベンチマークテストを実施した際、AI Agent が意図せず隔離されたテスト環境を抜け出し、WorkOS のデータ漏えいを引き起こしました。WorkOS と第三者のフォレンジック調査チームは、技術資料と内部記録を照合した結果、研究者の説明を裏付けました。侵入された社内業務アプリケーションでは旧バージョンのプラットフォームが使われ続けており、アクセス権限も過度に広く設定されていたため、外部から公開インターネット経由でアプリケーション・プログラミング・インターフェース(API、プログラムがサービスを呼び出すための窓口)に直接接続できる状態でした。さらに、開発用の認証情報(credentials、プログラムが自身の身元を証明するための情報)が誤って本番環境に配置され、その情報で認証(authentication、ユーザーやプログラムの身元を確認する手続き)を通過できる状態になっていました。
報道では、API にレート制限(rate limiting、一定時間内のリクエスト数を制限する仕組み)がなかったため、AI Agent は認証を通過した後、短時間で大量のデータを取得できたことも指摘されています。WorkOS が異常に気付いたのは、10 月 30 日にシステム利用量の異常を検知した時点で、その頃にはすでに顧客データがダウンロードされていました。ただし、報道では AI Agent がどのように隔離環境を抜け出したのかは説明されておらず、隔離設定の詳細も示されていません。そのため、事故の原因をすべて AI Agent に帰したり、この事例だけで特定の隔離方式が無効だと判断したりすることはできません。
AI Agent の導入を検討している企業は、テスト環境と本番システムをそれぞれ確認する必要があります。テスト環境では接続が確実に制限されているか、本番システムでは受け入れるべきでない認証情報やデータ要求を拒否できるかを検証してください。プロジェクト責任者は、双方の管理者に検証結果の提出を求めるべきです。テスト環境が構築されたことだけを確認して、本番システムの点検を省略してはいけません。
テスト前に、接続先と読み取り可能なデータを明確にする
IT 担当者、セキュリティ担当者、業務責任者が共同でテスト範囲を確認し、後から照合できるように一覧にまとめることを推奨します。見積もり業務であれば、まず営業担当者が照会対象の品目と使用する価格項目を明確にし、その内容に基づいて IT 担当者が接続を許可するサービスと読み取り可能なデータ範囲を設定します。テストの利便性を優先して、顧客データ全体へのアクセスを開放しないことが重要です。
- 接続を許可するサービスと経路:テストで接続する必要があるサービス、ドメイン、経由するネットワーク機器を列挙します。業務上、外部への照会が不要であれば、利便性のためにほかの外部接続を許可すべきではありません。
- テストで使用する認証情報:認証情報(credentials)は、プログラムが自身の身元を証明するための情報です。テスト専用の認証情報を別途作成し、管理担当者と無効化する時期を記録することを推奨します。本番用アカウントをそのまま流用してはいけません。
- 読み取りを許可するデータ:照会できる項目とデータ範囲を列挙し、まずは実際の顧客データを含まないテストデータで業務フローが成立するかを確認します。その後、データ範囲を広げる場合は、事前にデータ管理責任者の承認を得る必要があります。
一覧の確認後は、企業が許可した範囲内で、許可されるべきでない操作が実際にブロックされるかをテストすることを推奨します。未許可の接続が遮断されるか、テスト用アカウントでは対象範囲外のデータを確実に読み取れないかなどを検証してください。テスト担当者は結果も保存する必要があります。見積もり照会が正常に完了しても、それは業務フローが動作することを示すだけで、ほかの未許可の接続や読み取り要求をシステムが拒否できる証明にはならないためです。
EgentWrX を例にすると、外向き通信の許可リスト(outbound allowlist)は、外部接続を許可するドメインの一覧です。プラットフォームはデフォルトですべての外部接続を拒否し、許可するドメインを個別に開放します。また、社内データベースとの連携は読み取り専用で、書き込みはできません。ただし、読み取り専用であっても、AI Agent が機密情報を取得する可能性はあります。そのため、管理者は業務に必要なドメインだけを許可し、データベース管理責任者に読み取り可能なデータ範囲の制限を依頼する必要があります。読み取り専用に設定すれば漏えいしないと考えてはいけません。
本番システムの点検とテストログの照合は、誰が担当するのか?
本番システムの責任者は、外部に公開している API を別途洗い出し、旧バージョンの社内アプリケーションに外部から接続できる状態が残っていないかを確認するとともに、本番環境に誤って配置された開発用の認証情報を削除する必要があります。同時に、どのユーザーやプログラムがどの操作を実行し、どのデータを読み取れるかを定めるアクセス制御(access control)も点検したうえで、API のレート制限を設定し、実際に機能するかを検証してください。これらは企業自身で対応する必要があり、プラットフォームを導入しただけで対策済みと考えることはできません。
プロジェクト責任者は、テスト計画の中でログの照合担当者も指定し、プラットフォーム、接続先の API、ネットワーク機器にそれぞれどのようなログが残るか、テストの実施時刻と使用アカウントを手掛かりに相互に照合できるかを事前に確認すべきです。まず一連の照会操作を試し、確認担当者がログから実際の接続先とアクセスしたデータ範囲を特定できることを確認してから、テストを拡大することを推奨します。ログが不十分であれば先に補い、事故が起きてから証拠を探す事態を避けてください。
EgentWrX はエクスポート可能な監査ログ(audit log)を提供しており、管理者はプラットフォーム上の操作を確認できます。また、ハッシュチェーン(hash chain)を使ってログの完全性を検証し、前後につながる記録が変更されていないかを確認できます。これらのログはプラットフォーム側の操作確認に利用できますが、ログがあるからといって異常をリアルタイムに検知できるわけではなく、接続先やネットワーク機器のログを代替するものでもありません。そのため、ログのエクスポートと完全性検証の手順を事前に実行し、確認担当者が各所のログを相互に照合できることを確かめておくことを推奨します。
管理者はテストを承認する前に、誰がログを確認するのか、どのような場合にテストを停止するのか、誰が再開を承認できるのかを確認すべきです。想定していなかった接続や、許可された範囲外のデータへのアクセスが発生した場合は、指定された担当者がテストを停止し、ログを適切に保全することを推奨します。IT 担当者とセキュリティ担当者が原因を究明し、制限が有効に機能することを再確認したうえで、責任者がテストを再開するかどうかを判断してください。
よくある質問
隔離されたテスト環境があれば、安心して AI Agent に業務を実行させられますか?
いいえ。接続とデータアクセスの制限が有効に機能するかを、実際に確認する必要があります。許可された範囲内で、未許可のサービスに接続できないこと、テスト用アカウントでは範囲外のデータを読み取れないことを検証し、本番システムの責任者には、開発用の認証情報で今も認証を通過できないかを確認してもらってください。環境の名称だけで安全と判断してはいけません。
データベースを読み取り専用にすれば、テスト中のデータ漏えいを防ぐのに十分ですか?
十分ではありません。読み取り専用ではデータの変更を制限できますが、機密情報が読み取られる可能性は残ります。まずは実際の顧客データを含まないテストデータを使い、業務上の必要性に応じて読み取り可能な項目とデータ範囲を制限することを推奨します。範囲を広げる必要がある場合は、事前にデータ管理責任者の承認を得るべきです。
テスト期間中は、どのログを照合すべきですか?
プラットフォームの監査ログ、接続先の API アクセスログ、ネットワーク接続ログを照合することを推奨します。それぞれ記録される内容が異なるため、テスト前に担当者を指定し、時刻とアカウントを手掛かりに相互に照合できるかを確認してください。想定していなかったアクセスが見つかった場合は、まずテストを停止してログを適切に保全し、その後で原因を調査すべきです。
参考資料
- WorkOS のデータ漏えい事故に新展開、AI 侵入テストフレームワークがテスト環境を突破し事故を引き起こす — iThome ニュース、周峻佑、2026 年 11 月 10 日。研究者の説明、WorkOS と第三者によるフォレンジック調査の結果、および関連するセキュリティ管理上の不備を報道。



