営業部門は AI Agent に過去の見積もりを参照させ、調達部門はサプライヤーの条件比較に活用し、カスタマーサービス部門は顧客からの苦情記録を整理させたいと考えています。しかし、こうした業務で顧客の個人情報、未公開価格、契約条項、製造プロセスのデータを扱うことになれば、IT チームは共通の問題に直面します。データを社外に出してよいのか。出せない場合、AI をどのように活用すればよいのでしょうか？
企業はまず、データの分類、利用範囲、承認プロセスを設計したうえで、クラウド、オンプレミス、ハイブリッドのいずれに導入するかを決定する必要があります。導入場所によって決まるのは、データの保存先と処理環境にすぎません。実際のガバナンスの範囲には、AI Agent が参照できるデータ、外部サービスへの接続可否、人による確認を待つべき操作、さらに各操作を事後に追跡できるかどうかも含まれます。
まずデータフローに沿って導入場所を決める
iThome の報道によると、法務部は3カ年のソブリン AI（sovereign AI）計画を策定しています。膨大な事件を扱う現場担当者は、事件記録の閲覧、情報検索、項目入力に多くの時間を費やしています。一方、捜査や保護観察に関するデータには個人情報や事件処理の内容が含まれています。氏名を削除しても、ほかの情報から事件の内容や捜査手法が明らかになる可能性があるため、元の事件記録を商用 AI に直接渡すことはできません。
この計画では、環境を「共用コンピューティングリソースとデータレイク」「法務専用モデル推論システム」「現場向けアプリケーションサービス」の3層に分け、2026年の実証から、2027年の展開、2028年の最適化までを計画しています。この階層化の考え方は、企業が自社のデータフローを確認する際にも役立ちます。ただし、政府機関と企業では、コスト、ネットワーク、法令遵守の条件が異なるため、企業がすべてのコンピューティングリソースを自社のデータセンターに置く必要はありません。
判断する際には、データをどこから取得し、どこで処理し、外部モデルへ送信するか、結果をどこに保存し、誰がダウンロードできるかまで、一連の流れを確認する必要があります。たとえば営業見積もりの場合、まず社内ネットワーク上で過去の注文履歴を参照し、匿名化した必要最小限の項目だけを外部モデルに渡して整理させることができます。一方、顧客名、最低価格、特別な取引条件に関する情報は、管理可能な環境内に残します。工場のネットワーク帯域が限られている場合は、OCR や音声認識などの比較的小規模な処理を現場のデバイスで実行し、大量のデータを一元的に送信する必要を減らすこともできます。
最初のステップは、「データの種類×機密レベル×許可される導入場所」の一覧を作成し、データを社外に出せるか、どのモデルを利用できるか、外部接続を許可するか、生成物をどこに保存できるかを項目ごとに明記することです。次に、代表的な業務領域を一つ選び、実際にデータフロー全体を検証してから対象範囲を拡大します。
担当者の責任をワークフローに組み込む
法務部は、AI の役割をデータ整理、初稿作成、評価支援に限定し、事実認定、法令の適用、生成物の審査は引き続き検察官が担うとしています。企業もこの原則を、システムが実際に適用するルールへ落とし込む必要があります。研修資料や利用規程に「最終的な責任は人が負う」と記載するだけでは、人による確認を経ずに結果が送信される可能性があるためです。
調達時の見積もり比較を例にすると、AI Agent は見積書を集約し、条件の違いを示し、提案の草案を作成できます。しかし、サプライヤーの契約条件に矛盾がある場合、調達金額が社内上限を超える場合、または内容を上司の承認に回す直前には、ワークフローを停止させる必要があります。企業は、誰が承認するのか、承認者がどの原資料を閲覧できるのか、差し戻し後に誰が修正するのかをシステム上で指定しなければなりません。形式的な同意ボタンを置くだけでは不十分です。
カスタマーサービスや品質管理にも同様の要件があります。AI Agent は、苦情対応の経緯や検査記録を整理できます。一方、個人情報の開示、補償の確約、製品の出荷判定、社外への回答に関わる場合は、指定された担当者の確認を待つ必要があります。企業はまず、現在のプロセスをフロー図にし、法的判断、金額、個人情報の開示、社外公開などのポイントを明示します。そのうえで各ポイントに承認者の役割を割り当て、承認されるまで次のステップに進めないよう設定します。
誰が、いつ、何をしたのかを記録から確認できるようにする
法務部の計画には、なお明確にすべき課題があります。ログイン、プロンプトの入力、事件記録のアップロード、AI の生成物の取得に至るまで、どの操作記録をどれだけの期間保存すべきかについて、現時点では完全な回答が示されていません。企業は、インシデントが発生してから記録を探し始めるべきではありません。その際によくある問題は、ログがまったく存在しないことではなく、データアクセス、モデルへの入力、人による承認、管理操作の記録が別々のシステムに分散し、一連の経緯を復元できないことです。
企業は本番稼働前に、少なくともログイン、データアクセス、プロンプトの内容、アップロードされた文書、AI の生成物、人による承認、管理者によるダウンロードなどのイベントを洗い出し、各イベントについて閲覧可能な役割、監査責任者、保存ポリシーを指定する必要があります。保存期間は、データの性質、契約、法令遵守要件に応じて決定します。また、機密データを無制限にログへ複製すべきではありません。調査のために残した記録が、かえって機密データ漏えいのリスクを高める可能性があるためです。
EgentWrX はクラウド、オンプレミス、ハイブリッドでの導入に対応しています。企業は AI Agent に社内ネットワーク経由でデータベースへの読み取り専用アクセスを許可し、外部接続についてはデフォルトで拒否したうえで、ドメインごとに個別に許可できます。また、組織の設定に応じて、誰がどのデータを閲覧し、どの操作を実行できるかを制御できます。ワークフローは指定されたポイントで停止し、担当者の承認を待つことが可能です。監査ログはエクスポートでき、記録が改ざんされていないかも検証できます。データ分類、保存期間、責任者の役割は企業が自ら決定する必要がありますが、プラットフォームは、こうしたルールをシステム上で実行するための仕組みを提供します。
導入チームはまず、機密データを含む実際の業務プロセスを一つ選び、データ一覧、接続先一覧、承認ポイント、イベント一覧を作成します。その後、テストアカウントを使って、権限を超えたアクセスが遮断されること、未承認のワークフローが先へ進まないこと、監査担当者が記録から操作の経緯を復元できることを検証します。
よくある質問
機密データはすべてオンプレミスに置く必要がありますか？
必ずしもそうではありません。企業はデータの機密レベルに応じて処理場所を個別に決定できます。元の個人情報、最低価格、製造プロセスのデータは管理可能な環境に残し、匿名化した必要最小限の内容を外部モデルで処理できるか検討します。判断する際はデータフロー全体を確認する必要があり、モデルの配置場所だけを確認しても十分ではありません。
氏名を削除すれば、データを外部 AI に渡せますか？
それだけで渡せるとは判断できません。事件の内容、取引条件、設備番号、前後の文脈から特定の対象を識別できる可能性があり、企業の業務手法が明らかになる場合もあります。企業はまず再識別のリスクを検証し、業務に不要な項目を削除したうえで、データを社外に出せるかどうかを判断する必要があります。
どのような業務で、必ず処理を停止して人の確認を待つべきですか？
法的判断、金額の承認、個人情報の開示、製品の出荷判定、社外公開に関わるポイントでは、指定された担当者による確認が必要です。また、承認者がどの根拠資料を閲覧できるか、どのステップまで差し戻せるか、未承認の場合にシステムが実行してはならない後続処理は何かを明確に定める必要があります。
AI の操作記録はどのくらいの期間保存すべきですか？
保存期間は、データの性質、契約、法令遵守要件、調査上の必要性に応じて個別に設定する必要があります。企業はまず、ログイン、データアクセス、プロンプト、生成物、承認、管理者によるダウンロードの記録を洗い出します。そのうえで、法務、情報セキュリティ、事業部門が共同で保存期間を決定し、記録の完全性と閲覧権限を定期的に検証します。
参考資料
- 事件が多すぎる一方、機密性の高い事件記録は商用 AI に渡せない――法務部が3カ年のソブリン AI 計画を開始 — 法務部によるソブリン AI 計画の構造、実証方針、記録保存の課題を取り上げた iThome の報道。