企業が AI 利用ポリシーを公表しても、営業担当者が顧客からのメールを個人で登録したツールに読み込ませて整理したり、調達担当者がサプライヤーの見積書を外部サービスに貼り付けて比較したりする可能性は残ります。従業員に違反の意図があるとは限りません。承認済みツールが見つけにくい、業務を急いでいる、あるいは入力してはいけないデータを把握していないことが原因の場合もあります。このような状況では、どれほど詳細なポリシーを策定しても、従業員が実際に操作する場面で統制を効かせることはできません。
TechOrange が引用した Pax8 の調査によると、従業員の約 78% が雇用主の承認を受けていない AI ツールを使用しています。また、米国の中小企業経営者 400 人以上を対象とした別の調査では、90% の企業がすでに AI の導入を始めている一方、書面によるポリシーを策定している企業はわずか 23% でした。Pennsylvania Bank では、従業員が業務を迅速に進めるため、顧客の氏名と社会保障番号を未承認の大規模言語モデル（large language model）に入力し、最終的に米国証券取引委員会への報告が必要となる事案も発生しています。これらの数字をそのまま台湾企業に当てはめることはできませんが、AI ガバナンスを実際の業務で機能させるには、権限、プロセス、記録にまで落とし込む必要があることを示しています。
書面によるポリシーでは、なぜ業務上の近道を防げないのか？
「機密データを入力してはならない」という規定は一見明確ですが、実際の運用には二つの盲点があります。第一に、従業員が見積書、顧客からの苦情記録、品質管理用の写真などの情報区分を即座に判断できるとは限りません。第二に、従業員が規定を理解していても、外部ツールを開き、データをアップロードし、外部サービスへ接続することは可能です。規定を守る責任のすべてを従業員の注意力に委ねてしまえば、企業は問題が発生してから責任を追及することしかできません。
まずは、従業員が独自に利用し、企業がまだ承認していない AI ツールであるシャドー AI（shadow AI）を把握することを推奨します。IT チームは、エンドポイント（endpoint）やネットワークのログから、従業員が利用しているサービスを確認します。一方、事業部門は、利用目的、入力データ、出力内容がその後どのように使われるかを補足します。この棚卸しの目的は、すべてのツールを直ちに遮断することではありません。データがすでにどこへ流れているのか、また、既存の承認済みツールがなぜ利用されていないのかを把握することにあります。
ポリシーの条文も、検証可能な具体的ルールに書き換える必要があります。たとえば、「営業担当者は承認済みツールを使用して公開済みの製品情報を整理できるが、未公開の見積情報や顧客の連絡先情報をアップロードしてはならない」という規定は、「利用者は情報セキュリティに留意すること」よりも実行しやすくなります。第一歩として、IT、情報セキュリティ、法令遵守の各担当者と、AI の利用量が多い二つの部門が共同で、主要な AI 利用シーンを十項目挙げ、それぞれについて許可するツール、データ、出力の用途を明記します。その後、利用頻度の低いシーンに対応するとよいでしょう。
役割、データ、操作を一つのマトリクスにまとめる
ガバナンス施策を実効性のあるものにするには、「誰が利用できるのか」「何を参照できるのか」「どのような操作ができるのか」という三つの問いに答える必要があります。「役割、データ、実行可能な操作」の三列からなる権限マトリクスを作成することを推奨します。役割は少なくとも一般メンバー、部門責任者、管理者、閲覧専用ユーザーに分け、データは一般、社内限定、機密、規制対象の四段階に分類します。操作の欄には、単に「AI を利用する」と記載するのではなく、検索、アップロード、コンテンツ生成、外部サービスの呼び出し、プログラムスクリプトの実行に分けて定義する必要があります。
調達価格の比較を例にすると、AI Agent は公開されている仕様を整理できるほか、承認済みの過去の調達データも参照できます。ただし、データに未公開の最低価格やサプライヤーの個人情報が含まれる場合、企業はデータソース、実行環境、外部接続を制限する必要があります。データ分類は技術設定にも反映しなければなりません。そうしなければ、同じ利用者が機密情報を未承認のサービスにコピーできてしまいます。
EgentWrX では、組織構造に応じて、誰が AI Agent を使って何を実行できるか、どのデータを閲覧できるかを設定できます。また、AI Agent が社内ネットワーク経由でデータベースに読み取り専用でアクセスできるようにし、外部接続はデフォルトで拒否したうえで、ドメインごとに許可することも可能です。企業はまず、営業見積もり、調達価格の比較、カスタマーサービスの要約などから一つのプロセスを選び、役割ごとに参照可能なデータと実行可能な操作をすべて記入したうえで、データ管理責任部門の確認を受けるとよいでしょう。最初からすべての部門に同一の権限体系を適用すべきではありません。
人による承認と記録をワークフローに組み込む
「重要な内容は責任者が確認すること」という規定だけでは、まだ具体性が不十分です。どのような場合が「重要」に該当するのかを担当者が判断できず、プロセスのどの時点で停止すべきかも設定できないためです。各 AI ワークフローには、人による確認が必要となる条件を明記する必要があります。たとえば、顧客データが含まれている、金額が部門の上限を超えている、入力条件が曖昧である、複数のデータソースが矛盾している、プログラムスクリプトが実行されようとしている、といった条件です。さらに企業は、誰が承認するのか、承認者はプロセスをどのステップまで差し戻せるのか、どのステップを省略してはならないのかも指定する必要があります。
記録についても、最終的な回答だけを保存するのでは不十分です。監査証跡（audit trail）は、少なくとも「誰がいつ作業を開始したか」「AI Agent がどのデータを参照したか」「どのサービスを呼び出したか」「どのような出力を生成したか」「誰が承認したか」「その後どのような操作を実行したか」に答えられるものでなければなりません。EgentWrX の監査ログは、AI Agent の操作を記録し、その記録が改ざんされていないかを検証できます。また、管理者が監査記録をダウンロードした操作も記録されます。管理者は、ワークフローが次の担当者へ引き継がれる前に人による承認を必須とし、指定された担当者が許可した後に処理を再開するよう設定することもできます。
企業は同時に、記録を確認する責任者、確認周期、異常発生時の対応方法も指定する必要があります。機密データまたは規制対象データを扱う操作については、少なくとも四半期ごとにサンプル監査を実施し、権限が現在の職務に適合しているか、承認が確実に行われているか、外部接続先がすべて許可リストに含まれているかを確認することを推奨します。担当者が繰り返しプロセスを回避している場合は、まず承認済みツールが業務ニーズを満たしているかを確認し、そのうえでツール、権限、教育方法のいずれを見直すべきか判断します。
AI 利用ポリシーを実行可能なものにするには、経営・管理チームが文書上の規定を、システム権限、ワークフロー上のステップ、遡って確認できる記録へ一つずつ対応付ける必要があります。まずは、機密性の高いデータを扱い、かつ手順が明確な業務を一つ選んで試行し、情報セキュリティ、IT、事業部門が共同で権限マトリクスと承認条件を確認します。サンプル監査の完了後に適用範囲を広げることで、最初から全社共通の原則を発表するよりも、問題点を見つけやすくなります。
よくある質問
すでに情報セキュリティ制度がある企業でも、AI 利用ポリシーを別途策定する必要がありますか？
必要です。企業は、ソフトウェア審査、ID 管理、アクセス制御、インシデント対応の制度を活用できますが、それに加えて、承認済みツールの一覧、入力可能なデータの種類、AI の出力をどのように審査するか、AI Agent がどのような操作を実行できるかを定める必要があります。これにより、規定がアカウントとデバイスの管理だけにとどまることを防げます。
最初の棚卸しでは、どのような AI 利用シーンを優先的に調査すべきですか？
まず、顧客データ、財務データ、未公開の見積情報、規制対象情報、プログラムスクリプトを扱うシーンを調査し、続いて利用者、ツール、データソース、出力の用途を整理します。機密性が高く、利用頻度も高いプロセスは、権限設計と人による承認の対象に優先的に組み込むべきです。
すべての AI 出力について、責任者の承認が必要ですか？
必要ありません。企業はリスクに応じて承認条件を設定すべきです。公開情報の整理は担当者による確認で対応できます。一方、顧客データが含まれる、金額上限を超える、条件が曖昧である、プログラムスクリプトが実行されようとしている場合に限り、プロセスを停止して指定された役割の担当者による確認を待つようにします。これにより、責任者が低リスクの業務に忙殺されることを防げます。
監査記録はどのくらいの頻度で確認すべきですか？
データの機密性に応じて確認周期を設定し、機密データまたは規制対象データを扱う操作については、少なくとも四半期ごとにサンプル監査を実施することを推奨します。確認時には、記録の有無だけでなく、利用者の権限が現在の職務に適合しているか、承認者が実際に内容を確認したか、異常な外部接続に対応済みかも確認する必要があります。
参考資料
- 【情報セキュリティの視点で取り組む AI ガバナンス】従業員の 78% が未承認の AI を独自に利用、企業は情報セキュリティ管理にならって段階的に権限を付与できる — TechOrange 科技報橘による、Pax8 の調査、銀行の事例、AI ガバナンスに関する提言のまとめ。