← パースペクティブに戻る
/Intellicon FDE Team

映像AIを従業員監視にしないためには?

企業が映像AIを導入する前に、利用目的、権限、人による承認プロセスを明確に定める必要があります。映像の利用を特定の業務に限定し、閲覧や対応の履歴を確認できる状態にしておくことが重要です。

AIEgentWrX人機協作導入
映像AIを従業員監視にしないためには?

工場ではカメラを品質管理に活用し、物流部門ではウェアラブルデバイスで配達証明を残し、カスタマーサポートでは店舗の映像を確認してトラブルの経緯を明らかにすることがあります。プロジェクトは多くの場合、ミスの削減を目的に始まります。しかし、従業員が最初に懸念するのは、上司がこれらの映像を使って作業速度を計測したり、休憩時間を追跡したり、さらには人事評価や懲戒処分の根拠にしたりするのではないか、という点です。

映像AI(vision AI)が従業員の信頼を得るには、「会社は監視しない」と説明するだけでは不十分です。企業はその約束を制度とシステム設定に反映し、利用目的と閲覧権限を明確に制限して、操作履歴を残す必要があります。また、従業員の権利や利益に影響する判断を行う前には、人による承認を必須としなければなりません。ガバナンスの仕組みは従業員から見える形にし、監査担当者が確認できる状態にすることが重要です。

問題は何を撮影したかだけでなく、その映像が後から何に使われるか

TechOrange の報道によると、Amazon は配達員によるスマートグラスの着用を拡大する計画です。荷物の確認、ナビゲーション、配達証明の撮影に使用し、1回の勤務で数千枚の写真が生成される可能性があります。Amazon はこれらの映像を担当者に分析させるほか、生成AI(generative AI)の配送プラットフォームにも提供します。Amazon の説明では、映像に写った人物やナンバープレートをぼかしたうえで、処理後の映像を担当者が確認します。

報道によれば、現時点では顧客が自宅の映像を確認したり、削除を求めたりすることはできず、撮影を拒否する仕組みや撮影を直接通知する仕組みもありません。一方、配達員はデバイスが監視ツールになる可能性を懸念しています。Amazon は、パートナー企業と配達員が任意でデバイスを使用できると説明し、配送体験の改善を目的とした技術であると主張しています。しかし、映像の保存期間、閲覧できる人、データが別の目的に転用される可能性については、引き続き明確な説明が必要です。

台湾企業の場合、もともと荷物の配達完了を確認するために撮影した映像を、後から配達員の勤務全体の行動分析に利用すれば、収集目的が変わったことになります。導入チームは最初に利用目的の一覧を作成し、許可する用途、禁止する用途、保存期間、人による確認が必要となる条件を項目ごとに明記すべきです。明確に説明できない用途については、先にデータを収集して後から制度を整えるべきではありません。

業務管理と人事評価を切り分ける

従業員が監視されていると感じるかどうかは、カメラが常時稼働しているかだけでなく、映像が人事評価、給与、シフト、懲戒処分に影響するかどうかにも左右されます。たとえば、工場が完成品の外観確認を目的に映像を利用しているにもかかわらず、上司が従業員の持ち場を離れた時間まで簡単に確認できるのであれば、当初の品質管理という目的に人事管理が混在することになります。会社が直ちに処分を行わなくても、こうした不透明さは従業員の行動を変え、試験導入への協力をためらわせる原因になります。

プロジェクト規程には、映像だけを根拠として決定してはならない人事事項を明記し、「業務プロセスの改善」と「従業員に関する事案への対応」を別々のプロセスとして設計する必要があります。前者では、作業手順にミスが発生しやすい箇所がないかを確認できます。後者で責任の所在を判断する場合は、指定された管理者が元データを確認し、当時の作業状況を把握したうえで、従業員本人の説明を聞かなければなりません。AIの判定をそのまま事実として扱うことはできません。

導入前には、業務部門の管理者、IT、情報セキュリティ、人事、現場の従業員が共同で利用目的の一覧を確認する必要があります。どのデータが従業員の権利や利益に影響し得るのか、誰が閲覧申請を行えるのか、従業員がどのように補足説明できるのか、管理者がどの条件に基づいてその後の対応を判断するのかを明確にします。精度や認識性能だけを議論しても、従業員が最も気にしている問題には答えられません。

権限表と監査記録で「誰が閲覧したか」を確認できるようにする

利用目的を明確に定めても、すべての管理者が映像を検索、ダウンロード、転送できるのであれば、規定は紙の上の約束にすぎません。企業はロールベースアクセス制御(role-based access control)を採用し、組織と職務に応じて閲覧できる範囲を設定できます。また、最小権限の原則(principle of least privilege)に従う必要があります。品質管理担当者は不良判定に関係するデータだけを閲覧し、人事担当者であるという理由だけですべての現場映像にアクセスできるようにしてはなりません。外部の保守担当者にも、日常的な閲覧権限を与えるべきではありません。

権限表には、少なくともデータの利用目的、閲覧可能な役割、許可する操作、保存期間、監査責任者を記載します。閲覧、エクスポート、削除、権限変更は、すべて監査ログ(audit log)に残さなければなりません。管理者が監査記録をダウンロードした場合も、その操作をシステムに記録する必要があります。監査部門は、実際の利用目的が申請理由と一致しているか、人事異動後に不要な権限が取り消されているかを定期的に抜き取り確認する必要があります。

EgentWrX では、組織構造に応じて、誰が AI Agent を利用できるか、どの操作を実行できるか、どのデータを閲覧できるかを階層別に設定できます。プラットフォームの監査ログには操作履歴を保存でき、ハッシュチェーン(hash chain)によって記録の完全性を検証することも可能です。ただし、企業は導入時に自社の役割と責任をあらかじめ定義する必要があります。そうして初めて、プラットフォームの仕組みを制度に沿って設定できます。まず映像データ権限表を完成させ、次に対象となる業務プロセスを一つ選び、それぞれの役割が業務に必要なデータだけを閲覧できる状態になっているか確認します。撮影機器を追加購入するかどうかは、その後に検討すればよいでしょう。

従業員の権利や利益に影響する対応は、人の承認を待つ

映像システムは、顧客からの苦情、品質管理、労働安全、入退室管理などのプロセスと連携することがあります。そのため、リスクは映像が生成された後に発生するケースも少なくありません。システムの出力が戒告、賞与の減額、シフト変更、社外への責任追及、その他の正式な処分につながる場合、プロセスを最後まで自動実行してはなりません。AIの出力は管理者が確認する際の手がかりにはなりますが、企業は誰が承認を担当するのか、どの元データを確認するのか、従業員がどの段階で説明できるのかを定める必要があります。

EgentWrX のワークフローでは、「引き継ぎ前に人による承認が必要」と設定できます。プロセスは重要な段階で停止し、指定された担当者の承認を待ちます。この仕組みは、責任の判定や正式な処分の前に配置するのが適しています。ただし、承認ボタンを設けるだけではガバナンスにはなりません。企業は判断基準、必要な添付資料、差し戻しの条件も業務規則に明記し、管理者が要約だけを見て承認することがないようにする必要があります。

企業はまず、目的が明確な業務プロセスを選んで試験導入できます。たとえば、荷物が指定された区域に置かれているかだけを確認し、個々の従業員の業績評価には利用しない方法です。試験導入中は、権限と監査記録を抜き取り確認し、現場の従業員にヒアリングを行う必要があります。また、トラブル対応を一度シミュレーションし、従業員に説明の機会があり、人による承認なしには正式な処分を開始できないことを確認します。これらの条件を満たせない場合、データの収集範囲を拡大するべきではありません。

よくある質問

顔やナンバープレートをぼかせば、従業員監視には該当しませんか?

必ずしもそうとは限りません。ぼかし処理によって一部の識別リスクは低減できますが、持ち場、勤務シフト、時間、作業経路などから特定の従業員を識別できる可能性があります。企業は収集目的、閲覧できる役割、保存期間も制限し、映像を人事評価や懲戒処分の根拠として安易に転用することを禁止する必要があります。

従業員が撮影デバイスの装着に同意すれば、会社は映像を自由に利用できますか?

利用できません。企業は、撮影範囲、頻度、利用目的、保存期間、人による確認方法を明確に説明する必要があります。また、従業員が装着を拒否した場合や同意を撤回した場合の対応手順も示さなければなりません。利用目的が後から変更された場合、会社は改めて通知し、社内審査を行う必要があります。当初の同意をそのまま適用することはできません。

映像AIが違反の疑いを検出した場合、直ちに懲戒手続きを開始できますか?

直ちに開始すべきではありません。まず指定された管理者が元データを確認し、作業状況を把握したうえで、従業員本人の説明を聞く必要があります。承認が完了して初めて、正式な処分手続きに進むことができます。AIの出力は確認の手がかりにすぎず、それだけで従業員の責任を決定することはできません。

企業が導入前に最初に作成すべき文書は何ですか?

最初に映像データ権限表を作成します。権限表には、各利用目的、閲覧可能な役割、許可する操作、保存期間、監査責任者を記載し、実際のシステム権限と一つずつ照合します。チームがこの表を完成できない場合、データの収集範囲と責任がまだ明確になっていないことを意味します。

参考資料

30 分で、AI に先に任せられる業務を一緒に洗い出します

社員一人ひとりに AI の分身を持たせませんか。

コンサルタントより速やかにご連絡いたします。