システム画面には「提案」と表示されていても、上司が各部門にそのまま実行するよう求め、従業員が別の方法を選ぶと追加の説明を求められ、さらには人事評価への影響まで懸念しなければならない。このような状況では、組織内で AI の提案を単なる参考情報として扱うことは困難です。台湾企業が AI Agent を営業見積もり、購買時の価格比較、品質判定、カスタマーサービス対応に活用する際にも、同様の問題が起こり得ます。
AI の出力が提案なのか要求なのかは、実際の業務プロセスにおいて意思決定権がどのように配分されているかによって決まります。企業はモデルの精度を議論する前に、誰が提案を拒否できるのか、誰が承認責任を負うのか、拒否した場合に人事評価、承認スピード、後続業務へ影響するのかを明確にする必要があります。従業員に合理的な拒否の余地がなければ、「人による意思決定」は画面上のボタンだけになりかねません。
AI の提案が事実上の要求になるのはどのような場合か？
数位時代がまとめた『ロイター』の調査によると、マクドナルドは機械学習（machine learning）を用いて店舗の取引データを分析し、店舗別・商品別に価格を提案しています。その際、地域の顧客の価格感応度、支払い意思、競合他社が公開している価格などが考慮されます。同社は、このツールが提供するのは提案であり、最終価格はフランチャイズ加盟店が決定できると説明しています。一方で報道では、本部が価格設定ツールを運営基準に組み込み、加盟店が提案価格から逸脱したケースを記録していることも指摘されています。
議論の焦点は管理制度にあります。組織が提案を採用しなかった人を継続的に追跡し、その逸脱記録が人事評価、契約更新、上司による検討の対象となる可能性があれば、システム上は依然として「提案」と表示されていても、利用者が感じる圧力によって意思決定は変わります。一方、逸脱理由を記録することは、モデルや業務プロセスの検証に役立ちます。問題は、その記録をシステム改善のために使うのか、それとも従うことを求めるために使うのかという点です。
企業はまた、システムが算出する「最適」が誰にとって最も有利なのかを明確にする必要があります。本部は全体の売上やブランドの一貫性を重視する一方、店舗や販売チャネルは人件費、在庫、賃料などのコストを直接負担します。各当事者の目標とコストが異なれば、同じ提案でも一方に利益をもたらしながら、別の当事者にリスクを負わせる可能性があります。導入チームは、提案の影響を受ける当事者、それぞれが負担するコスト、システムが採用する評価指標をあらかじめ整理し、提案から逸脱することで不合理な不利益が生じないかを確認する必要があります。
まず意思決定プロセスを可視化し、人による承認ゲート（human approval gate）を設定する
企業はまず、データ入力、AI による提案、人による審査、実際の実行までの流れを図にし、各工程に担当者、実行可能なアクション、停止条件を明記できます。この図では、AI の提案が見積書に自動反映されるのか、担当者が修正できるのか、修正後は誰が承認するのか、上司から返答がない場合にプロセスが待機するのか、差し戻されるのか、それとも提案どおりに実行されるのか、といった実務上の問いに答えられなければなりません。
次に、チームはリスクに応じて人による承認ゲートを設ける必要があります。たとえば、営業見積もりが権限の範囲を超える場合、購買提案が単一のサプライヤーに関係する場合、品質判定によってロット全体が返品される可能性がある場合、またはカスタマーサービスの対応策に補償が伴う場合です。こうしたケースでは、AI Agent が根拠を整理して提案を提示することはできますが、プロセスはいったん停止し、承認権限を持つ人の判断を待たなければなりません。また、「返答なし」を自動的に同意と見なすべきではありません。そうしなければ、人による承認は容易に形骸化します。
提案を拒否できるようにする設計も同様に重要です。従業員は、現場の在庫に異常がある、顧客に別途契約条件がある、データがまだ更新されていないなどの理由を記録したうえで、別の選択肢を選べる必要があります。上司は逸脱回数だけを見るのではなく、その理由とリスクを審査すべきです。プロジェクトチームはまず、リスクが明確で意思決定者もはっきりしている業務プロセスを一つ選んで試行し、従業員が実際に提案を拒否できるか、プロセスを停止できるか、承認責任が適切な役職に割り当てられているかを検証できます。
記録から、誰が決定し、なぜ承認したのかを確認できるようにする
ガバナンス記録では、少なくとも次の4点を経営管理、法務、監査の担当者が確認できる必要があります。AI がその時点でどのような提案をしたのか、どのデータを根拠にしたのか、人が最終的にどのような決定を下したのか、そして誰がいつ承認したのかです。人が別の選択肢を選んだ場合は、その理由とその後の結果も保存する必要があります。こうしたデータがあって初めて、提案の品質を検証し、社内の紛争に対応し、外部から疑義が示された際に意思決定の経緯を再現できます。
権限も分離する必要があります。取引データを閲覧できる人、提案ルールを変更できる人、結果を承認できる人、監査を担当する人の権限を、すべて同じ役割に集中させるべきではありません。価格設定システムが競合他社の公開価格を参照し、複数の店舗や販売チャネルに提案を行う場合、企業はさらに法務またはコンプライアンス担当者にデータの出所、提案方法、利用範囲を審査させる必要があります。関連する競争法上のリスクについては、法律の専門家の間でも見解が分かれているためです。
EgentWrX では、複数のタスクをワークフローとして連携し、次の担当者へ引き継ぐ前に人による承認を設定することで、人が許可するまでプロセスを停止できます。また、組織階層に応じて、実行、閲覧、管理の権限を設定し、検証可能な監査記録を残すこともできます。ただし、導入チームは承認条件、役割ごとの責任、記録の利用目的を自ら定義する必要があります。プラットフォームが提供するのは、ガバナンスルールを実行するための仕組みです。
本番稼働前に、プロジェクト責任者は管理可能なテストケースを一つ選び、AI の提案を採用、修正、拒否する3つのケースをそれぞれ実施する必要があります。すべての経路を完了でき、提案を拒否しても後続業務が停止しないことを確認します。記録から意思決定者、承認根拠、実行結果を特定できない場合は、利用範囲を拡大する前にプロセスと権限を整備すべきです。
よくある質問
人による承認ボタンを残しておけば、人が意思決定を担っていることになりますか？
いいえ。企業は、承認者に判断するための十分な情報、権限、時間があることに加え、提案を拒否しても不合理な不利益が生じないことを確認する必要があります。ボタンを押しても既定の回答しか受け付けない場合や、時間切れになるとシステムが提案を自動採用する場合、人による承認は依然として形式的なものにすぎません。
従業員が AI の提案から逸脱したケースを会社が記録してもよいですか？
記録することはできますが、その目的、閲覧権限、利用方法をあらかじめ説明すべきです。逸脱記録は、データの不足、ルールの問題、例外的な状況を特定するために活用するのが適切です。人事評価に組み込む場合、管理者は逸脱の理由を別途審査し、採用率を服従度の指標として扱わないようにする必要があります。
どのような AI の提案に、人による承認を必須とすべきですか？
AI の提案が、権限範囲を超える金額、顧客の権利や利益、サプライヤーの選定、ロット全体の返品、法規制上のリスクに関係する場合、プロセスをいったん停止し、人による承認を待つべきです。企業は、損失の規模と可逆性に応じてリスクを分類し、影響が大きく、元に戻すことが難しい意思決定から優先的に対応できます。
AI による価格設定で競合他社の公開価格を参照する場合、最初に何をすべきですか？
まず、法務またはコンプライアンス担当者が、データの出所、提案方法、適用対象、記録の保存ルールを審査する必要があります。システムが複数の販売チャネルに価格を提案する場合、企業は各当事者に独立した意思決定の余地が確保されているかを明確にし、人による決定と承認の根拠を保存する必要があります。
参考資料
- 支払い意思が高いほどハンバーガーも高くなる？米国マクドナルドで「AI価格設定」導入が明らかに、わずか3キロ離れた店舗でビッグマックに2割の価格差 — 数位時代が『ロイター』の調査、企業の説明、専門家の見解をまとめ、AI による価格設定、フランチャイズ加盟店の自主性、競争法をめぐる議論について解説しています。