企業が AI を人事評価、懲戒、解雇のプロセスに活用する場合でも、通常は上司が最終承認権限を持ちます。しかし、画面に承認ボタンを追加しただけでは、上司が実質的な審査を行ったことにはなりません。上司がシステムの結論しか確認できず、根拠を精査する時間もなく、差し戻しやプロセスの停止権限も持たないのであれば、人による承認は自動化された結果に追認の印を押すだけになってしまいます。
企業が本当に確保すべきなのは、上司が独立して判断できる余地です。そのためには、誰が審査を担当するのか、どの根拠を確認しなければならないのか、どのような場合に承認してはならないのか、追跡可能な記録をどのように残すのかを明確に定める必要があります。AI はプロセスの前段階に関与できますが、重要な人事上の決定は、権限と責任を持つ者が行い、その理由を説明できなければなりません。
上司が承認しても、実質的な審査と見なされない場合があるのはなぜか？
iThome の報道によると、カリフォルニア州は SB 947 に署名し、雇用主が懲戒や解雇の決定を全面的に AI に依存することを禁止した全米初の州となりました。企業は引き続き人事管理に AI を利用できますが、人がシステムの結果をそのまま受け入れるだけでは不十分であり、実質的な審査を行わなければなりません。同時期に成立した SB 951 は、AI システムによって大規模な人員削減、移転、事業停止が生じた場合、企業に関連情報の開示を求めています。また、AB 1883 は、雇用主が AI を用いた職場監視システムによって従業員の感情や心理状態を推測することを禁止しています。
このニュースが台湾企業に示す教訓は明確です。上司が案件に関与したことと、実際に自ら判断したことは別です。上司が、勤怠、業績、顧客からの苦情記録などに基づいて算出されたスコアや提案しか確認できず、データの出所、適用される規則、従業員本人の説明を確認できないのであれば、独立した判断を行ったことを証明するのは困難です。システムの出力は参考資料にはなりますが、事実や状況の確認に代わるものではありません。
企業は、すべての日常的な人事業務に最も厳格な手続きを適用する必要はありません。そうすると、かえってプロセスの運用が困難になります。HR、IT、法務はまず、人事評価、懲戒、解雇をはじめ、従業員の権利や利益に大きな影響を与えるその他のプロセスを洗い出し、AI が関与する箇所を明示したうえで、どの段階では絶対に自動的に次へ進めてはならないかを確認できます。最初に問うべきなのは、「現在、社内のどの重要な人事プロセスにおいて、上司が完全な根拠を確認する前に提案が生成されたり、承認手続きに進んだりしているか」です。
実質的な人による審査では、上司は何を確認し、何を行うべきか？
企業は、実質的な審査を実行可能な手続きとして定める必要があります。管理規程に「上司が確認する」と記載するだけでは不十分です。少なくとも、次の4点を明確にしなければなりません。
審査責任者を指定する。 どの役職が審査を担当するのか、HR や他の上司による合議承認が必要か、審査者に利益相反がある場合は誰が代わりを務めるのかを明確に定める必要があります。「権限と責任を持つ上司」と記載するだけでは、多くの場合不十分です。複数の事業所にまたがる案件や、直属の部下に関する案件では、責任の所在が曖昧になりやすいためです。
必要な根拠を列挙する。 審査者は、AI が出力したスコア、要約、提案だけでなく、企業が実際に適用する就業規則、関連記録、従業員本人の説明も確認しなければなりません。意思決定の種類によって必要な資料は異なるため、企業はプロセスごとに必須確認項目を定めるとともに、未取得の資料がある場合には、そのことが上司に分かるようにする必要があります。資料の不足を「問題なし」と誤認させてはなりません。
停止条件を設定する。 資料が不完全である、情報源同士が矛盾している、案件が既存の規程の範囲を超えている、または上司が社内制度と案件の事実に基づいて判断理由を説明できない場合、プロセスを停止すべきです。上司には承認しない権限が必要であり、システムがすでに提案を出しているという理由だけで、期限や組織階層からの圧力によって承認を迫られることがあってはなりません。
差し戻し方法を定める。 差し戻しの際に「補足してください」の一言だけを残すのでは不十分です。審査者は、不足している記録、再確認すべき判断項目、修正後に再審査を担当する者を明記しなければなりません。差し戻し項目が明確に定められていない場合、上司は同じ結果を上位者へ順番に回すだけになり、最終的には原案どおりに承認される可能性があります。
企業はまず、高リスクのプロセスを1つ選んで試行できます。既存の空欄のフォームや模擬案件を使って一連の流れを実行し、審査者が必要な根拠を確認できるか、プロセスを停止または差し戻せるか、最終的な判断理由を別の上司が十分に理解できるかを検証します。まずはこの4点を1つのプロセスに組み込み、その後、ほかの重要な人事意思決定へ段階的に適用していくことができます。
人による承認でプロセスを確実に停止し、記録を残すには？
制度をどれだけ明確に定めても、システム上で承認段階を迂回できるのであれば、上司による承認が事後の追認に終わる可能性があります。そのため企業は、人による承認をワークフロー（workflow）上の必須ゲートとして設定し、前段階の完了後に、指定された役割の担当者が必要な根拠と停止条件を確認することを明確に定める必要があります。指定された担当者が承認するまで、システムは次の段階を実行できないようにしなければなりません。承認画面では、上司に判断理由の記入を求め、差し戻し時には再確認項目を入力させる必要があります。「承認」と「否認」の2つの選択肢しかない状態は避けるべきです。
EgentWrX のタスクはワークフローとして連携でき、次の担当者へ引き継ぐ前に、人による承認ゲートを設定できます。プロセスはそこで停止し、担当者の承認を待ちます。この仕組みは、重要な人事プロセスの主要な段階に適しており、人による審査を省略できない手順にできます。ただし、承認者、確認項目、停止条件、差し戻しルールは企業が自ら定義する必要があり、プラットフォームの仕組みが制度設計の代わりになるわけではありません。
企業は、最終結果だけを記録するのでは不十分です。HR、IT、法務が共同で記録項目の一覧を定め、少なくとも、AI がどのプロセス業務に関与したのか、誰がいつ承認または差し戻しを行ったのか、承認を受けずにシステムがプロセスを続行したことがなかったかを確認できるようにする必要があります。EgentWrX の監査ログは検索およびエクスポートが可能で、ハッシュチェーン（hash chain）によって記録の完全性を検証できます。管理者が監査記録をダウンロードした操作についても記録が残ります。
導入チームは四半期ごとに重要な人事プロセスを抽出して点検し、承認前後のプロセス記録に連続性があるか、差し戻し理由が具体的か、承認を受けずに次の段階へ進んだケースがないかを確認できます。まず1つのプロセスについて、人による承認ゲートと記録項目の一覧を整備し、そのうえで HR、IT、法務、実際に承認を行う上司が共同でレビューすることが、単に承認ボタンを追加するよりも、実質的な人による審査の実現につながります。
よくある質問
AI は人事評価や懲戒プロセスに関与できますか？
可能です。ただし、AI の出力は提案または参考資料として位置づけるべきであり、それ自体を直接、重大な人事処分とすることはできません。企業は、人による審査が必須となる段階をあらかじめ設定し、上司が必要な根拠、従業員本人の説明、適用される規則を確認したうえで、独立して判断を行い、その理由を記録できるようにする必要があります。
上司が承認ボタンを押せば、人による審査が完了したことになりますか？
なりません。承認操作によって証明できるのは、誰かがその案件を扱ったということだけです。企業はさらに、上司が必要な根拠を確認し、システムの結果に疑問を呈することができ、停止および差し戻しの権限を持ち、判断理由を記録したことを確認する必要があります。これらがそろって初めて、その審査に実質的な内容があったことを証明できる可能性があります。
どのような場合に人事意思決定プロセスを強制的に停止すべきですか？
資料に不足がある場合、情報源同士が矛盾している場合、案件が既存の規程の範囲を超えている場合、または上司が社内制度と案件の事実に基づいて判断理由を説明できない場合は、プロセスを停止すべきです。企業は停止条件をあらかじめプロセスに組み込み、上司が期限の圧力を理由にシステムの提案をそのまま受け入れることがないようにする必要があります。
監査記録には最低限、どのような内容を残す必要がありますか？
少なくとも、AI がプロセスに関与したことを示す関連記録、人による承認または差し戻しを行った日時と担当者、プロセスがルールどおり承認段階で停止したかどうかを記録する必要があります。企業は審査理由と差し戻し項目も保存し、内部監査や紛争対応の際に、意思決定の経緯を再現できるようにすべきです。
参考資料
- カリフォルニア州、AI による従業員の解雇決定を禁止、全米初 — iThome がカリフォルニア州の SB 947、SB 951、AB 1883 による職場での AI 規制をまとめた記事。