営業見積もりを複数の AI Agent で分担する場合、異なる AI Agent が過去の注文を照会し、原価を照合し、契約条件を確認したうえで、見積もり案として取りまとめることが考えられます。管理者が最後に目にするのは一つの結果ですが、その過程でどのように役割分担が行われ、どの段階で疑義が生じたのか、また、いつ介入すべきだったのかまでは把握できないかもしれません。企業が取り組むべき課題は、すでに「AI Agent は協力できるか」から「人がどの場面で決定権を持つべきか」へと移っています。
複数の AI Agent による協働（multi-agent collaboration）では、システムに作業の一部を自律的に割り振らせることができます。しかし企業は、目標だけを伝え、プロセスを最後まで無条件に実行させるべきではありません。人は引き続き目標を設定し、高リスクな判断を承認するとともに、各タスクの引き継ぎや操作を後から確認できるようにする必要があります。一方、AI Agent 同士がどのようにデータを交換し、誰がどの作業を先に処理するかについては、管理者がすべてを逐一指示する必要はありません。
まず目標と停止条件を管理し、役割分担を逐一指示しない
Ethan Mollick は「The Dot and the Swarm」の中で、自身の従来の見解を修正しています。彼の観察によると、能力の高いモデルには、人間があらかじめ緻密な組織構造を設計する必要があるとは限りません。AI Agent はすでに、メッセージから文脈を把握し、自ら計画を立て、人による調整を抑えながら意見を交換して作業を分担できるようになっています。言い換えれば、AI も仕事の組織化を学べる可能性があります。
企業はこの観察を、複数の AI Agent による協働を試す理由にすることはできますが、そのまま一般的な結論として受け入れるべきではありません。原文でも、現時点の AI は依然として大規模な人員を代替できる水準にはなく、自律的に組織された協働体制が、定型的で煩雑な業務を長期的に処理できるかどうかは不明だと認めています。企業が複雑な AI Agent の組織図を事前に作り込めば、理想的な役割分担の設計に多くの時間を費やすことになります。一方、すべてを任せきりにすれば、結果に誤りが生じた時点で初めて、方向性がすでに大きくずれていたことに気づく可能性があります。
管理者はまず、タスクの目標、利用可能なデータ、合格とするアウトプット、停止条件を明確に記述する必要があります。たとえば、購買における価格比較の目標を単に「最適なサプライヤーを見つける」とするのではなく、比較すべき条件、データが不足している場合は結論を出してはならないこと、どのような状況になれば処理を停止して購買担当者の判断を仰ぐべきかまで明示します。プロジェクトチームは最初のステップとして単一のワークフローを選び、各段階の入力、出力、責任者、自律的に判断してはならない事項を整理したうえで、その範囲内で AI Agent に詳細な役割分担を任せるべきです。
人的承認は次の段階に影響するポイントに設ける
複数の AI Agent による協働を監督するからといって、すべてのステップで人の承認を待つ必要はありません。承認ポイントが多すぎれば、従来の待ち時間を新しいシステムへ移すだけになります。反対に承認ポイントが少なすぎれば、前段階の小さな誤りが、見積もり、購買、社外への回答にまで引き継がれる可能性があります。企業が承認ポイントを設けるかどうかを判断する際は、その決定を取り消すことが難しいか、次の段階に影響するか、会社としてその結果を引き受けられるかを考慮すべきです。
企業はまず、いくつかのケースに人的承認を設けることができます。たとえば、金額が部門の上限を超える場合、条件やデータソースが不明な場合、AI Agent 同士の結果が矛盾している場合、内容を顧客やサプライヤーへ送信する直前、あるいは、ある判断が後続の作業を変更する場合です。たとえば、カスタマーサービスの AI Agent は問い合わせ内容を整理して回答案を作成できますが、返金、契約の解釈、例外的な約束に関わる場合はプロセスを停止し、責任者の確認を得てから送信する必要があります。
EgentWrX では、複数のタスクをワークフローとして連携させ、引き継ぎ前に人的承認を設定できます。AI Agent が前段階の作業を完了すると、プロセスは停止し、人による承認を待ちます。導入チームは最初からプロセス全体の自動実行を目指すのではなく、業務責任者と一つずつ確認すべきです。具体的には、誰が承認権限を持つのか、承認時にどのような根拠を確認する必要があるのか、どの程度の時間処理されなければ通知するのか、差し戻された場合はどの段階で修正するのかを明確にします。まず、金額、権利・義務、社外向けコンテンツに影響するポイントを必須の承認対象とし、試行結果に応じて調整します。
監査記録と委任上限を一体で設計する
最終的な回答だけを確認しても、企業は複数の AI Agent による協働を監督できません。最終的な購買提案が妥当に見えても、ある AI Agent が古いデータを引用し、別の AI Agent がその結果を確認済みの事実として扱っている可能性があります。システムにタスクの履歴が残っていなければ、責任者はどの段階から誤りが生じたのかを判断できず、修正すべき範囲も確認できません。
プロジェクトチームは試行前に監査チェックリストを策定し、少なくとも AI Agent がどの入力データを使用したか、どのような操作を行ったか、どの結果を次の段階へ引き継いだか、誰が高リスクな判断を承認したかを確認できるようにする必要があります。初期段階では抜き取り確認の頻度を高め、プロセスが安定してからリスクに応じて調整します。異常が発生した場合は、記録をたどって関連する操作や引き継ぎポイントを確認し、最後の AI Agent に回答を再生成させるだけで済ませてはなりません。
一方、AI Agent が自律的に役割を分担できるからといって、企業が AI Agent を無制限に増やしてよいわけではありません。役割分担が増えるほど、引き継ぎ関係や例外的な状況も増えるため、各 AI Agent には明確な責任範囲、入出力、引き継ぎ条件を定める必要があります。EgentWrX では、各 AI Agent が持つ子 AI Agent の数、1 回あたりの委任数、チームメンバー数の上限を企業が設定できるほか、完全性を検証可能な監査ログを提供し、管理者が操作履歴を確認できるようにしています。企業は単一のプロセスと限定的な役割分担から始め、承認とトレーサビリティの仕組みが確実に機能することを確認してから、協働範囲の拡大を検討すべきです。
よくある質問
複数の AI Agent が協働する場合、管理者はすべてのステップを確認する必要がありますか？
逐一介入する必要はありませんが、管理者はあらかじめ目標、合格とするアウトプット、停止条件、人的承認ポイントを定義する必要があります。日常的な役割分担は AI Agent に任せられますが、高額な案件、データが不明確な場合、結果が互いに矛盾する場合、または社外へ送信する直前の内容については、処理を停止して責任者が判断すべきです。
複数の AI Agent による協働は、どのような業務から試行するのが適していますか？
まずは、入出力が明確で、段階ごとに検収でき、誤りが発生しても修正しやすい単一のプロセスを選びます。たとえば、見積もりデータの整理、購買比較の取りまとめ、カスタマーサービスへの問い合わせの分類などです。支払い、契約上の約束、複数のシステムにまたがる長いプロセスを、最初から対象にするべきではありません。
人的承認ポイントは、多いほど安全ですか？
いいえ。承認ポイントが多すぎるとプロセスがたびたび停止し、責任者も承認作業に追われることになります。企業は、取り消しが難しい判断、次の段階を変更する判断、金額や権利・義務に影響する可能性があるポイントに人的承認を設け、それ以外のステップは抜き取り確認と監査記録によって監督すべきです。
異常な結果が見つかった場合、最初に何を確認すべきですか？
まずタスクの履歴をたどり、入力データ、操作記録、引き継がれた内容を確認して、最初にずれが生じた段階を特定します。そのうえで、後続のどの結果に影響が及んでいるかを確認します。責任者が AI Agent に最終回答を再生成させるだけでは、結果が一時的に変わっても、データソースや引き継ぎルールの問題を修正することはできません。
参考資料
- The Dot and the Swarm — Ethan Mollick による、個人の AI Agent、自律的に組織される協働、人間による監督の役割に関する考察。