先週、営業担当者が AI Agent にこう伝えました。「この種の顧客向け見積もりでは、まず年間リベートを差し引き、納期が6週間を超える場合は上司の確認を取ること」。ところが今週、別の見積書を AI Agent に処理させたところ、このルールは適用されませんでした。必ずしもモデルが忘れたとは限りません。重要な情報が長い対話履歴の中に埋もれ、必要なときに AI Agent が見つけられなかった可能性もあります。
企業が AI Agent を導入する際、一度「見せておけば」、次回からそのとおりに動くと思いがちです。しかし私たちは、対話は目の前のタスクの処理に、個人の好みは管理されたメモリへの保存に、根拠の確認が必要な情報はナレッジベースへの格納に適していると考えています。一方、毎回必ず守るべき社内ルールは、スキルやタスク指示として整理すべきです。分類にあたっては、データの長さだけで判断するのではなく、その情報が何に使われるのか、誤りが生じた場合に誰へ影響するのかを最初に確認する必要があります。
過去の対話はコンテキストを保持できるが、社内ルールの保存には適さない
OpenAI が公開した LifeVal ベンチマークには、介護、教育、ショッピング、個人金融、行政サービスなどの分野を対象とする169件のタスクが収録されています。研究チームは AI にブラウザとコンピューターを操作させ、幼稚園探し、防災ボランティアの手配、住宅検索などの作業を実行させました。そのうえで、指定された操作が完了したか、結果がユーザーの要望を満たしたかを検証しています。
この研究結果が明確に示しているのは、背景情報の保存場所によって、AI が必要なときに情報を見つけられるかどうかが変わるということです。過去の対話から情報を取得する必要がある評価項目の平均達成率は33.33％でした。また、研究チームが当初は直接提示していた背景情報を対話履歴へ移すと、関連項目の達成率は55.8％から41.5％へ低下しました。ただし、LifeVal は主にシミュレーション環境で実施されたテストです。完全なタスクデータセットや評価プログラム、パーソナライズ分析に使用したモデルも公開されていません。そのため、企業がこの数値をそのまま自社システム導入後の効果予測に使うことはできません。
過去の対話にも有用な場面はあります。たとえば、今回の顧客クレームへの対応がどこまで進んでいるか、調達担当者がどの選択肢を比較しているか、見積もりの過程でどのような条件が一時的に追加されたかを記録する場合です。こうした情報は現在の業務と密接に関係しており、業務が完了すれば重要性が低下することもあります。一方、値引きの基準、承認条件、品質判定基準、所定の出力形式は性質が異なります。企業は、AI Agent が過去の対話をさかのぼって探すことだけに依存すべきではありません。
まずは頻繁に実行する業務プロセスを一つ選び、その中に含まれる社内ルールを一つずつ洗い出してみてください。そのうえで、「来月、別の担当者がこの業務を行う場合でも、AI Agent はこのルールを守る必要があるか」と問いかけます。答えが「はい」であれば、そのルールは対話から切り離し、スキル（skill）またはタスク指示として整理するとともに、保守担当者とレビュー方法を指定すべきです。
文書上の根拠が必要な情報は、検索可能なナレッジベースに格納する
社内規程、業務手順、製品仕様、サプライヤー情報には明確な出典があり、ユーザーも回答がどの文書に基づいているかを確認できる必要があります。この種の情報はナレッジベース（knowledge base）への格納が適しており、複数の対話に分散させるべきではありません。調達時の相見積もりを例にすると、AI Agent はその対話の中で「今回は納期を優先して比較する」という指示を受け取ることができます。一方、支払条件、検収基準、適格サプライヤーの一覧については、正式な情報源を参照する必要があります。
研究チームは、過去の対話を参照する必要があると分類され、達成率が100％だった一部の評価項目について、実際には別のデータや対話のタイトルから答えを推測できたことも確認しています。つまり、AI Agent がタスクを正しく完了したからといって、指定されたデータを実際に参照したとは限りません。企業が受入テストで最終回答だけを確認していると、あるリスクを見落とす可能性があります。今回は偶然正解しただけであり、次回データが変更されても、AI Agent が誤った情報源を参照し続けるかもしれないというリスクです。
受入テストは二つのレベルに分けられます。第1レベルでは、見積書が作成されたかどうかなど、作業が完了したかを確認します。第2レベルでは、回答がどの規程のどのバージョンを引用しているか、十分な根拠が見つからない場合に AI Agent が回答を停止するかを確認します。テスト項目には、ナレッジベース内に答えが存在しないケースも意図的に含め、AI Agent がタスクを済ませるために内容を捏造しないことを確認する必要があります。この段階では、現在有効な規程文書を一つ選び、すでに失効したバージョンと組み合わせて、AI Agent が正しいバージョンを引用できるか、根拠が不足している場合にその旨を明確に説明できるかをテストするとよいでしょう。
メモリに保存するのは個人情報に限り、ユーザーが確認・修正できるようにする
メモリ（memory）は、複数のタスクで継続して利用できる個人に属する情報の保存に適しています。たとえば、上司が好む報告書の形式、営業担当者が担当する製品ライン、ユーザーが最初に要約を読み、その後に詳細を確認するという習慣などです。LifeVal では、ChatGPT のメモリを使用する必要がある評価項目の平均達成率は47.8％でした。ただし、パーソナライズ分析に使用したモデルは公開されていません。この結果をそのまま企業環境での成功率の予測に使うことはできませんが、導入チームに対する重要な示唆にはなります。ユーザーがメモリの内容を確認し、修正できる仕組みが不可欠だということです。
企業は、どのようなデータをメモリに保存できるかを事前に定める必要があります。一般的な好みは直接保存できますが、部門の業務に影響する職務上の背景情報は、事前にレビューすべきです。機密データや承認結果を変える可能性のある情報については、指定された担当者の承認が必要です。同時に、ユーザーが誤ったメモリを確認、修正、削除できるようにし、管理者も定期的な確認を行う担当者を指定する必要があります。「繁体字中国語を使用する習慣がある」は個人の好みとして扱えますが、「このサプライヤーは検収を免除できる」は正式な業務プロセスに関わります。過去の対話で一度言及されたという理由だけで、メモリへ直接保存してはいけません。
EgentWrX は、ナレッジベース、メモリ、スキルなどの仕組みを提供しています。文書は Wiki、ベクトル（vector）、テーブル形式で整理でき、十分な根拠が見つからない場合は回答を拒否できます。ユーザーはメモリを確認、修正、削除でき、管理画面では「直接保存」「レビューが必要」「承認が必要」といったポリシーを設定することも可能です。一方、所定の手順はスキルとして整理できます。同僚が自ら作成したスキルを全社で利用する場合は、事前に管理画面での審査が必要です。まずは頻繁に実行する業務プロセスを一つ選び、それぞれの情報が「今回の対話」「個人のメモリ」「正式なナレッジ」「固定スキル」のどれに該当するかを一件ずつ分類してください。そのうえで、業務プロセスの責任者に分類方法と例外処理を確認してもらうことを推奨します。
よくある質問
毎回、背景情報をすべて対話に貼り付けるのが最も確実ですか？
今回のタスクに必要な背景情報を直接提示するほうが、AI Agent が過去の対話を自ら探すことに期待するよりも検証しやすくなります。ただし、毎回すべてのデータを貼り直す必要はありません。今回必要な条件だけを与え、固定ルールはスキルとして整理し、引用が必要な情報はナレッジベースに管理することを推奨します。
どのような情報をメモリに保存すべきではありませんか？
機密データ、まだ承認されていない判断、価格、資格、承認結果を直接変える情報は、いずれも自動的にメモリへ保存すべきではありません。企業は、レビューや承認を必要とする保存ポリシーを設定し、ユーザーがメモリを確認、修正、削除できるようにする必要があります。
ナレッジベースとスキルの違いは何ですか？
ナレッジベースは「根拠がどこにあるか」に答えるためのもので、スキルは「毎回どのように実行すべきか」を定めるものです。製品仕様、規程文書、各種一覧はナレッジベースへの格納に適しています。一方、見積もりの手順、承認基準、出力形式、例外処理は、スキルまたはタスク指示として整理すべきです。
AI Agent が指定されたデータを実際に参照したことを確認するには、どうすればよいですか？
受入テストでは、回答だけでなく、引用された根拠も確認する必要があります。また、「別のファイルにも類似した回答があるケース」や「ナレッジベースに回答がないケース」もテストに含めてください。AI Agent がデータを見つけられないにもかかわらず回答できる場合は、回答の情報源を調査する必要があります。最終結果が正しいという理由だけで、合格と判断してはいけません。
参考資料
- OpenAIがAI Agentのパーソナライズにおけるボトルネックを公表、モデルは依然として過去の対話を十分に活用できず — iThome が、OpenAI の公開した LifeVal の研究結果と制約を整理しています。
