← 返回觀點
/智慧方案FDE團隊

長對話會讓 AI 忘記規則:什麼時候該另開新對話

同一串對話塞進報價條件、修正與新文件後,AI 可能重複舊錯,也可能忘記開頭要求。這篇說明怎麼分開管理規則、依據與進度,並判斷何時另開對話。

AIEgentWrX人機協作導入
長對話會讓 AI 忘記規則:什麼時候該另開新對話

業務人員和 AI 來回修改報價時,可能先談好折扣上限,接著補充客戶條件,最後又改成以交期為優先。對話裡累積的資訊愈來愈多,AI 卻開始漏掉最初要求的格式、沿用更正前的價格,甚至把另一個版本的條件混進來。這時再補一句「請記得前面的規則」,也不一定能讓工作回到正軌。

企業應該把三件事分開管理:團隊要保留可供審查的固定規則版本、確認回答內容有正式依據,並妥善交接工作進度。長對話可以繼續用來討論,但不適合拿來保存企業知識與作業規範。

對話愈長,AI 為什麼反而漏掉前面說過的事?

《數位時代》整理《Every》AI 評測主管 Mike Taylor 的觀察指出,舊指令、先前的錯誤和無關細節不斷累積,可能讓 AI 的回答品質愈來愈差,這種情況稱為上下文腐爛(context rot)。先前提供的範例也可能限制後續答案。Taylor 曾要求 AI 模仿賈伯斯的風格替產品命名,只提供文字指示時,有 21% 的名稱以「i」開頭;加入幾個同類範例後,比例變成 100%。範例原本是為了幫助 AI 掌握方向,但如果一直留在後續任務裡,也可能反過來限制答案。

一邊對話、一邊補充需求,也容易讓前後要求互相衝突。微軟與 Salesforce 研究人員在 2025 年把完整指令拆成多則訊息,模擬使用者分批提供資訊;受測模型在寫程式、摘要等 6 類任務中,表現平均下滑 39%。此外,重要要求如果埋在對話或文件中間,也可能被 AI 漏掉。Taylor 測試時讓 AI 閱讀 9 份專案文件,並把重要的錯誤回報放在第 6 份;當他詢問專案風險時,AI 完全沒有提到這項錯誤。

因此,只要 AI 反覆犯同樣的錯、漏看中間的資料,或開始違反最初的規則,導入團隊就可以考慮重開對話。發現其中一種情況時,先不要繼續補訊息,而是檢查目前的任務是否混入先前的目標、無關文件或互相矛盾的要求,再決定要回頭修正原有訊息,還是整理好目前進度後,移到新對話繼續處理。

固定規則不能只交代一次,該怎麼保存?

客服回覆的字數、報價審核的順序、採購比價的欄位與品管判定條件,都可能需要 AI Agent 每次依照同一套做法處理。如果團隊只在對話開頭交代一次,等到對話拉長,AI 就可能逐漸不再遵守。原文也提到,使用者要求 AI 遵守 Python 程式碼風格規範 PEP-8,但聊了 50 則訊息後,AI 已不再遵守這套規範。

團隊可以先盤點同仁經常重複提醒 AI 的內容,再分成「穩定規則」與「當次要求」。固定格式、必要檢查、判斷順序和不能省略的欄位,都屬於穩定規則,應該由負責人統一維護版本;客戶名稱、這次的交期和臨時限制,則留在當次任務裡。這樣規則有異動時,團隊可以清楚掌握改了哪一版,也不用期待 AI 從很久以前的對話中找回正確做法。

EgentWrX 的技能(AI Skill)機制可以保存需要固定套用的做法與規則,並在符合使用情境時套用;同仁也能在對話中指定使用。同仁自行建立的技能如果要推廣到全公司,必須先經過後台審查。企業可以先挑一項經常重複、判斷標準也很清楚的工作,列出同仁每次都會提醒 AI 的規則,指定維護者與審查人,再把這些規則寫成技能;只有這次任務才適用的條件,則不要放進技能裡。

正式依據與工作進度,應該存放在哪裡?

要避免上下文腐爛,不代表放進對話的資料愈少愈好。如果資訊不足,AI 可能自行猜測缺少的內容,最後只給出不符合公司實際情況的通用建議。企業可以把制度、產品規格、合約範本與歷史表格列為正式依據,和當次對話分開管理;每次交辦任務時,只指定這次需要查找的資料範圍,並在第一則訊息中集中寫清楚任務目的、限制、輸出格式與完成條件。

EgentWrX 的知識庫可以用 Wiki、向量(vector)或表格三種型態管理企業資料,並設定相似度門檻與最少引用數。AI Agent 如果找不到足夠的依據,就會拒絕回答,不會自行硬答。導入團隊應該實際測試兩種情況:有正式文件時,回答能不能引用正確的依據;找不到資料時,AI Agent 能不能拒絕回答,並清楚指出還缺哪些資料。相較於每次都把所有文件塞進對話,這種做法更容易確認答案的依據來自哪裡。

對於需要長時間處理的工作,導入團隊還要考慮如何交接。當 AI 開始重複犯錯、遺漏資訊或忽略原有規則時,可以先整理交接文件,再開啟新對話。交接文件至少要寫清楚已確認的事實與引用依據、已經做出的決定、尚未解決的問題和下一步。如果業務報價、採購比價或跨部門簽核會反覆發生,還可以進一步做成任務卡或工作流(workflow),並在金額超過部門上限、條件不明確等環節加入人工核可,讓流程先停下來,等負責人確認後再繼續。企業可以先從一項需要跨日處理的工作開始,建立固定的交接欄位,再實際測試新對話能不能只依靠交接文件與正式依據,接續完成後面的工作。

常見問題

對話累積到幾則訊息就一定要重開?
不要只看訊息數量。只要 AI 開始重複已經更正的錯誤、漏掉對話中間的重要資料,或不再遵守最初的規則,就應該停止繼續追加內容。先整理已確認的事實、引用依據、已做出的決定與下一步,再開啟新對話接續處理。
第一則訊息應該放哪些內容?
第一則訊息應該集中寫清楚任務目的、必要背景、限制、輸出格式與完成條件,並指定 AI 要查找哪些正式資料。和這次工作無關的舊範例、歷史討論與備用文件不要一起放進去,以免干擾 AI 的判斷。
固定規則與交接文件有什麼差別?
固定規則適用於每次都要遵守的格式、檢查條件與判斷順序,並且應由負責人統一維護版本;交接文件則用來保存單次工作的已知事實、已做出的決定、尚未解決的問題與下一步,等任務告一段落後,再依實際需要決定是否留存。
重開對話會不會把重要資訊一起丟掉?
只要先完成交接再重開對話,就能保留必要的工作進度。交接內容應附上正式依據,並清楚區分已確認的事項與尚待查證的內容;新對話只帶入這份交接、目前適用的規則和必要文件,避免把先前的錯誤與無關細節一起帶過去。
30 分鐘,一起盤點哪些工作適合先交給 AI

想讓每位同仁都有自己的 AI 分身?

顧問會盡快與您聯繫。