查詢改寫 · Query Rewriting
查詢改寫會幫倒忙嗎?RAG 如何保留編號、否定與時間條件
把口語問題變成檢索查詢之前,先檢查有沒有改變意圖。附 16 組粵語、編號、否定與指代測試,固定候選與上下文預算比較三種策略。
- 知識庫
- RAG
- 查詢改寫
- 粵語問答

使用者問「WM-217 唔要加急,只想知普通預約要提前幾耐」,改寫器卻把查詢變成「WM-217 加急預約」。字面仍然很像,需求已經倒轉。查詢改寫值得測,但必須把搜尋命中與意圖保留一起看。本文未呼叫改寫模型或檢索系統;下文的查詢示例均由作者構造。
從 Rewrite–Retrieve–Read 看改寫器的位置
Ma 等人在 EMNLP 2023 的工作,把檢索前的 query rewriting 作為可調整環節:先產生搜尋查詢,再檢索資料,最後交給 reader。這處理的是使用者問法與可檢索知識之間的落差,而不是讓改寫器先回答問題。
研究除提示大型模型改寫外,亦訓練較小的改寫器,利用 reader 的回饋作強化學習。其開放域與多項選擇問答實驗提供研究依據;「加一道改寫提示」與「重現論文的訓練方案」是不同工作。
研究局限:網頁搜尋與單輪設定,不代表企業多輪查詢
論文使用網頁搜尋作檢索環節,亦討論任務專門化與泛化之間的取捨。它以單輪 retrieve–read 的改寫為研究重點,不能直接證明繁體內部政策、粵語口語、多輪指代或你使用的 Embedding 都會得到相同改善。
企業知識庫還有權限、時間與產品範圍。改寫器不能藉查詢內容改變帳戶的授權;「只看目前版本」等可信過濾也應由系統按正式資料處理。本文的提示與題集是工程驗證起點,並非論文已驗證的設定。
改寫前先列不可丟失的約束
把約束分成實體、範圍、否定、時間與未知狀態。產品型號不能換成較常見的型號;「已完成檢查費」不能改成泛指退款;「不需要加急」不能變成正向搜尋加急服務。
約束核對要看語義。「是否包括入水」和「入水是否不保」可能查同一條款;不能只因改寫後少了一個「不」字就判錯。相反,「不用加急,只問普通預約」有明確排除意圖,丟掉排除條件便需要人工檢查。
日期應區分資料查詢時點與預約日期。題目中的 2026-11-22 是查詢截止日,不能被當成要安排維修的日期。條款沒有寫的時限,也不能先在改寫查詢裏補成「七日退款」。
| 原問句 | 有問題的改寫 | 需要保留 |
|---|---|---|
| WM-218 隨附配件也是六個月嗎? | WM-218 主機六個月保養 | 配件與主機的範圍差異 |
| 已做檢查的180元退唔退? | 維修預繳款退款 | 費用種類;檢查已完成 |
| 唔要加急,只查普通預約 | 加急預約時限 | 不需要加急;普通預約 |
可複製材料:16 組問題,另存對話歷史與驗收約束
下載材料包含虛構《維港維修服務條款 v3》、干擾文件、事實標註及四組各四題:粵語口語、產品編號、否定與時間、多輪指代。把 documents 裏的文字作語料;問題、expected_action 和評分標註留在測試端。
下面四題可先手動試做。第 R15 題刻意不能唯一解析:歷史同時提過兩款產品,單靠「嗰部」不能決定型號。正確處理是追問,不應把強行產生查詢當作成功。
[
{
"id": "R04",
"group": "粵語口語",
"history": [],
"question": "WM-217 睇完機取消,嗰180蚊退唔退?",
"required_fact_ids": [
"F6",
"F10"
],
"constraints_to_review": [
"WM-217",
"已完成檢查",
"180元檢查費退款"
],
"expected_action": "rewrite"
},
{
"id": "R09",
"group": "否定及時間",
"history": [],
"question": "WM-217 唔要加急,只想知普通預約要提前幾耐。",
"required_fact_ids": [
"F7"
],
"constraints_to_review": [
"WM-217",
"不需要加急",
"普通預約提前期限"
],
"expected_action": "rewrite"
},
{
"id": "R13",
"group": "多輪指代",
"history": [
{
"role": "user",
"content": "我買的是 WM-218。"
}
],
"question": "佢啲跟機配件保幾耐?",
"required_fact_ids": [
"F13"
],
"constraints_to_review": [
"從歷史解析WM-218",
"隨附配件",
"保養期限"
],
"expected_action": "rewrite"
},
{
"id": "R15",
"group": "多輪指代",
"history": [
{
"role": "user",
"content": "我比較 WM-217 和 WM-218。"
}
],
"question": "嗰部保養幾耐?",
"required_fact_ids": [],
"constraints_to_review": [
"WM-217和WM-218均在歷史出現",
"指代不明",
"不能自行選產品"
],
"expected_action": "clarify"
}
]讓改寫器輸出查詢與待追問狀態,不輸出政策答案
可以用下面的教學提示先做基線。把可信指令、當前問題和必要對話歷史分開傳遞,避免把完整聊天紀錄當成一串待模仿文字。只提供與當前問題有關的歷史,也能減少舊話題污染查詢。
JSON 輸出應作格式驗證。action 為 rewrite 時才使用 query;為 clarify 時先追問。格式錯誤、空查詢、超時或遺失關鍵約束要留下紀錄,可按事先訂好的規則回退到原問句,而不是悄悄排除失敗樣本。這些規則不等同安全保證。
只把當前問題轉為便於檢索的查詢,不回答問題。保留產品編號、否定及排除範圍、日期、費用種類和服務地區。只使用明確相關的對話歷史解析指代;若不能唯一確定,回傳action=clarify及需要追問的問題。不要補充未提供的產品功能或政策。輸出JSON:{action, query, preserved_constraints, clarification}。這是教學提示,不代表論文的訓練方法。比較三種策略,先管住額外候選與文字預算
A 用原問句,B 用單條改寫,C 同時用原問句與改寫。若 C 每路都取十條,而 A 只取十條,改善可能來自更多候選。首輪可把 A、B 上限各設十條,C 每路各五條;這是候選配額對照,不是相同計算成本。
兩路可能命中相同片段。記錄去重前與去重後的候選數;首輪不足額便不額外補召回。若要研究補足候選的效用,另開一組並計入額外檢索成本。固定融合方式,不能只替並行組加入額外重排。
三組把實際送給 reader 的上下文上限同設 800 tokens,連標題與引用標籤一起計入;這是建議起點,並非最佳值。reader 仍回答原始使用者問題,不能用改寫後的問題偷偷改變最終任務。多輪題把相同必要歷史交給 reader。
| 策略 | 檢索呼叫與候選上限 | 主要代價 |
|---|---|---|
| A 原問句 | 一條原查詢;最多10條 | 原問法可能不利於搜尋 |
| B 單條改寫 | 一次改寫;最多10條 | 新增改寫延遲與意圖漂移風險 |
| C 原句與改寫並行 | 兩條查詢各最多5條;去重 | 多一次檢索;須固定融合及去重規則 |
把約束保留、搜尋命中和答案正確分開記
第一層人工核對改寫是否保留各題明確約束,並記下錯在哪個維度。第二層用原文事實標註看候選與實際上下文是否包含必要證據。第三層看 reader 有否答對、保留條件與提供可核對的引用。
R15、R16 屬指代不明題,另計是否提出適當追問,不放進可直接回答題的證據覆蓋分母。改寫後找到更多段落,不代表查詢更忠於使用者;保留所有約束,也不保證現有語料包含答案。
成本要包括改寫模型輸入/輸出、檢索、融合與 reader,延遲分開記改寫階段和端到端。不同題型要分組列出失敗例;十多題的手工題集只能揭露問題,不能拿來宣稱某方案對所有查詢都更好。
每題保存:原問句、必要歷史、改寫結果、action、逐項約束審核
檢索保存:各路候選、去重紀錄、實際上下文、支持的事實ID
答案保存:完整輸出、引用、是否答對與有據
成本保存:模型版本、token用量、改寫及端到端耗時、超時與回退
結果模板預設全部為 null。本材料沒有任何模型實測成績。找到負收益案例,才知道應在哪裏回退
若改寫把 WM-218 變成 WM-217,先修實體與歷史選取;若實體正確但找不到配件規則,再查文件切分、Embedding 與候選深度。不能只靠提高相似度門檻掩蓋改寫錯誤。
若原問句能命中、改寫卻失去否定範圍,可把原問句保留作回退或並行候選,但要按相同預算重測。若兩條查詢都取得完整條款,reader 卻把主機期限套到配件,應轉到固定上下文的模型測評,避免繼續調改寫器。
在 WoowMind 類型的問答入口,從原句與正式問法成對驗收
在只含虛構語料的測試知識庫,先以口語問題與人手整理的正式問法成對提問,再比較答案及引用。這能驗證口語輸入的端到端表現,但不能證明產品內部有沒有執行 query rewriting。
如果可取得工程紀錄,才進一步保存改寫查詢與候選,按三組對照定位變化。正式寫測評時,列出實際模型版本、資料快照與測試日期;本文目前提供的是方法與材料,沒有測試任何商用模型的勝負。
參考論文
- Query Rewriting for Retrieval-Augmented Large Language Models
Xinbei Ma, Yeyun Gong, Pengcheng He, Hai Zhao, Nan Duan · EMNLP, 2023
留意提示改寫與經訓練改寫器的區別、reader 回饋的用途,以及 Limitations 對單輪設定、網頁搜尋和遷移能力的說明。