Kotaemon查询扩展技术：Query Expansion提升召回率

Kotaemon查询扩展技术：Query Expansion提升召回率

在企业级智能问答系统日益普及的今天，一个常见的痛点浮出水面：用户问得简单，系统却“听不懂”。比如输入“离职怎么弄？”，背后可能涉及劳动合同解除、社保转移、薪资结算等多个知识点。如果检索系统只做字面匹配，很容易漏掉关键信息——这正是词汇不匹配（Vocabulary Mismatch）和语义稀疏性的典型表现。

为解决这一问题，越来越多的RAG（检索增强生成）系统开始引入一种看似低调但效果显著的技术：查询扩展（Query Expansion）。它不像大模型那样引人注目，却像一位幕后调度员，在真正影响结果质量的关键节点上发挥作用。Kotaemon作为专注于生产级RAG应用的开源框架，将这项技术深度整合进其核心流程，并通过模块化设计实现了灵活部署与科学评估，使得企业在构建知识助手时不再“靠猜”来优化召回效果。

Query Expansion 为何如此重要？

传统信息检索依赖于精确或近似匹配，而人类语言天生具有多样性。同一个概念可以用多种方式表达：

• 用户说：“新冠疫苗副作用”
• 文档写：“mRNA疫苗不良反应”

即便语义一致，向量空间中的距离也可能很远。尤其是在专业领域，术语规范性强、表达固定，普通用户的口语化提问往往难以命中。

这时候，Query Expansion 就成了连接“人话”和“文档语言”的桥梁。它的本质不是改写问题，而是在保留原意的前提下，补充语义上下文，让检索器看到更多可能性。

以 Kotaemon 中的实际处理为例：

原始查询: "报销流程" 扩展后: "报销流程 费用返还 款项结算 财务报账 发票提交"

这些新增词来自哪里？可能是预定义的同义词库，也可能是从初步检索结果中反推出来的高频相关词（即伪相关反馈 PRF）。无论哪种方式，目标只有一个：提高从知识库中捞出相关内容的概率。

更重要的是，这种扩展必须是可控的。盲目添加词语会导致“语义漂移”——原本查“年假申请”，最后却返回了“退休金领取”相关内容。因此，现代查询扩展不再是简单的关键词堆叠，而是融合了语义理解、置信度判断和噪声过滤的一整套机制。

技术实现：不只是加几个词那么简单

真正的挑战在于如何让扩展既全面又精准。Kotaemon 的做法是分层推进，结合多种策略形成复合能力。

多种扩展模式协同工作

1. 基于同义词库的扩展
   适用于术语体系明确的场景，如医疗、金融、法律等。例如，“离职”可映射到“辞职”“解聘”“退职”等表达。这类规则可以由领域专家维护，确保准确性。

2. 基于伪相关反馈（PRF）的动态扩展
   先用原始查询做一次粗检，取出Top-K个文档，从中提取高频且不在原查询中的关键词作为补充。这种方法能发现一些意想不到的相关概念，比如从《员工手册》中抽取出“N+1补偿标准”这样的细节术语。

3. 混合模式：先规则后数据驱动
   实践中最有效的方式往往是组合拳：先用同义词库拓宽边界，再通过PRF挖掘深层关联。这种方式兼顾了稳定性和泛化能力。

下面是一个简化的实现示例：

from typing import List, Dict from sentence_transformers import SentenceTransformer import jieba.analyse from rank_bm25 import BM25Okapi import numpy as np class QueryExpander: def __init__(self, embedding_model_name: str = "paraphrase-multilingual-MiniLM-L12-v2"): self.embedding_model = SentenceTransformer(embedding_model_name) self.synonym_map = self._load_synonyms() self.bm25 = None self.corpus = [] def _load_synonyms(self) -> Dict[str, List[str]]: return { "离职": ["辞职", "解除劳动合同", "退职"], "报销": ["费用返还", "款项结算", "财务报账"], "疫苗": ["免疫接种", "针剂", "预防针"] } def set_retrieval_corpus(self, documents: List[str]): self.corpus = documents tokenized_docs = [doc.split() for doc in documents] self.bm25 = BM25Okapi(tokenized_docs) def extract_keywords(self, query: str, top_k: int = 3) -> List[str]: return jieba.analyse.extract_tags(query, topK=top_k) def expand_with_synonyms(self, query: str) -> str: words = query.split() expanded_terms = [] for word in words: expanded_terms.append(word) if word in self.synonym_map: expanded_terms.extend(self.synonym_map[word]) return " ".join(list(set(expanded_terms))) def expand_with_prf(self, query: str, top_k: int = 5) -> str: if not self.bm25: return query tokenized_query = query.split() scores = self.bm25.get_scores(tokenized_query) top_doc_indices = np.argsort(scores)[::-1][:top_k] feedback_terms = [] for idx in top_doc_indices: doc_text = self.corpus[idx] keywords = jieba.analyse.extract_tags(doc_text, topK=5) feedback_terms.extend(keywords) original_keywords = set(self.extract_keywords(query)) new_terms = [t for t in feedback_terms if t not in original_keywords] new_terms = list(set(new_terms[:5])) return query + " " + " ".join(new_terms) def expand_query(self, query: str, method: str = "synonym+prf") -> str: if method == "synonym": return self.expand_with_synonyms(query) elif method == "prf": return self.expand_with_prf(query) elif method == "synonym+prf": step1 = self.expand_with_synonyms(query) return self.expand_with_prf(step1) else: return query

这段代码虽然简洁，但已经涵盖了主流扩展策略的核心逻辑。在实际系统中，还可以加入更多工程考量，比如缓存高频查询的扩展结果、设置最大扩展词数防止爆炸式增长、甚至引入主题一致性模型来过滤偏离主话题的候选词。

在 Kotaemon 中如何集成？

Kotaemon 的优势不仅在于提供了工具，更在于它把这些技术封装成可插拔组件，真正做到了“配置即生效”。

整个问答链路如下：

from kotaemon.core import Node, BaseComponent from kotaemon.retrievers import VectorRetriever from kotaemon.storages import BaseDocumentStore from kotaemon.llms import HuggingFaceLLM class EnhancedQAChain(Node): def __init__( self, document_store: BaseDocumentStore, expander: BaseComponent, retriever_top_k: int = 5, llm_model: str = "meta-llama/Llama-3-8b" ): self.expander = expander self.retriever = VectorRetriever( index=document_store, top_k=retriever_top_k ) self.generator = HuggingFaceLLM(model_name=llm_model) def run(self, question: str, history: List[Dict] = None) -> Dict: expanded_question = self.expander(question) contexts = self.retriever.retrieve(expanded_question) prompt = self._build_prompt(question, contexts, history or []) response = self.generator(prompt) return { "answer": response.text, "contexts": [ctx.dict() for ctx in contexts], "expanded_query": expanded_question, "raw_question": question } def _build_prompt(self, question, contexts, history): context_str = "\n".join([c.text for c in contexts]) history_str = "\n".join([f"User: {h['user']}\nBot: {h['bot']}" for h in history]) return f""" 你是一个专业的企业知识助手，请根据以下信息回答问题。 # 历史对话 {history_str} # 相关知识 {context_str} # 问题 {question} # 要求 - 回答简洁清晰，不超过三句话 - 必须引用知识来源编号（如[1]） - 不确定时请回答“暂无相关信息” """

可以看到，QueryExpander是作为一个独立组件注入到流程中的。这意味着你可以轻松切换不同的扩展策略进行A/B测试，而无需改动主逻辑。这种设计极大提升了研发效率。

不仅如此，Kotaemon 还支持通过 YAML 配置动态加载组件：

retriever: type: vector query_expander: enabled: true strategy: synonym+prf max_new_tokens: 10

上线新策略只需修改配置文件并重启服务，完全符合现代 DevOps 实践的要求。

实际落地中的关键考量

即便技术再先进，落地过程中仍需注意几个容易被忽视的细节。

控制扩展粒度

经验表明，新增词汇数量不宜超过原始查询词数的50%。否则容易引入过多噪声，导致检索结果偏离主线。例如：

原始查询：“医保报销比例”
扩展后变成：“医保 报销 比例 医疗保险 费用返还 结算标准 住院津贴 门诊待遇 异地就医……”

虽然每个词都相关，但范围已过度发散。建议对扩展词按TF-IDF或主题相关性打分，优先保留高置信度项。

缓存与性能优化

查询扩展属于CPU密集型任务，尤其在使用BM25或BERT类模型时耗时明显。对于高频查询（如“登录不了怎么办”），应建立缓存机制，避免重复计算。

同时，建议将查询扩展模块与GPU推理服务分离部署，防止资源争抢影响整体响应速度。

灰度发布与指标监控

任何新策略上线前都应在小流量环境中验证效果。Kotaemon 内建的评估模块支持对比不同配置下的 Recall@k、MRR、Precision 等指标，帮助团队做出数据驱动的决策。

例如，某银行客户启用混合扩展策略后，Recall@5 从48%提升至67%，首次解决率上升近20%，转人工量显著下降。

负样本防御机制

长期运行中会出现误召案例，比如把“信用卡逾期”错误关联到“房贷违约”。对此，建议定期分析bad case，更新停用词表或调整扩展权重，形成闭环优化。

此外，可结合查询重写（Query Rewriting）作为前置处理，进一步提升语义清晰度。例如将“怎么弄？”转化为“如何操作？”，减少模糊表达带来的不确定性。

应用场景实录：一场真实的客服咨询

来看一个真实案例。某银行客户提问：

“信用卡逾期会影响征信吗？”

系统处理流程如下：

1. 关键词提取：[“信用卡”, “逾期”, “征信”]
2. 同义扩展：→ [“信用贷款”, “违约”, “个人信用记录”]
3. PRF补充：从前序检索结果中提取“五年保留期”、“不良记录”等术语
4. 最终查询：
   "信用卡 逾期 征信 信用贷款 违约 个人信用记录 不良记录"

随后使用 BGE-large-zh 模型编码，在包含10万条金融政策文档的 FAISS 索引中成功召回《中国人民银行征信管理办法》相关条款。

LLM生成的回答为：“信用卡逾期超过90天将被记入个人征信报告，并保留五年[1]。” 并附上了原文出处链接。

用户点击“有帮助”按钮后，该样本进入正向反馈库，用于后续模型微调。整个过程形成了完整的数据飞轮。

写在最后：超越技巧的基础设施思维

Query Expansion 看似只是一个优化技巧，但在 Kotaemon 的实践中，它已被升华为一套支撑高可用系统的基础设施能力。

它不仅仅是“多加几个词”，而是包含了语义理解、策略选择、噪声控制、性能保障和持续迭代的完整链条。正是这种工程化的思维方式，使得企业能够在复杂业务场景下稳定交付高质量的智能服务。

对于希望将大模型真正落地于组织内部的知识管理者而言，掌握并善用这类“隐形冠军”技术，往往比追逐最新模型更能带来实质性的业务提升。毕竟，最聪明的模型也无法拯救一次失败的检索——而一次成功的扩展，却能让沉默的知识库重新发声。