AI 智能体

概念解析——召回与重排序

召回与重排序(Recall & Rerank)是两阶段的检索策略:先以高效率从资料库中召回一批候选片段,再用更精确的模型对候选重新打分排序。这套机制是 RAG 系统提升回答质量的关键环节。


1. 两段式:先把范围缩小,再仔细排序

给一个知识库问答系统喂问题,它不能把全库资料都塞给 AI 处理——上下文窗口装不下,费用也受不了。它需要一种方法,从海量资料里挑出最相关的几段。

召回与重排序把"挑资料"拆成两步:第一步快筛,第二步精排。

召回阶段追求的是"别漏掉"。它用轻量级的检索方法(关键词匹配或向量相似度)快速扫过整个资料库,拿回一个候选集合——通常是几十条。这步要快,要覆盖得广,精度可以牺牲一点。

重排序阶段追求的是"排得准"。它用更重的模型——通常是 Cross-Encoder,把"用户问题 + 候选片段"成对输入,逐条计算相关性分数。重排器看得更细,但速度慢,所以它只处理召回回来的几十条,不是整个库。

召回决定上限:正确资料如果没进候选,重排再强也看不到。重排决定交付:正确资料在候选里但被压住了,AI 就答不对。

2. 召回阶段

召回是两段式的第一关。它面对的是整个资料库,必须快。

常用的召回方法有两种。一种是关键词检索:用 BM25 这类算法,把问题和资料做字面匹配。好处是精确命中关键词的场景下非常可靠——比如用户问"POL-HR-2047 是什么",关键词检索直接定位到对应文档。坏处是泛化能力差,"离职年假怎么算"和"未休假期折算"字面差异大,关键词匹配可能漏掉。

另一种是向量检索:先把问题和资料都转成向量(嵌入),然后找向量空间里最相近的邻居。它能弥补关键词检索的盲区——即使字面不重叠,只要语义相近就能找到。但向量检索也有软肋:它会因为语义的模糊性,把"放假"和"离职"这种沾边但不直接相关的内容误判为相关。

实际系统中经常把两者结合起来,用混合检索(Hybrid Search)同时跑两种召回,合并结果去重后再交给重排阶段。

召回阶段有一个关键参数叫 top-K——最多拿回多少条候选。K 太小可能漏掉关键资料;K 太大会带回过多噪声,增加重排阶段的负担和 token 消耗。这个值通常在 20 到 100 之间。


3. 重排序阶段

重排器(Reranker)是一个专门做相关性判断的模型。它和向量检索中的嵌入模型不同:嵌入模型把问题和资料分别编码成向量,在向量空间里计算距离——问题是独立的,资料也是独立的。重排器把问题和资料拼在一起输入,让模型同时看两边的全部信息,再做判断。

这种"成对输入"的方式让重排器能捕捉到更细微的相关性信号:措辞上的呼应、逻辑上的承接、甚至隐含的前提假设。但代价也很明显——每对组合都要过一次模型,运算量是 O(N)(N 是候选数量),而不是向量检索那种可以预计算和建索引的 O(1)。

市面上常见的重排器包括 Cohere Rerank、BGE-Reranker、以及各种基于 Cross-Encoder 的模型。它们在 RAG 流程中通常能将回答质量提升 20% 到 40%,代价是增加几十到几百毫秒的延迟。

效果对比:只用向量召回时,用户问"离职年假怎么算",前三条结果可能是"请假申请入口""年会调休通知""薪资发放时间"——词汇相似但内容不直接相关。加入重排后,真正相关的"员工年假折算规则"和"离职手续清单"会排到前面。

4. 实现考虑

部署两段式检索有几个工程上的权衡点。

召回候选数(top-K)。这决定了召回阶段能容忍多少噪声。K 值太大,重排阶段处理不过来;K 值太小,漏掉正确资料的风险上升。经验值上,简单的问答取 20 到 40,需要广泛资料支撑的复杂问题可以取到 100。

最终给 AI 的数量(top-N)。重排后真正送给大模型做回答的资料片段数。通常只有 3 到 5 条。给太多会挤占上下文窗口、引入噪声、甚至把回答带偏。给太少又可能缺少关键支撑信息。

阈值过滤。一些实现会给重排分数设一条底线:低于这条线的候选直接丢弃,不送给大模型。好处是避免"硬塞资料"——让 AI 在自己知识不足时回答"资料不够",比编一个答案好。坏处是阈值设得太高会把有用信息也丢掉。


5. 出问题时的排障思路

两段式检索出问题,先判断卡在哪一段。

如果正确资料根本没进候选列表,这是召回的问题。召回阶段已经漏了,后面重排再强也看不到。改法:调大 top-K、补关键词检索、或者检查文本分块(Chunking)是否切断了答案所在的段落。

如果正确资料进了候选,但被无关内容压在了后面,这是重排的问题。改法:换更强的重排模型、给重排器更清楚的问题上下文、或者在重排分数中加入日期和权威性等元数据信号。

如果重复片段占满了最终给 AI 的名额,这是去重的问题。同一段资料被切成多个相似 chunk 的情况很常见,需要在重排后做来源合并或相邻 chunk 聚合。


6. 与端到端检索的对比

两段式不是唯一的检索方案。端到端的方法——用一个更大的模型直接在全库上做检索——在学术界和工业界都在探索。端到端的优势是省掉了两段式的工程复杂度,劣势是计算开销大、可解释性差。

目前业界的主流仍然是两段式。它把"快"和"准"分开处理,每段可以用不同的技术、不同的模型、不同的优化目标。想要优化检索质量,大多数时候调的是两段之间的参数配合,而不是替换整个架构。


7. 相邻概念

  • RAG:召回与重排序是 RAG 流程中"检索"环节的核心技术。
  • 向量数据库:召回阶段常依赖向量数据库做近似最近邻搜索。
  • 文本分块:资料要先切成合适的片段,召回和重排才有对象可排。
  • 嵌入:把文字变成向量的技术,召回阶段的核心工具。
概念解析 · 人工智能ABC