MerchantOps-KBQA 实践(六):BGE Reranker 与上下文质量控制

📅 2026/8/5 11:45:06
MerchantOps-KBQA 实践(六):BGE Reranker 与上下文质量控制
向量检索的第一目标是召回不是直接决定最终上下文。候选片段可能都和推广相关但只有少数真正回答“如何评估一次推广活动”。因此项目在 Hybrid Search 后加入 BGE reranker 对候选二次排序。一、Reranker 的位置问题 候选文档块 - 计算细粒度相关性 - 重新排序 - 取高相关片段 - 生成回答并附来源召回阶段强调不要漏掉重排阶段强调把最相关内容放在前面。若把大量候选直接交给模型上下文噪声和回答漂移都会增加。二、与 Metadata 配合Reranker 不能替代业务边界。它只在promotion、analytics等过滤后的候选中排序先限制领域再做语义细排。三、资源限制本机 MX450 2GB 显存加载bge-m3和bge-reranker-large后部分 RAG 检索约需 40 秒FAQ 命中不受影响。项目没有复制另一套大模型而是保留 FAQ 优先分流并把等待时间写入运行说明。Reranker 的价值是减少无关片段进入生成上下文而不是单独追求一个未经验证的指标。