一句话
给 RAG 加一层 reranker 重排,能把首位命中率从 81% 提到 97%,但会增加一点成本。
要点
- 问题根源
向量搜索把一段文字压成一个向量,容易把相近但错误的内容排在第一,比如套餐限额答错套餐。
- 解决办法
先用向量搜索找回几十个候选,再用 cross-encoder 模型打分重排,挑出最相关的给大模型。
- 实测效果
274 题测试里,首位命中率从 81% 升到 97%,每千次查询成本只多了约 0.04 美元。
登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?