深链DEEPCHAIN · TRENDS采集中 · 下一批 05:51:41EN

AI  /  动态  /  OpenRouter

RAG 检索加 reranker:命中率 81% 升到 97%

研究OpenRouter 官方··中文整理 11-13·约 550 字,读完 2 分钟

一句话

给 RAG 加一层 reranker 重排,能把首位命中率从 81% 提到 97%,但会增加一点成本。

要点

  1. 问题根源

    向量搜索把一段文字压成一个向量,容易把相近但错误的内容排在第一,比如套餐限额答错套餐。

  2. 解决办法

    先用向量搜索找回几十个候选,再用 cross-encoder 模型打分重排,挑出最相关的给大模型。

  3. 实测效果

    274 题测试里,首位命中率从 81% 升到 97%,每千次查询成本只多了约 0.04 美元。

登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?