DEV Community · Show DEV8/11 02:4554

RAG重排序器反而导致大部分检索失败

The reranker I added to improve RAG was causing most of my remaining misses

阅读原文
一位开发者发现,为改进RAG而添加的重排序器,在其最佳配置中竟是几乎所有剩余失败的原因。他构建了一个工具,将检索流水线分解为表示、索引、候选生成、融合、重排序降级、最终截断和预算截断等阶段,并记录每个查询在各阶段的存活情况,从而定位失败根源。在50种配置(分块、嵌入、检索方式、重排序)的测试中,最佳与最差配置的hit@k从0.79到0.99,而重排序器导致的降级是主要失败模式。该工具通过将答案存储为字符跨度而非块ID,使标签在不同分块策略下保持稳定。