RAG 常见问题

RAG 看起来是“检索加生成”，但真正做起来，问题经常不在模型回答阶段，而在更早的文档处理、切片、召回和上下文组织阶段。

如果只盯着最后一句回答调 Prompt，很容易把系统越调越乱。

查不到，不一定是向量数据库的问题

用户问了问题，系统没有召回相关内容，原因可能有很多：

• 文档根本没有被正确解析。
• 切片把关键信息拆散了。
• 查询表达和文档表达差异太大。
• 只用了向量检索，缺少关键词补充。
• TopK 太小或过滤条件过严。

所以排查召回问题，要从文档进入系统的第一步开始，而不是直接换向量库。

查到了，也不代表能答好

RAG 系统可能召回了相关片段，但模型仍然答不好。

常见原因是片段不完整、上下文顺序混乱、多个片段互相冲突，或者 Prompt 没有明确要求模型只基于引用资料回答。

这类问题需要同时检查召回内容和生成约束。

引用来源经常被忽略

没有引用来源的 RAG，很难建立信任。

用户不仅需要答案，还需要知道答案来自哪份文档、哪个章节、哪段内容。否则当答案出错时，系统无法解释，也无法定位问题。

文档更新会制造隐性问题

RAG 不是一次建库就结束。

文档修改、删除、重命名、移动之后，如果索引没有同步更新，就会出现旧内容仍然被召回、新内容查不到、引用链接失效等问题。

这也是为什么索引一致性、任务重试和版本记录必须进入工程设计。

一句话先记住

RAG 效果不好时，不要只调模型，先确认文档、切片、召回、排序、上下文和引用链路是否可靠。

继续阅读

• 04-rag/012-rag-production-practice.md
• 05-retrieval/006-index-consistency.md
• 09-ai-agent-engineering/006-quality-evaluation.md