RAG 生产实践

RAG Demo 很容易做，生产级 RAG 难在稳定运行。

一个能演示的 RAG，只需要上传文档、切片、Embedding、检索、生成回答。一个能长期使用的 RAG，还要处理权限、更新、评估、成本、引用和故障恢复。

文档进入系统要可追踪

生产环境里，文档不是静态样例。

你需要知道一份文档什么时候上传、谁上传、解析是否成功、切片数量是多少、索引是否完成、失败能否重试。否则用户发现查不到内容时，系统只能靠猜。

检索链路要能评估

RAG 质量不能只看最后回答。

至少要分别观察：

• 是否召回了正确片段。
• 正确片段排在第几位。
• Rerank 后顺序是否改善。
• 模型是否忠实使用了引用内容。
• 回答是否出现无依据扩展。

这能帮你判断问题到底出在检索、排序还是生成。

引用和权限必须一起设计

引用来源不只是展示体验，也是信任机制。

但引用不能绕过权限。用户没有权限看的文档，不应该因为 RAG 回答而间接泄露。生产级 RAG 必须在检索前或检索中应用权限过滤，而不是生成后再遮盖。

成本和延迟要被控制

RAG 链路通常会引入多个成本点：Embedding、向量检索、Rerank、模型生成、日志存储。

生产系统要根据场景决定是否使用缓存、是否开启 Rerank、TopK 取多大、上下文放多少。不是每个问题都值得走最贵链路。

一句话先记住

生产级 RAG 的核心不是把答案生成出来，而是让知识进入、被检索、被引用、被评估和被更新的全过程可控。

继续阅读

• 04-rag/010-rag-evaluation.md
• 05-retrieval/007-rag-retrieval-stack-selection.md
• 09-ai-agent-engineering/005-ai-observability.md