RAG 是什么

RAG 解决的是让模型回答建立在外部知识上的问题。它的目标不是让模型显得更懂，而是让回答可追溯、可更新、可评估。

在 Way To Agent 的知识体系里，这篇文章关注的是 RAG 解决什么、和普通搜索有什么区别、和微调是什么关系。它要回答的是“什么时候该用 RAG，什么时候不该用 RAG”。

它解决什么问题

RAG 会在这些场景里变得必要：

• 内容源会持续变化，不能依赖模型训练时的旧知识。
• 用户需要的不只是答案，还要知道答案来自哪篇文档、哪个标题、哪个片段。
• 一次错误回答可能来自解析、切片、召回、Rerank、Prompt 或模型生成任一环节。
• 先检索外部知识。
• 再把相关片段注入模型上下文。
• 最后生成带引用、可追溯的回答。

这些场景表面不同，底层都在指向同一个需求：答案不能只靠模型记忆，必须建立在可更新、可追溯的外部知识上。

先检索，再生成

RAG 的工作方式很直接：先找资料，再把资料装进上下文，最后让模型基于这些资料回答。

用户输入
  -> 业务上下文与权限判断
  -> 数据、检索、Prompt 或工具编排
  -> 模型调用或确定性服务执行
  -> 结构化校验、引用、日志和反馈

真正关键的，不是把链路堆得更复杂，而是知道哪一步失手会直接把错误带进最终答案。RAG 适合知识频繁更新和必须引用来源的场景，不适合被当成万能准确性保证。

一条最小 RAG 链路

从工程实现看，RAG 通常会牵涉以下组件：

• 文档解析与元数据提取
• 标题感知切片与 chunk 管理
• Embedding 与向量库写入
• 召回、过滤、Rerank 与上下文拼接
• 引用溯源、日志和效果评估

这些组件不一定都要在第一天完整引入。更稳妥的做法是先用最小闭环验证业务价值，再沿着质量、成本、权限和可观测性逐步补齐能力。

什么时候不该用 RAG

不要把 RAG 简化成“向量数据库加大模型”。向量检索只是链路中的一段，解析质量、片段结构、引用字段和评估闭环同样决定最终效果。

以 Way To Agent 当前版本为例，公开文档阅读、分类、标签、文章详情和基础搜索应能静态独立运行；会调用 LLM、Embedding、Rerank 或外部工具的能力，必须登录后限量使用，并记录调用日志和额度消耗。这个例子说明：不是所有知识库能力都应该变成模型调用，成本、权限和部署复杂度必须被单独约束。

最常见的误解

• 只看模型效果，不看权限、日志、成本和失败恢复。
• 只堆框架名，不说明框架在链路中的职责。
• 把 Demo 的成功当成生产系统的可靠性证明。
• 在没有评估样例和调用记录的情况下讨论“效果好不好”。

怎么排查

当 RAG 相关功能表现不稳定时，不要先猜模型不好。更有效的排查顺序是：

输入是否明确
上下文是否正确
权限与数据范围是否匹配
Prompt / 工具 / 检索配置是否符合预期
模型调用是否超时、限流或输出不合规
日志、引用和评估样例是否能复现问题

这个顺序的好处是把问题从“玄学调参”拉回工程事实。只要每一步都有记录，就能判断是输入、数据、配置、模型还是展示层的问题。

一句话结论

RAG 的核心不是记住一个名词，而是理解它在 AI 应用链路中的责任边界。RAG 适合知识频繁更新和必须引用来源的场景，不适合被当成万能准确性保证。

上手前先画清楚

1. 用一张图画出“RAG 定义”在你的 AI 应用链路中的位置。
2. 标注哪些步骤是确定性工程逻辑，哪些步骤会调用模型或检索服务。
3. 为一次失败结果写出排查字段：输入、上下文、配置、模型、日志和用户反馈。

继续阅读

04-rag/002-rag-architecture.md
04-rag/003-document-parsing.md
04-rag/004-chunking-strategy.md