AI Agent 应用工程化与可观测性
AI 可观测性
说明 AI Agent 应用为什么需要 Trace、Metrics、Logs,以及如何定位一次失败回答。
AI Agent 应用工程化与可观测性intermediate可观测性TraceMetricsLogs
AI Agent 应用出问题时,普通后端日志通常不够用。因为失败可能发生在检索、Prompt、模型、工具、状态流转或前端展示任意一层。
可观测性的目标,是让一次回答从输入到输出都能被重新走一遍。
我们要看见什么
至少要能看见:
- 用户输入和业务上下文。
- 使用的模型、参数和 Prompt 版本。
- RAG 召回了哪些片段。
- Agent 调用了哪些工具。
- 每一步耗时、状态和错误。
- 最终输出、引用和用户反馈。
这些信息不一定都完整保存原文,但要留下足够支撑排查的证据。
Trace、Metrics、Logs 各管什么
Trace 用来看一次请求经过哪些步骤。Metrics 用来看系统整体趋势。Logs 用来看具体事实。
三者缺一不可。只有日志,很难看全链路;只有指标,找不到单次问题;只有 Trace,没有业务字段也很难定位质量问题。
最常见的排查路径
一次回答错了,不要先猜模型差。更稳的顺序是:
输入是否明确
检索是否命中
Prompt 是否正确装配
模型是否按约束输出
工具是否执行成功
状态是否被正确更新
可观测性就是让这条路径有事实可查。
一句话先记住
AI 可观测性不是多记日志,而是让一次智能结果可以被复盘。
继续阅读
09-ai-agent-engineering/002-ai-call-log.md04-rag/010-rag-evaluation.md