AI Agent 应用工程化与可观测性

AI 可观测性

说明 AI Agent 应用为什么需要 Trace、Metrics、Logs,以及如何定位一次失败回答。

AI Agent 应用工程化与可观测性intermediate可观测性TraceMetricsLogs

AI Agent 应用出问题时,普通后端日志通常不够用。因为失败可能发生在检索、Prompt、模型、工具、状态流转或前端展示任意一层。

可观测性的目标,是让一次回答从输入到输出都能被重新走一遍。

我们要看见什么

至少要能看见:

  • 用户输入和业务上下文。
  • 使用的模型、参数和 Prompt 版本。
  • RAG 召回了哪些片段。
  • Agent 调用了哪些工具。
  • 每一步耗时、状态和错误。
  • 最终输出、引用和用户反馈。

这些信息不一定都完整保存原文,但要留下足够支撑排查的证据。

Trace、Metrics、Logs 各管什么

Trace 用来看一次请求经过哪些步骤。Metrics 用来看系统整体趋势。Logs 用来看具体事实。

三者缺一不可。只有日志,很难看全链路;只有指标,找不到单次问题;只有 Trace,没有业务字段也很难定位质量问题。

最常见的排查路径

一次回答错了,不要先猜模型差。更稳的顺序是:

输入是否明确
检索是否命中
Prompt 是否正确装配
模型是否按约束输出
工具是否执行成功
状态是否被正确更新

可观测性就是让这条路径有事实可查。

一句话先记住

AI 可观测性不是多记日志,而是让一次智能结果可以被复盘。

继续阅读

  • 09-ai-agent-engineering/002-ai-call-log.md
  • 04-rag/010-rag-evaluation.md