
AI 应用不是部署上线就完事了。你需要看见它在做什么、花了多少钱、质量怎么样。
为什么 LLM 应用需要可观测性
传统软件有确定性——给定输入,输出可预期。LLM 应用则不然:同样的 Prompt,今天跑出满分报告,明天可能漏掉关键数据。这种不确定性意味着你必须持续观测,而不只是部署后祈祷。
可观测性要回答四个问题:出了什么问题(追踪)、花了多少钱(成本)、质量怎么样(评估)、哪里最慢(性能)。dify 提供了从轻量到专业的完整解决方案。
第一层:Dify 内置能力

| Dashboard | |
| 会话日志 | |
| 运行历史 | |
| 变量检查器 |
够用场景:个人开发调试、简单应用监控、快速验证原型。
不够的时候:需要跨应用统一视图、Token 成本按模型分组统计、自动化质量评估、长期数据保留——这时就需要外部集成。
第二层:七大外部集成
Dify 原生支持 7 个外部可观测性平台,通过应用的「监控」页面一键启用,零代码改动。
1. Langfuse — 开源自部署首选
| 定位 | |
| 部署 | |
| 核心能力 | |
| 优势 | |
| 适合 |
Langfuse 是大多数自部署 Dify 用户的首选。6 个容器(Web、Worker、PostgreSQL、ClickHouse、Redis、MinIO),4GB 内存即可运行,25 个应用全量接入无压力。
2. LangSmith — 评估能力最强
| 定位 | |
| 部署 | |
| 核心能力 | |
| 优势 | |
| 适合 |
LangSmith 的杀手锏是评估能力:创建 Dataset → 编写评估器 → 自动跑回归测试 → 对比不同 Prompt 版本效果。注意:SaaS 部署在美国,国内服务器需配置代理。
3. Opik — ML 实验追踪
Comet ML 推出的 LLM 追踪工具。如果你的团队已经在用 Comet 做传统 ML 实验管理,Opik 可以无缝扩展到 LLM 场景,统一实验追踪体验。
4. Arize — 生产级 ML 监控
专注于模型监控的商业平台,强项是漂移检测和生产告警。当 LLM 应用在生产环境运行数月后输出质量下降,Arize 能自动发现并告警。适合对稳定性要求极高的场景。
5. Phoenix — 轻量本地调试
Arize 的开源版本,Python 一行代码即可启动。定位是开发阶段的本地调试工具——不需要 Docker,不需要数据库,pip install arize-phoenix 就能用。适合个人开发者快速调试 Trace。
6. W&B Weave — 实验管理生态
Weights & Biases 的 LLM 追踪方案。如果团队已经用 W&B 管理模型训练实验,Weave 提供从训练到推理的全链路可视化。核心优势是与 W&B 生态的深度集成。
7. 阿里云监控 — 云原生方案
面向阿里云用户的原生集成。如果你的 Dify 跑在阿里云上,可以直接将 LLM 追踪数据接入阿里云监控体系,与现有的云资源监控、告警、日志服务统一管理。
怎么选:四步决策

简化版决策:
需要外部追踪吗? —— 不需要 → Dify 内置 Dashboard
↓ 需要
数据能出内网吗? —— 不能 → Langfuse 自部署
↓ 可以
主要诉求是?
├─ 评估/Prompt管理 → LangSmith
├─ ML 实验管理 → Opik / W&B Weave
└─ 生产级监控告警 → Arize / 阿里云监控
大多数团队的推荐组合:日常用 Langfuse(免费、内网),需要评估时切换 LangSmith。Dify 同一时间只能启用一个追踪后端,但切换秒级生效。
接入方式:统一且简单
无论选择哪个平台,Dify 的接入方式完全一致:
进入应用 → 监控 页面 选择追踪提供商 填入对应平台的 API Key / Host 保存,状态显示 Active
零代码改动——不需要修改任何工作流、Prompt 或应用逻辑。Dify 在运行时自动将每个节点的 Trace 数据异步上报到目标平台,不影响应用性能。
总结
| 零配置 | ||
| 自部署首选 | ||
| 评估最强 | ||
| ML 生态 | ||
| 生产监控 | ||
| 本地调试 |
可观测性不是锦上添花,而是 AI 应用从"能用"走向"好用"的基础设施。好消息是 Dify 已经把这件事做得足够简单——七个平台任选,三步配置搞定,剩下的交给数据说话。
