写在前面
Claude的出品公司Anthropic刚刚发布了一篇文章《Building effective agents》，标志着AI Agent时代的到来, 本文是一个要点总结。
这篇文章介绍了如何构建有效的AI代理系统,主要内容包括:
1. AI代理的定义和分类
文章将AI代理系统分为两类:
• 工作流(Workflows):通过预定义的代码路径来编排LLM和工具的使用。 • 代理(Agents):LLM动态指导自己的流程和工具使用,控制任务完成方式。
2. 何时使用AI代理
建议先寻找最简单的解决方案,只在必要时增加复杂性。代理系统通常会牺牲延迟和成本来换取更好的任务表现,需要权衡利弊。
3. 框架的使用
虽然有很多框架可以简化代理系统的实现,但作者建议开发者先直接使用LLM API,了解底层原理后再考虑使用框架。
4. 构建模块、工作流和代理
文章详细介绍了几种常见的模式:
• 增强型LLM:基础构建模块,具备检索、工具使用、记忆等能力。 • 提示链:将任务分解为固定的子任务序列。 • 路由:对输入进行分类并导向专门的后续任务。 • 并行化:同时运行多个LLM实例处理任务。 • 编排者-工人:中央LLM动态分解任务并分配给工人LLM。 • 评估器-优化器:一个LLM生成响应,另一个提供评估和反馈。 • 代理:能够独立规划和操作的系统。
5. 实际应用案例
1. 客户支持
AI代理在客户支持领域表现出色，因为：
• 自然融合对话流程和外部操作 • 可集成客户数据、订单历史等工具 • 支持自动化处理退款、更新工单等任务 • 易于通过用户反馈衡量成效
一些公司采用基于成功解决案例的收费模式，证明了这种方法的可行性。
2. 编码代理
在软件开发领域，AI代理展现出巨大潜力：
• 代码方案可通过自动化测试验证 • 支持基于测试结果的迭代优化 • 问题空间结构清晰，易于定义 • 输出质量可客观衡量
Anthropic的实践表明，AI代理能够仅凭拉取请求描述解决真实的GitHub问题。但人工审查仍然必不可少，以确保方案符合更广泛的系统要求。
6. 工具设计的最佳实践
无论构建哪种代理系统，工具都可能是代理的重要组成部分。以下是一些工具设计的建议：
1. 格式选择：
• 给予模型充足的思考空间 • 采用接近互联网自然文本的格式 • 避免繁琐的格式要求
2. 优化代理-计算机接口（ACI）：
• 从模型视角评估工具易用性 • 提供详细的使用说明和边界条件 • 优化参数命名和描述 • 反复测试和迭代改进 • 应用"防错"原则，降低出错可能
3. 实例： 在SWE-bench项目中，Anthropic团队发现将相对文件路径改为绝对路径，显著提升了模型的表现。
这些实践强调了精心设计工具及其文档的重要性，以充分发挥AI代理的潜力。
