1 介绍
技术方案交流 欢迎关注公众号
2 前言
由于工作需要，本人在近一年的工作中帮助多个客户实现了基于LLM的AI应用场景落地，也调研实践了目前的很多生成式AI应用开发技术，包括使用RAG、工作流、Agent（含多Agent)协同等各项生成式AI的技术的综合应用，因此本人想对基于Agent进行生成式AI开发做实践总结。
3 正文
3.1 引言
随着人工智能技术的飞速发展，大语言模型（LLM)、检索增强技术（RAG)和智能体（Agent)已经成为推动该领域进步的关键技术。正确理解这三者的概念及其之间的关系是面向GenAI开发的基础。下图是2024年国内的AIGC产业链企业的总结。
3.2 LLM、RAG和Agent之间的对比
| 大语言模型(LLM) | 检索增强生成（RAG) | 智能体（Agent) | |
|---|---|---|---|
| 定义 | 大型语言模型（LLM），如GPT系列、BERT等，是利用大量文本数据训练的模型，能够生成连贯的文本、理解语言、回答问题等。 | 检索增强生成技术结合了传统的信息检索技术和最新的生成式模型。它先从一个大型的知识库中检索出与查询最相关的信息，然后基于这些信息生成回答。 | 智能体是指具有一定智能的程序或设备，能够感知环境并根据感知结果做出响应或决策的实体。它们可以是简单的软件程序或复杂的机器人。 |
| 作用 | LLM作为基础技术，提供了强大的语言理解和生成能力，是构建复杂人工智能系统的基石。 | RAG可以视为在LLM基础上的扩展或应用，利用LLM的生成能力和外部知识库的丰富信息来提供更准确、信息丰富的输出。 | 智能体可以利用LLM进行自然语言处理，通过RAG技术获得和利用知识，以在更广泛的环境中做出决策和执行任务。它们通常位于应用层级，是对LLM和RAG技术在特定环境下的集成和应用。 |
因此，可以理解为LLM是基础，RAG是在LLM基础上的进一步应用，而智能体则是综合运用LLM和RAG以及其他技术，在更复杂环境中进行交互和任务执行的实体。这种关系体现了从基础技术到应用技术再到实际应用的逐级深入。
3.3 LLM Agent架构
由于大语言模型（LLM)在处理复杂问题时特别是需要多步骤的复杂问题处理时面临的困难，因此业界提出了一些针对性的prompt解决方案，例如Chain-Of-Thought,CoT) [1]、Tree of Thoughts,ToT[2]等。
在现实世界的场景中，决策通常需要经过一系列步骤进行处理，包括观察、推理和行动。这是一个迭代的过程，直到获得最终结果。这一过程启发了现代LLM Agent的设计，这些代理通常遵循“观察-推理-行动-重复”模型，反映了人类问题解决方法。可以参考文章 ReAct: Synergizing Reasoning and Acting in Language Models[3]。
在Lilian Weng在2023年的LLM Powered Autonomous Agents[4]里给出了LLM Agent的架构，核心模块包含Planning、Memory、Tool use。
一个典型的LLM Agent的工作场景演示示意图：例如，Python REPL用于解决分析任务，若需获取最新信息，则应进行网络搜索；而当用户要求创建图像时，则可使用Dall-E3。
3.4 LLM Agent开发框架
目前，很多公司都推出了帮助开发者实现LLM Agent的开发助手，例如OpenAI's Assistants API[5]、Langchain's agent[6]结合Langgraph[7]；Dify.ai[8]、Coze[9]等也推出了自己的Agent开发框架。
本文主要基于AWS Bedrock Agent[10] 来进行生成式AI应用开发实验演示。
3.5 AWS Bedrock Agent介绍
AWS Bedrock Agent[11]使生成式AI应用程序能够在不同系统和数据源之间执行多步骤任务。Agent利用基础模型的推理能力将用户请求分解为逻辑序列，确定所需信息，并决策调用哪些API以及执行顺序。Bedrock Agent可以通过AWS CLI、控制台或者API进行创建。Bedrock Agent包含如下模块[12]:
基础模型（Foundation model，FM) : 基础模型理解用户请求，将复杂任务分解为多个步骤，并通过对话收集额外信息以采取行动完成请求。 说明（Instructions）: 编写说明来描述代理的设计用途。借助高级提示，用户可以在编排的每个步骤中为代理进一步自定义指令，并包含用于解析每个步骤输出的 Lambda 函数。 以下至少一项： - Action Groups(操作组）：用户可以提供以下资源来定义Agent为用户执行 的操作：OpenAPI schema或者 function deatil schema；Lambda函数（调用Agent) - 知识库(Knowledge bases) : 将知识库与Agent进行关联，以便Agent能够查询知识库获取额外的上下文信息，从而提升Agent生成的回答质量 提示模版(Prompt templates): 提示模板是创建要提供给 FM 的提示的基础，AWS Bedrock agent公开了预处理、编排、知识库响应生成和后处理期间使用的默认四个基本提示模板。用户可以选择编辑这些基本提示模板，以自定义代理在其序列的每个步骤中的行为。详情参考Advanced prompts in Amazon Bedrock[13]
3.6 实践示范
1. 实践一: 基于AWS Bedrock 构建企业产品知识问答助理agent
主要流程如下：
创建AWS Bedrock agent
创建知识库(Knowledge bases)
创建操作组(Action Groups) : AWS Lambda函数(含权限控制）以及OpenAPI Schemas[14]
测试Agent，测试过程中可以使用AWS Bedrock Trace events[15]进行调试
Agent更新部署(使用agent version和agent alias)，参考Deploy an agent[16]
参考代码仓库[17]
2. 实践二：基于AWS Bedrock自建生成式AI平台（复杂应用）
主要流程如下：
用户在浏览器客户端发起访问请求，经过AWS CloudFront缓存并回源AWS S3获取网站静态资源
用户在网页端登录，通过SDK请求AWS Cognito获取登录认证授权 JWT token信息
用户登录后需要在前端页面根据业务需要请求相关功能时，首先调用Lambda Function Url进行相关请求的签名，携带JWT Token信息验证用户权限并获得签名后的请求header信息
根据业务需要，使用签名后的header请求相关服务的AWS Lambda Function URL（Model对话、Agent对话、翻译、知识库等）
AWS Lambda Function 根据需要使用Bedrock SDK请求Bedrock的相关功能
请求结果上下文记录到AWS DynamoDB的Table中
