我们知道大型语言模型(LLM)的强大之处在于其推理能力, 它能够接收输入，并进行分析、推理以及输出文本、代码或媒体。然而，它并未像人类那样具备规划与思考能力，无法运用各种工具与物理世界互动，也缺乏人类的记忆能力。
例如，在一个企业中，员工A想要知道自己的剩余年假天数，仅依赖LLM却无法给出答案。然而，如果我们能让LLM识别出用户的意图——也就是查询剩余年假，并从问题中抽取出员工A的信息，随后通过调用业务系统提供的接口，获取员工A的剩余年假时间，那将会非常有用。这正是"Agent"的概念。
Agent是一种结合了大型语言模型（LLM）的推理能力和外部工具调用能力的应用形态，它可以完成一些相对复杂的任务。
让我们用一个形象的比喻来解释：Agent接收一项任务，它使用大型语言模型（LLM）作为其“大脑”或“思考的工具”，依赖这个“大脑”来决定为了完成任务需要进行何种操作。可以将Agent视为具有战略眼光的指挥官，它不仅了解战场上每个单元的能力，还能有效地协调它们以完成更复杂的任务。
如果你的业务场景符合以下条件，那么采用Agent应用架构将非常适合：
业务流程需要多步骤执行，涉及复杂的流程编排。 问题可以被划分为多个子模块，每一个子模块都有清晰定义的输入、输出和功能，并且可以明确地判断其是否已完成目标。
Agent 构建在大语言模型的推理能力基础上，对大语言模型的 Planning 规划的方案使用工具执行（Action） ,并对执行的结果进行观测（Observation）, 保证任务的落地执行。
目前，主流的Agent对话能力实现框架是ReAct，这是一种由普林斯顿大学和Google在2022年提出的提示词方法，它成功地融合了思考和行动。该框架的历史演变可以参见下图:
Reason Only：这种方法采用"Chain-of-thought"做出多步推理。为了鼓励模型进行连贯思考，它在问题输入前加入“Let’s think step by step”的提示词，而不是直接呈现答案。然而，其明显的缺陷在于，Reason Only 只专注于内部的推导过程，并未与外部世界产生交互，因此可能会依据错误或过时的信息进行推理。 Act-Only：该策略透过单步行动Action来获得观察结果Observation。但是，它的短板在于，行动执行过快，没有充分思考，最终的输出可能并未满足用户的实际需求。 ReAct：ReAct有效地结合了思考和行动两个环节。在此框架中，系统首先进行思考，然后执行行动，并将行动的反馈回馈给系统，据此进行下一轮的思考，这个流程会反复进行，直到产生最终的答案。
2023年推出了一个新框架——自我反思（Reflexion），该框架增设了反思环节，具体细节请参考下图:
下面是ReAct论文提到的例子：
ReAct的Prompt是：
Answer the following questions as best you can. If it is in order, you can use some tools appropriately. You have access to the following tools:
{tools}
Use the following format:
Question: the input question you must answer1
Thought: you should always think about what to do and what tools to use.
Action: the action to take, should be one of {toool_names}
Action Input: the input to the action
Observation: the result of the action
... (this Thought/Action/Action Input/Observation can be repeated zero or more times)
Thought: I now know the final answer
Final Answer: the final answer to the original input question
Begin!
history: {history}
Question: {input}
Thought: {agent_scratchpad}
agent_scratchpad: Agent的思维记录, 具体代表中间action和observation的过程，会被格式成 """ Observation: {observation} Thought:{action} """
假设我们有：
用户提问（Question）："目前的黄金价格是多少？如果我想在这个价格上加价20%，我应该怎么定价？"
工具库（Tools）：{'google search': 用谷歌搜索网络开源信息的工具；'llm-calc': 用大模型和Python做数学运算的工具}
那么第一轮对话的输入为：
Answer the following questions as best you can. If it is in order, you can use some tools appropriately. You have access to the following tools:
google-search: 用谷歌Search搜索网络开源信息的工具
llm-calc: 用大模型和Python做数学运算的工具
Use the following format:
Question: the input question you must answer
Thought: you should always think about what to do and what tools to use.
Action: the action to take, should be one of [google-search, llm-calc]
Action Input: the input to the action
Observation: the result of the action
... (this Thought/Action/Action Input/Observation can be repeated zero or more times)
Thought: I now know the final answer
Final Answer: the final answer to the original input question
Begin!
history:
Question: 目前的黄金价格是多少？如果我想在这个价格上加价20%，我应该怎么定价？
Thought:
得到输出后解析，获取Thought、Action和Action Input：
Thought: 我应该使用搜索工具来查找黄金的当前市场价格。
Action: google-search
Action Input: 黄金当前价格
调用google-search工具，输入"黄金当前价格"，获取返回内容Observation："根据网络资料显示，每克黄金的价格为60美元。"。之后将以上内容，整理再放入ReAct的提示词模板中，开启第二轮对话的输入：
Answer the following questions as best you can. If it is in order, you can use some tools appropriately. You have access to the following tools:
google-search: 用谷歌Search搜索网络开源信息的工具
llm-calc: 用大模型和Python做数学运算的工具
Use the following format:
Question: the input question you must answer
Thought: you should always think about what to do and what tools to use.
Action: the action to take, should be one of [google-search, llm-calc]
Action Input: the input to the action
Observation: the result of the action
... (this Thought/Action/Action Input/Observation can be repeated zero or more times)
Thought: I now know the final answer
Final Answer: the final answer to the original input question
Begin!
history:
Question: 目前的黄金价格是多少？如果我想在这个价格上加价20%，我应该怎么定价？
Thought: 我应该使用搜索工具来查找答案，这样我可以快速地找到所需的信息。
Action: google-search
Action Input: 黄金当前价格
Observation: 根据网络资料显示，每克黄金的价格为60美元。
Thought:
得到输出后解析，获取Thought、Action和Action Input：
Thought: 我需要计算在这个价格基础上加价20%的新价格是多少。
Action: llm-calc
Action Input: 60*1.20
调用llm-calc工具，输入60*1.20，获取返回内容Observation："72"。之后将以上内容，整理再放入ReAct的提示词模板中，开启第三轮对话的输入：
Answer the following questions as best you can. If it is in order, you can use some tools appropriately. You have access to the following tools:
google-search: 用谷歌Search搜索网络开源信息的工具
llm-calc: 用大模型和Python做数学运算的工具
Use the following format:
Question: the input question you must answer
Thought: you should always think about what to do and what tools to use.
Action: the action to take, should be one of [google-search, llm-calc]
Action Input: the input to the action
Observation: the result of the action
... (this Thought/Action/Action Input/Observation can be repeated zero or more times)
Thought: I now know the final answer
Final Answer: the final answer to the original input question
Begin!
history:
Question: 目前的黄金价格是多少？如果我想在这个价格上加价20%，我应该怎么定价？
Thought: 我应该使用搜索工具来查找答案，这样我可以快速地找到所需的信息。
Action: google-search
Action Input: 黄金当前价格
Observation: 根据网络资料显示，每克黄金的价格为60美元。
Thought: 我需要计算在这个价格基础上加价20%的新价格是多少。
Action: llm-calc
Action Input: 60*1.20
Observation: 72
Thought:
得到输出后解析，获取Thought、Action和Action Input：
Thought: 我知道最终答案了。
Final Answer: 如果想在当前价格上加价20%卖出黄金，应该定价为每克72美元。