最近IBM人工智能专家Maya Murad出了一个视频探讨人工智能代理的演变及其在人工智能系统变革中的关键作用。从单体模型到复合人工智能系统，探索人工智能代理如何与数据库和外部工具集成，以增强解决问题的能力和适应性，分享给大家，希望对各位有用
从单一模型到复合AI系统
单一模型的局限性
为了解释这个问题，我们首先需要看看生成式AI领域的各种变化。首先，讨论从单一模型到复合AI系统的转变
单独的模型受其训练数据的限制，这影响了它们对世界的认知和能够解决的任务类型。而且它们也难以适应。虽然可以对模型进行微调，但这需要投入大量的数据和资源
一个具体例子：度假计划
让我们用一个具体的例子来说明这一点。假设你想计划今年夏天的度假，并且想知道你有多少假期可以用
你可以将你的问题输入一个能够生成答案的模型。我们可以预期这个答案不会正确，因为模型不知道你是谁，也无法访问你的这些敏感信息
复合AI系统的魔力
单独的模型在很多任务上是有用的。它们可以帮助总结文档，帮助创建电子邮件和各种报告的初稿。但真正的魔力在于开始围绕模型构建系统，并将模型集成到现有的流程中
如果我们要设计一个系统来解决这个问题，需要让模型访问存储假期数据的数据库。这样，相同的查询会输入到语言模型中。不同之处在于，现在模型会被提示创建一个搜索查询，这个查询可以访问拥有的数据库。因此，这将从数据库中获取信息，输出一个答案，然后再回到模型中生成一个句子来回答，比如，“你在你的假期数据库中还有十天假期。”
这样你得到的答案就会是正确的
复合AI系统的本质
系统设计原则
这是一个复合AI系统的例子，它表明某些问题在应用系统设计原则时能更好地解决
那么这意味着什么？通过“系统”这个术语，你可以理解为有多个组件。因此，系统本质上是模块化的。你可以有一个模型，在微调后的模型、大语言模型、图像生成模型之间选择，但也可以有程序组件来围绕它。因此，你可以有输出验证器，有程序来处理查询，然后将其分解以增加答案正确的机会，可以将其与搜索数据库结合起来，或与不同的工具结合起来
系统方法的优势
因此，当谈论系统方法时，你可以分解希望程序执行的内容，并选择合适的组件来解决这个问题。这比调整模型本身要容易得多，因此使得适应性更快、更迅速
从RAG到智能体
RAG系统简介
一个复合AI系统的例子是检索增强生成（RAG）系统，这是目前最流行和最常用的复合AI系统之一。大多数RAG系统和我们在下面使用的例子都是以某种方式定义的
程序控制逻辑的局限性
所以如果提出一个非常不同的查询，比如问天气。这将会失败，因为这个程序必须遵循的路径是始终搜索假期政策数据库，而这与天气无关。因此，当我们说查询的路径时，我们指的是程序的控制逻辑
复合AI系统，大多数都有程序控制逻辑。这是由人类定义的
智能体的引入
现在让我们谈谈智能体的作用。控制复合AI系统逻辑的另一种方法是将大型语言模型置于主导地位，这只有在我们看到大型语言模型的推理能力有巨大改进时才有可能
大型语言模型可以处理复杂的问题。你可以提示它们分解问题并提出解决问题的计划。另一种思考方式是，在光谱的一端，告诉系统快速思考，按编程进行操作，不要偏离指示。而在光谱的另一端，设计系统慢慢思考
创建一个计划，解决计划的每个部分，看看哪里遇到了困难，看看是否需要重新调整计划。因此，可能会有一个复杂的问题，如果只是给出脑海中冒出的第一个答案，很可能这个答案是错误的，但如果分解它，理解需要外部帮助解决哪些部分的问题，并花时间去解决它，成功率会更高
当将大型语言模型置于逻辑的主导地位时，这就是智能体方法
大型语言模型智能体的组成部分
1. 推理能力 让我们分解大型语言模型智能体的组成部分。第一个能力是推理能力，这是我们之前提到的。因此，这是将模型置于问题解决的核心。模型会被提示提出一个计划，并在整个过程中对每一步进行推理
2. 行动能力 智能体的另一个能力是行动能力。这是通过外部程序完成的，这些程序在业界被称为工具。因此，工具是程序的外部部分，模型可以定义何时调用它们以及如何调用它们，以便最好地执行所被问到的问题的解决方案。工具的一个例子可以是搜索，搜索网络，搜索可用的数据库。另一个例子可以是计算器来做一些数学运算。这可以是一段可能会操作数据库的程序代码。这也可以是另一个语言模型，比如你正在尝试做翻译任务，需要一个能够执行该任务的模型。还有很多其他的可能性。这些可以是API。基本上是任何你想让模型访问的外部程序
3. 记忆访问能力第三个能力是访问记忆的能力。“记忆”这个词可以意味着几件事情。模型通过程序思考，就像你在尝试解决问题时思考一样。因此，这些内部日志可以被存储，并在不同时间点被检索使用。但这也可以是你与智能体交互时的对话历史。这将使体验更加个性化
ReACT：智能体配置的一种方法
ReACT：智能体配置的一种方法
配置智能体的方法有很多种。最流行的方法之一叫做ReACT，它结合了大型语言模型智能体的推理和行动组件
当配置一个REACT智能体时会发生什么？有用户查询，这会输入到模型中。因此，给模型一个提示。指示是不要给出脑海中冒出的第一个答案。慢慢思考，计划工作。然后尝试执行某些操作。尝试行动。当想行动时，可以定义是否想使用外部工具来帮助提出解决方案。一旦调用了一个工具并得到了答案。也许它给了错误的答案或出现了错误，可以观察到这一点。因此，模型会观察答案，确定它是否回答了当前的问题，还是需要在计划上进行迭代和不同的处理。直到得到一个最终答案
复杂问题解决：度假计划案例
让我们回到假期例子，再次具体说明。显然，度假非常令人兴奋，所以你想休完剩下的假期，计划下个月去三亚，并计划在户外呆很多时间，但容易晒伤。所以你想知道应该带多少防晒霜
这是一个复杂的问题。因此，首先有一些事情需要计划。一是计划休多少假期天数？也许这是系统可以从它的记忆中检索的信息，因为之前问过这个问题。二是计划在阳光下呆多久？如果说计划呆很久，也许这意味着查看下个月三亚天气预报，看看预计的平均日照时间。三是尝试访问一个公共健康网站，了解每小时在阳光下的推荐防晒霜剂量。然后做一些数学运算，计算出这些防晒霜有多少装在两盎司的瓶子里。这相当复杂
复合AI系统的未来
但这里真正强大的是，有很多路径可以探索来解决问题。因此，这使得系统相当模块化。你可以用更复杂的问题来挑战它。所以回到复合AI系统的概念，复合AI系统将继续存在。今年我们将看到它们变得更加智能化。我喜欢这样思考：有一个AI自主性的滑动标尺。定义系统的人会评估在系统中希望的自主性权衡，特别是对于那些狭窄且定义明确的问题。因此，不期望有人在需要询问假期时问天气。因此，一个狭窄的问题集
你可以定义一个像这样的狭窄系统。以编程方式处理更有效，因为每个查询都会以相同的方式回答。如果在这里应用智能体方法，可能会有不必要的循环和迭代。因此，对于狭窄的问题，程序化的方法比通用方法更有效。但如果希望系统完成非常复杂的任务，比如独立解决GitHub问题，并处理各种查询，这就是智能体方法有帮助的地方，因为配置系统中的每条路径会花费太多精力。
结语
我们仍处于智能体系统的早期阶段。当你将系统设计的效果与智能行为相结合时，我们看到了快速的进展。当然，在大多数情况下，人类仍会参与其中，因为准确性正在提高。
——The End——
