随着大型语言模型(LLM)的发展,基于LLM的智能体(agents)通过自然语言提示执行任务的能力得到了显著提升,这减少了对显式重新训练或微调的需求。然而,当应用于开放式挑战(如诗歌创作)时,由于提供的示例的全面性和智能体理解问题内容的能力的限制,现有方法在生成预期结果方面存在显著局限性。
为了解决这些问题,提出了Memory Sharing (MS) 框架,旨在通过实时记忆存储和检索系统来增强LLM多智能体的上下文学习过程。
记忆共享(Memory Sharing)框架。每当生成一个新的(提示,回答)对时,它将被考虑加入到记忆池中,并用于训练检索器。
记忆生成(Memory Generation):当智能体接收到查询时,检索器会根据策略(例如三拍学习)确定从记忆池中获取的记忆数量。这些记忆与原始查询结合形成增强提示,智能体根据这个提示生成回答,从而构成了一个新的记忆候选。 记忆写入(Memory Writing):每个新生成的记忆候选都会经过评分机制的评估,以确定其是否适合加入记忆池。评分标准由LLM自动生成,并经过人工审核以确保一致性和适用性。 记忆检索(Memory Retrieval):检索器使用新加入的记忆来持续更新自己,以便更好地适应新记忆。检索器通过评估记忆的相关性来构建提示,从而提高智能体对查询的理解。
使用三个合适的记忆和定期更新的领域池来评估智能体在处理开放式查询方面的性能
一个示例文本,展示了智能体如何回答一个开放式问题
Memory Sharing for Large Language Model based Agentshttps://arxiv.org/pdf/2404.09982.pdfhttps://github.com/GHupppp/MemorySharingLLM
