大语言模型

基于大模型的电力调度系统，开创了用户驱动的电力管理新方法

2024 年 8 月 3 日

“Large Language Models for Power Scheduling: A User-Centric Approach”

论文地址：https://arxiv.org/pdf/2407.00476

Github地址：https://github.com/thomasmong/llm-power-scheduling

摘要

本文介绍了一种基于大型语言模型的资源调度问题的新架构，通过构建三个大型语言模型代理将任意用户的语音请求转换为资源分配向量。

设计了一个大型语言模型意图识别代理将请求转换为优化问题，一个大型语言模型优化问题参数识别代理和一个大型语言模型优化问题求解代理。通过在电动汽车充电场景下构建典型语音请求的数据库进行测试，证明了该架构的有效性。同时，对系统性能进行了分析，提取了关键见解。

简介

复杂系统需要先进的调度方案来有效管理资源，传统算法难以满足现代用户的动态需求，人与算法之间存在沟通障碍，自然语言处理技术的发展改变了这一局面。

本文介绍了利用语言模型（LLM）将人类用户的语音请求转换为电力调度向量的方法。该方法可以应用于无线资源管理和家庭能源管理等领域。通过利用预训练和辅助指令获取的知识，LLM可以对问题进行建模和求解。该方法可以推广到帮助人类解决各种现实世界问题。

当前的智能家居服务仅仅将用户请求分类为控制动作，而没有尝试数学建模或解决物理问题。本文提出的架构旨在利用大型语言模型来数学建模和解决电力调度问题，与现有文献不同，该框架不依赖于特定格式的用户请求，而是可以是任意的。这是首次利用大型语言模型执行建模和解决电力调度问题。目的不是提供超越现有方案的电力调度方案，而是革新优化问题的制定和解决方式。

本文提出了一种基于LLM的多智能体架构，用于将人类虚拟需求转换为一个优化问题，解决方案是一个功率调度向量。该架构包括三个LLM代理，分别是意图识别代理、参数识别代理和优化问题求解代理。通过构建一个用户虚拟需求数据库，可以评估该架构的性能。该方法可用于电力管理系统的调度方案设计。

问题定义

我们开发了一个基于LLM的转换器，它将用户的语音/文本请求作为输入，并将其转换为功耗调度向量。

为了适应用户的需求，“VRQ2Vec”转换器必须首先准确识别用户的意图，找到相应OP的最优配方，然后求解后者，生成满足要求的推荐功率矢量。为了实现这一目标，我们提出了一个多智能体架构。

对于问题的表述，我们假设一个最常见OPs的列表。为简单起见，我们也将最优控制问题(ocp)称为OPs。VRQ2Vec框架的第一阶段是意图识别代理(agent 1)，它的任务是从列表中识别最适合的问题，可以理想地模拟用户的意图。第二阶段(Parser)是一个问题参数识别代理(agent 2)，其作用是提取所选OP的参数信息。第三阶段对应于OP求解代理(agent 3)。

LLM功能在本研究中以三种方式被利用。首先，我们利用他们将现实世界的问题描述为数学问题的能力(这里将其作为OP)。其次，我们利用LLM进行OP参数识别。第三，通过允许LLM共享其文本知识来帮助更好地初始化求解器，我们部分地利用了它们协助标准OP求解器的能力。

VRQ2Vec框架的三个代理和阶段的性能将通过两个性能指标进行评估。意图识别精度(IRA)：假设存在对给定数据库中的每个VRQ进行完美的人工标记，将其标记为OP列表中的OP类型，IRA对应于基于LLM的分类器(Agent 1)正确分类的OP的经验百分比。平均相对最优性损失(AROL)：知道可能发生错误分类，AROL衡量由链Agent 1→Agent 2→Agent 3提出的功率向量的平均次优程度。

多智能体设计的语音请求功率矢量转换器

基于LLM的意图识别Agent的设计

基于LLM的意图识别代理的作用是将数学问题与用户提出的VRQ相关联，将物理问题建模为方程。由于现有LLM在描述物理问题时存在固有限制，因此我们采用了特定结构的代理，将其设计为预选OP的分类器。

我们定义了一组可能的OP，例如线性规划（LP），并且模拟表明OP的数量对性能有重要影响。在给定一组OP中选择最佳数量的直觉类似于数字调制星座的问题。由于LLM识别能力不完美，这会引入“噪声”，当可能的OP列表变得更大时，其影响可能更大。

Agent 1使用语言处理能力将VRQ分类为OP类型，采用LLM模型和硬提示，结合函数调用能力和精心设计的上下文，能够高效地完成分类任务。为了评估Agent 1的性能，构建了一个VRQ数据库。LLM的领域知识可以通过专门的数据集进行微调，但这留作本文的扩展。

基于LLM的参数识别代理的设计

三个代理有各自的作用：分类代理、参数识别代理和数值求解代理。分类代理根据用户请求的类型确定数学描述，参数识别代理则确定三种参数类型，其中第一种需要语言处理技能从请求中提取，第二种和第三种则是输入。

解析器可以从用户请求中提取参数，并调用相应的函数进行处理。对于电动汽车充电的例子，解析器需要首先提取时间参数，然后调用相应的函数进行处理。此外，解析器还可以通过智能电表接口获取外部参数。所有这些参数组成了完整的操作计划，可以传递给第三方代理程序。

基于LLM的OP求解Agent的设计

VRQ相关的功率调度问题可以通过使用基于LLM的代理来解决。OPRO提出了一种基于提示的框架，利用LLM作为数值优化器。Agent 3由基于scipy.optimize、cvxpy和control Python库的6个求解器组成。这些求解器的初始化由LLM进行，无法从VRQ和系统知识中提取的参数值通过LLM找到。采用现有求解器辅助LLM，既保证了现有求解器的确定性/保证，又利用了LLM的创造性问题解决能力。

评估

本文设计了一种基于LLM的电动汽车充电应用性能评估方法。作者将充电性能指标分为6类，包括充电成本、充电时间、环境影响、功率峰值、功率波动和电网损坏。为了更好地指导LLM代理程序进行电力调度，作者为每个性能指标类别创建了知识文件，其中包含了与电动汽车充电相关的问题描述和独立于电动汽车充电的通用数学描述。

数据集和评估指标

本文提供了一个包含多种决策类型的数据集，包括最小化充电成本、减少充电时间、最大化可再生能源利用、限制功率峰值、减少功率变化和最小化电网损坏等。数据集中的请求可以是显式或隐式的，显式请求明确提到要优化特定的性能指标，而隐式请求则是通过解释性语言来指定要评估的性能指标。

通过比较标签和生成结果来评估框架的性能，并提出了一个有效的准确度度量标准IRA。此外，作者还考虑了系统性能退化的平均相对最优性损失AROL。

提示词工程

本文使用了三种不同的提示工程技术，用于提高LLM模型在电动汽车充电应用中的OP分类和问题解决能力。第一种是基本提示，只提供OP类别的名称和数学形式。第二种是上下文提示，增加了关于每个OP类别典型电动汽车充电问题的详细信息。第三种是错误提示，通过分析之前的错误和专业知识，提供更精细的提示来指导LLM的决策过程。这些提示工程技术的逐步改进可以显著提高LLM的性能。

模拟测试结果

在Python中使用ollama库和Llama3 8B模型实现不同的代理，并通过将模型温度设置为0来消除任何随机性，确保每个请求都被一致地分类到相同的OP类中。通过比较不同提示技术的性能，结果表明错误提示技术在所有性能指标上都实现了最高的IRA。同时，通过提供特定于每个OP类的典型EV充电问题，上下文提示显示出比基本提示（应用程序不可知）略有改进。通过展示三种不同提示技术的平均最优性损失，进一步研究了不同提示方案的影响。这些结果证实了利用先进的提示技术在基础框架中显着提高模型准确分类请求的能力以及在最终充电功率向量方面引入改进的准确性表现的优点。

图5显示了基于提供给分类器的OP类别数量而变化的IRA性能。当只有一个OP类别(LP)时，分类器只能处理CC请求，因为其他请求无法仅通过线性规划解决。这解释了图表中在CT类别之外的请求中蓝色条的缺失，因为仅依靠LP时IRA为零。此外，图表突出显示对于某些请求，如PP类别，随着OP类别数量的增加，IRA会降低。因此，虽然有限的OP类别限制了可处理请求的数量，但增加更多OP类别会对IRA产生负面影响。它还强调了明确的用户请求的重要性，如PP请求中提供3个OP会导致IRA中的显著差距（90%与35%准确率），明确请求和隐含请求之间的差距。从图中还可以看出，具有不同OP类别集的分类器在CC和CT类别中表现非常好，相比其他分类器。这是因为成本和时间是用户常见的请求，相对容易分类，无论是明确还是隐含请求。