Paper Digest | 基于原型学习的实体图谱预训练跨域推荐框架

为了高效的桥接不同场景间的域间差异，我们希望通过引入实体图谱（实体图谱通过一系列的文本挖掘技术（如NER，RE等）从支付宝平台的内容中抽取得到）来实现跨域对齐，给定实体图谱，其中为实体集合，为关系集合，我们希望借助于实体图谱的泛化性来学习到通用的user/item表征。

为了方便在推荐系统中应用实体图谱，我们可以通过统一的映射函数，即(需注意的是可以将一个item映射到多个实体，为了统一我们根据平台中每个item可以映射到的实体数目均值将这个值的上限设为3)，来得到和item相对应的entity，具体示例可参见上图。

可以看到，通过映射得到对应item相关的entity后，基于图谱推理流程，我们可以得到许多和映射得到的entity相关的高阶信息，如苹果这个公司有手机产品，而手机这类产品相关的公司有三星等，从而可以潜在的拉近和其他相关实体（如三星生产的手机等）间的关系。

诸如支付宝等在线服务平台聚集了来自不同服务提供商提供的各式各样的小程序/场景，通常来说这些场景间信息不互通，没有一套共享的数据体系，因而即使是同一品牌同一类目下的产品的属性也无法完全对齐（如不同小程序中售卖的iPhone 14具有不同的商品ID，类别名称，比如在一个小程序中类别为电子产品，在另外一个小程序中类别为电子）。为了减小由于这些潜在问题带来的差异及其对于建模性能的影响，同时也更好的利用这些交互信息，我们基于实体图谱进行预训练，希望通过这样的方式来引入实体粒度的信息以实现泛化性更强的预训练。为了更好的利用图谱中的拓扑结构信息以对图谱中节点的表征进行增强，我们在实体图谱通过图卷积的方式来得到了图谱中各个实体的维表征。

为了让实体图谱可以成为跨域对齐的关键桥梁，我们将各个域的数据通过item-entity映射的方式进行拆解，从而将用户在item维度的行为数据“解构”成entity维度的行为数据，通过这样的方式，用户在不同域的行为可以在entity维度得到统一表示。给定源域中的user，基于统一的映射函数，“解构”过程基于下述方式进行：。通过从检索中每个entity的表征，我们可以得到在源域中的表征，其中H为每个域中的序列长度最大值。

为了更好的探究用户在多个源域的多种兴趣，我们基于attention机制来更好的学习可迁移的用户表征。给定用户在多个源域的表征集合，我们使用包含M个兴趣核（即）的self-attention做多兴趣抽取。首先，我们将用户在多个源域的表征concat后得到，并以以下方式抽取第个兴趣表征：

其中为兴趣抽取的权重矩阵。在经过M次兴趣抽取后，我们得到多兴趣表征集合，其中为兴趣集合。为了更好的结合用户在多个源域的多个兴趣表征，也更好的区分它们在不同域的重要性，给定多兴趣表征集合，我们对其进行自适应的融合，从而得到用户的通用表征：

其中和分别为权重向量和矩阵。

在得到用户和实体的表征后，我们对实体导向的预训练损失函数进行定义。给定源域中的行为记录，通过，我们可以将其映射成实体维度的表示，其中且。需注意的是，一条行为记录可以映射到多条实体维度的记录。总体而言，我们将实体维度的行为记录记为。对于每条训练样本中的，我们可以得到其对应的表征和，然后得到预测结果，即：

基于该预测结果，我们可以得到实体导向的预训练模块的损失函数：

需注意的是，在工业场景中，由于图谱规模巨大，而推荐系统的耗时要求使得我们仅能使用二阶的图卷积，因此相比于商品维度的预训练而言，实体导向的预训练可以使得我们在图卷积中包含更多的结构信息（即entity→entity→entity vs item→entity→entity，由于item→entity→entity需先使用进行映射，因而映射得到entity仅能使用一阶的结构信息，以图1为例，若为item→entity→entity，从该商品出发，对于Apple，我们只能知道它的相关产品有Phone，但从entity→entity→entity进行预训练，我们则可以知道Apple不仅有Phone这样的相关产品，还可以知道它和Samsung这个公司具有关联，从而进一步提升我们学习到的表征的泛化性)。

通常来说，工业环境中的实体图谱通常来说规模巨大，也会存在一些噪声，因而直接将实体图谱中的信息聚合起来可能会引入噪声，使得我们学习到的表征不具备鲁棒性，容易受到各种噪声的影响。为了进一步对实体的表征进行增强，我们希望引入聚类分析中原型的概念来使得表征空间中相近的实体聚集在一起，而不相似的实体的距离则被拉的更远，从而增强表征的鲁棒性。因此，我们提出基于原型的对比学习来增强实体的表征。我们使用一个维的矩阵来表示实体图谱中的个原型，对于每个实体，我们可以得到它和个原型的归一化相似度向，为了更好的引导原型表征的学习，我们希望对基于相似度向量对原型进行加权结合可以在一定程度上重新表示这个实体，因此给定实体，我们可以得到它基于原型的视图。

在得到了实体的基于图结构的视图和基于原型的视图后，我们希望通过对其进行约束使得相关的视图距离更近，而把不相关的拉的更远，因此我们提出基于原型对比学习的实体表征增强模块并基于InfoNCE定义了如下损失函数来对实体表征进行增强：

在预训练阶段，源域收集到的数据包含了用户在不同场景的行为，比如在制定旅行计划的时候用户会访问和出行相关的场景，而在需要找工作时会访问和在线求职相关的场景，然而，之前步骤中学习到的用户通用表征未将用户和场景相关的context考虑进来，这使得无法捕捉到在不同场景下的和场景相关的表征，因此我们希望借助于注意力机制来对context进行捕捉从而对用户表征进行增强。

给定源域中的user-entity对，我们可以得到和个prototype间的相似度分布，然后使用mask向量来保留和最相关的prototype，其中的第个值的定义如下：

           

其中旨在找到中第大的值。

由于原型可以作为实体图谱中的聚类中心，我们可以使用最相关的个不同原型来表示场景相关的context，从而捕获在不同场景下的语义信息对用户通用表征的影响。给定用户在任一兴趣下的表征，我们可以通过如下方式来得到对场景有感知的用户表征：

通过使用对原有的多兴趣用户表征集合进行替换，我们可以得到改进后的多兴趣用户表征集合。在此之后，我们可以将改进后的表征表示为。

• 源域预训练环节

其中代表了原型学习增强模块的相对权重。

• 目标域微调环节

由于对于目标域的未知的item，我们可以通过映射函数将其映射到不同的实体从而得到需要的表征，因而实体导向的预训练模块使得我们的方法具有很强的泛化性，可以快速的适用于目标域的不同场景。给定目标域，给定user-item对，和的基础特征和以及预训练表征和，我们可以得到对的偏好性分数：

以及最终的损失函数：

需注意的是，微调的训练任务也可以进行扩展，比如基于ESSM等结构对CVR预估进行优化。除此之外，通过计算和的内积作为对的偏好性分数，我们的模型也可以直接应用到冷启场景（即没有交互行为的场景）。

注：的预训练表征需要通过使用对进行映射后得到对应的实体列表，通过对这个实体列表中每个实体的表征做mean pooling来得到的预训练表征。

• Pre-training flow：基于收集到的多源行为数据和实体图谱，我们对PEACE模型进行天级的更新，使得模型可以学习到具备时效性的通用可迁移的知识。对于预训练模型，我们将其存储在ModelHub中，以方便下游使用时可以轻量化的加载模型参数。
• Offline inference flow：为了降低图神经网络对在线服务系统带来的负担，我们会提前对user和entity的表征进行infer，然后将其存储到ODPS表中，在下游微调时，仅需对最后的MLP网络进行微调，而无需重新进行图神经网络中的信息传播过程，从而大大降低在线服务时的延迟。
• Fine-tuning flow：由于新推出的小程序/服务没有交互数据，因此PEACE通过以下两步来提供推荐服务：

• 对于冷启场景，通过直接对user和item的表征做内积，我们可以获取到user对不同item的偏好程度从而直接进行排序；

• 对于已经累积了一定数据的非冷启场景，我们基于预训练的user/item表征和user/item的基础信息进行微调，然后将微调得到的模型用于在线服务。