融合知识图谱的矩阵分解推荐算法

摘要：针对传统推荐算法中存在的数据稀疏性问题，在矩阵分解推荐算法的基础上提出了融合知识图谱的推荐算法MFBKG。首先使用TransH算法将知识图谱中的实体和关系映射为低维连续的向量，利用余弦公式计算实体向量之间的语义相似度；然后，将实体向量之间的语义相似度融入矩阵分解推荐算法的优化函数中，同时利用评分矩阵和语义关系优化用户隐因子向量和项目因子向量；最后，在真实的数据集上对算法的性能进行测试，结果表明，在MAE和RSME两个性能指标上，比其他相关算法具有更好的表现。

关键词：个性化推荐；矩阵分解；知识图谱；语义相似度

中图分类号：TP301        文献标识码：A

文章编号：1009-3044（2023）25-0014-03

开放科学（资源服务）标识码（OSID） ：

0 引言

随着互联网技术的蓬勃发展，产生了海量的数据信息，为了帮助人们快速有效地筛选信息，个性化推荐系统应运而生[1]。推荐系统从用户的历史行为和数据出发，建立相关的模型挖掘用户的需求和兴趣，并以此为依据从海量信息中为用户筛选出用户可能感兴趣的信息。然而，传统的推荐算法通常存在数据稀疏以及冷启动等问题，影响推荐算法的性能，需要借助一些辅助信息来提升推荐算法的性能，例如，用户的社交网络，项目的文本信息以及图片信息等[2-4]。知识图谱（Knowledge Graph，KG） 是由知识组成的有向异构信息网络，其中包含了大量的实体和关系，蕴藏了丰富的实体之间的结构信息和语义信息，将知识图谱融入推荐算法中，能够更加精确地建模用户偏好与项目特征，从而可以较大程度上提升推荐效果[5]。

本文在矩阵分解算法[6]的基础上，提出一种融合知识图谱的矩阵分解推荐算法（Matrix Factorization Based Knowledge Graph， MFBKG） 。

1 问题定义及相关算法

1.1 数据定义

用户集合、项目集合以及知识图谱可以使用一个四元组表示[S=<U，O，G，X>]，其中[U={u1，u2，…，um}]表示用户集合，[O={o1，o2，…，on}]表示项目的集合，G表示知识图谱，G=<E，R>，E表示知识图谱中的实体集，R表示知识图谱中的关系集。X表示用户对项目的评分矩阵，[xij]表示用户[ui]对项[oj]的评分，D表示用户与评分项目的二元组的集合，即[（ui，oj）ϵD]。

1.2 矩阵分解算法

矩阵分解算法通过将用户评分矩阵X使用机器学习的方法分解为一个代表用户偏好的用户矩阵P和一个代表被推荐项目特征的项目矩阵Q，用户矩阵中的行向量和项目矩阵中的列向量的点积即为行向量用户对列项目的评分。定义如公式（1） 所示：

[X=PQT=p1p2…pm q1 q2…qn]     （1）

其中，[X]为用户对项目的预测评分矩阵，矩阵[PϵRm×d]，矩阵[QϵRn×d]，[d]是隐因子向量的维度，[d≤m，n]。向量[pi]表示用户隐因子向量，向量[qi]表示项目隐因子向量。预测评分的任务转变为计算矩阵[P]和[Q]，一旦计算完成，就可以使用[pi]和[qj]的内积计算出用户[ui]对商品[oj]的评分。因为用户对项目的评分不仅取决于用户和项目之间的某种关系，还受到用户自身特性和项目自身特性的影响，所以预测用户评分时需要加入用户和项目的偏置项，预测评分计算公式如下：

[xui=μ+bu+bi+puqTi]         （2）

[μ]为所有项目的总平均分，[bu]为用户偏置项，[bi]为项目的偏置项。

1.3 融合知识图谱的矩阵分解推荐算法

TransH算法[7]是一种知识图谱表示学习算法，通过训练可以得到知识图谱中实体和关系的低维向量，然后计算实体之间的相似度，本文中计算相似度的方法采用余弦相似度公式，设[Bi]和[Bj]分别为项目[oi]和[oj]在知识图谱中对应的向量表示，则项目[oi]和[oj]的相似度计算方法如公式（3） 所示：

[soi，oj=cosBi，Bj=BiBjBiBj]    （3）

计算出项目之间的相似度后，在MF算法优化函数中，增加项目隐因子向量[qi]与其近邻集合中所有项目隐因子向量的均值差的二阶Frobenius范数这个限制条件，这样算法中参数的学习将受到两个方面的限制：1） 学习评分值应该尽可能接近实际的评分值。2） 项目的隐因子向量应该与知识图谱中与其语义相近的项目的隐因子向量尽可能接近。改进的算法优化函数如下所示：

[L（p，q）=minp*，q*12（u，oi）∈D（xu，oi-xu，oi）2]

[+λ2pu2F+qi2F+bu2F+bi2F+α2oiqi-1N（oi）oj∈N（oi）s（oi，oj）qj2F]     （4）

通过增加语义限制条件，使得即使在评分数据比较稀疏的场景中，算法中的参数也能得到很好的优化，从而训练得到的用户隐因子和项目隐因子也更加精确。与MF算法一样，文中也采用随机梯度下降的方法学习算法中的参数。

[∂L∂pu=-euiqi+ λpu]            （5）

[∂L∂qi=-eui qu+λqi+αqi-1Noioj∈Noisoi，ojqj-αokϵN（oi）sok，oiNoi（qk-1N（ok）ojϵN（ok）s（ok，oj）qj）]     （6）

[∂L∂bu=-eui+λbu]               （7）

[∂L∂bi=-eui+λbi]                （8）

其中，[eui=xui-xui]表示用户u对项目[oi]真实评分与预测评分的差，[N（oi）]为与项目[oi]语义相似的近邻集合，[N（oi）]为项目[oi]近邻集合的数目。对应参数向量沿着负梯度的方向不断迭代更新，学习率为[η]，其更新公式如公式（9）～（12）所示：

[p（k+1）u=p（k）u-η∂L∂p（k）u]          （9）

[q（k+1）i=q（k）i-η∂L∂q（k）i]          （10）

[b（k+1）u=b（k）u-η∂L∂b（k）u]          （11）

[b（k+1）i=b（k）i-η∂L∂b（k）i]          （12）

算法1 MFBKG算法

输入：用户评分矩阵X、知识图谱G、隐因子向量维度d、正则项参数[λ]、平衡因子[α]、学习率[η]、最大迭代次数Z

输出：用户隐因子矩阵P和项目隐因子矩阵Q

1.使用TransH算法计算G中实体及关系的低维向量

2.FOR EACH [oiϵO] DO

3. FOR EACH  [ojϵO  oi≠oj] DO

4.  用式（5） 计算项目[oi]和[oj]之间的相似度[s（oi，oj）]

6. END FOR

7.END FOR

8.WHILE j<Z DO

9.  FOR EACH [（ui，oj）ϵD]。

10.  用式（9）～（12）更新P、Q、[bu]和[bi]

11. END FOR

12.j++

13.END WHILE

14.RETURN P，Q

2 实验结果及分析

2.1 实验数据集

文中采用文献[5]中的电影数据集，该数据集在MovieLens-1M数据集的基础上采用Microsoft Satori构建数据集的知识图谱。数据集中包含：2 347个实体、20 782组关系、1 000 209条用户对电影的评分。实验采用5-fold交叉验证，训练集所占比例为80%，测试集所占比例为20%。

2.2 评价标准

本文针对所提算法采用的评价指标是平均绝对误差（MAE） 和均方根误差（RMSE） 。MAE和RMSE的值可以通过计算项目的预测评分与实际评分之间的偏差得到，值越小证明算法的推荐精度越高。

2.3 参数设置

MFBKG算法中包含多个超参数，如：迭代次数Z、学习率[η]、正则项参数[λ]、平衡因子[α]、隐因子向量维度d。实验中参数值设置为：Z=50、[η]=0.001、[λ]=0.01，TransH算法中实体和关系向量的维度为100。

2.4 实验对比

将本文提出的MFBKG算法与概率矩阵分解算法（PMF） [1]以及SVD++[6]算法进行对比实验。

2.4.1 算法性能分析

实验中设定隐因子向量维度d分别为：10、20、30、60、80、100、120，三种算法在MAE性能指标的对比如图1所示。PMF算法在d为30时达到最优为0.691，SVD++算法在k为80时达到最优为0.683，MFBKG算法在d为60时达到最优为0.678。三种算法达到最优后随着d的增加，性能不同程度的降低。

相同的设置下，三种算法在RMSE性能指标上的对比如图2所示。PMF算法在d为30时达到最优为0.877，SVD++算法在d为80时达到最优为0.870，MFBKG算法在d为60时达到最优为0.864。

从MAE和RMSE两种性能指标的对比分析看来，SVD++算法和MFBKG算法要明显优于PMF算法，这是因为PMF算法只考虑了评分矩阵的分解，没有考虑其他辅助信息，SVD++算法在评分矩阵的基础上考虑了用户的隐式反馈，对算法的性能有所提升，MFBKG算法在三种算法中最优，表明知识图谱所包含的语义关系对推荐算法的性能提升最大。

2.4.2 [α]值对算法性能的影响

参数[α]控制MFBKG算法中项目之间语义关系对算法整体性能的影响力度。其值越大表明矩阵P和Q受项目之间语义关系的影响就越大。如图3所示，当[α]为0时，MFBKG算法退化为SVD算法，当[α]为0.4时，MFBKG算法性能达到最佳，之后随着[α]值的增加，性能逐渐下降。

2.4.3 近邻集合的数目N对算法的性能的影响

N的值也会对MFBKG算法的优化过程产生影响。图4显示了随着N值的增大，算法在MAE和RMSE上的表现越好，当N达到60时，性能达到最优，此后算法性能趋于稳定，因为随着项目邻域集合的增加，它们与项目之间的语义关联越弱，因而对推荐算法性能的提升越小。

3 结束语

本文主要研究了将知识图谱表达的语义关系融入矩阵分解推荐算法中，以提高推荐算法性能的方法。首先利用TransH算法将知识图谱中的实体和关系转为包含语义关系的图谱向量，接着计算实体之间的语义相似度，然后在矩阵分解推荐算法的优化函数中增加语义相关性对项目隐因子向量优化的限制，使得语义相似的项目隐因子向量应该更接近。最后在真实的数据集中，对提出的算法进行了性能测试并与其他相关算法进行了对比，实验表明本文提出的算法在MAE和RMSE性能指标上具有更好的表现。知识图谱所蕴藏的项目之间语义关系非常丰富，如何更有效地利用知识图谱提升推荐算法的性能是本文下一步研究的目标。