【基于知识图谱的课程推广模型5500字】

--9-基于知识图谱的课程推荐模型目录TOC\o"1-3"\h\u20846基于知识图谱的课程推荐模型 1161021.1传统的协同过滤算法及其问题 1322321.2基于知识图谱的课程推荐模型 2164671.2.1基于TransE的课程实体向量化表示算法 2311471.2.2课程相似度计算 538531.2.3推荐列表生成 62781.3实验结果及分析 7289561.3.1实验数据集 7308691.3.2评价方案 876101.3.3实验结果 81.1传统的协同过滤算法及其问题在早期，协同过滤课程推荐算法通过统计学习的方式对学习者和课程的交互行为进行统计，得到特征并进行相似计算。在后期，随着深度学习的流行，研究者们开始利用深度学习框架去训练深度学习版本的协同过滤课程推荐算法。无论课程推荐算法如何进行改进，协同过滤课程推荐算法都是需要根据学习者对于课程的交互信息来进行数据的挖掘。学习者对课程的交互行为信息一般分为显式反馈和隐式反馈两种。显式反馈一般是指某个学习者确定表达出对某课程具有喜好的一些行为，如给予课程评分、参与课程讨论和获取课程证书等。隐式反馈一般是指无法确定或判断学习者对课程表达出的情感取向的行为，如对课程的浏览次数、点击课程的次数和停留课程的时间等。数据的反馈情况体现着学习者的兴趣偏好，因此会直接影响协同过滤算法的推荐效果。在推荐系统中，最常见的一个问题便是冷启动场景。特别是在业务初始阶段，由于学习者和课程的交互数据很少，无法构建完整的学习者-课程交互矩阵或者构建出来的交互矩阵会非常稀疏。稀疏的交互矩阵会导致模型推荐效果下降甚至无效。这是因为如果课程数量远大于学习者数量，那么在经过矩阵的拆分后，部分课程与学习者是不会出现交叉的情况，因而这些课程是无法被推荐的。常见的解决数据稀疏的方式是采用降维的方式，通过降低课程维度，使得学习者和课程之间的交互行为可见，然后再通过矩阵分解的方式去得到学习者和课程之间的预测评分。尽管这种方式进行了降维处理，但是推荐效果往往不佳。这是因为这种方法在降维的同时也会舍弃一部分学习者的数据。1.2基于知识图谱的课程推荐模型数据稀疏和冷启动的问题会导致推荐模型出现信息缺失和无法推荐的困境。因此，本章提出了一种基于知识图谱的课程推荐模型，简称为KGC模型。该模型可以将知识图谱知识融入传统的协同过滤推荐算法，有效弥补了协同过滤课程推荐算法忽略了课程本身内容信息，从而缓解数据稀疏性问题，增强推荐结果的可解释性。基于知识图谱的课程推荐模型框架如图4-1所示。模型的思想是把学习者实体和课程实体转化为图谱中的实体表示，通过课程相似度计算构建学习者和课程的预测评分矩阵，根据预测评分矩阵计算学习者对课程的预测评分并降序生成课程推荐列表。首先，KGC模型通过知识嵌入将慕课课程知识图谱中的课程实体转化为课程实体向量矩阵，并计算基于语义的课程相似度。模型还会利用学习者-课程交互行为信息构建学习者-课程的反馈交互矩阵，并计算基于行为的课程相似度。然后，KGC模型融合这两种课程相似度生成新的课程融合相似度矩阵。模型会基于课程融合相似度矩阵为每个学习者计算其未产生过学习行为的课程的预测评分，以获得新的学习者-课程预测评分矩阵。最后，KGC模型会根据预测评分矩阵为不同学习者生成个性化课程推荐列表。图4-1基于知识图谱的课程推荐模型框架1.2.1基于TransE的课程实体向量化表示算法在知识图谱的实体向量化表示方法中，研究者主要采用机器学习的方式，将知识图谱的实体和关系嵌入到连续的稠密的低维向量空间。向量化表示可以用来度量一个实体和另一个实体之间的距离和相互关系。因此其在推荐系统中的使用也十分广泛。TransE算法是一种经典的用于获取实体向量化表示的翻译模型，其思想是通过一个关系矩阵将实体向量和关系向量进行了映射。如公式（4-1）所示，慕课领域知识图谱中的结构化知识可以表示为无向图。其中V=(v1,v2,G=(V,E)（4-1）图4-2为TransE模型的说明图，图4-2-a为TransE算法的说明图，图4-2-b为实体和关系嵌入误差的说明图。如图4-2-a所示，知识图谱中的每个三元组都可表示为(Vh,r,Vt)，头部实体是Vh，尾部实体是Vt，r是头部实体和尾部实体之间存在V（4-2）在TransE算法中，预期两个实体向量能够通过关系向量联系起来，即头实体向量Vh加上关系向量r的预期值后接近尾实体向量VV（4-3）如图4-2-b所示，关系向量的预期值和真实值间存在差距，可以用s来表示。若s越小，则预期值和真实值之间的差距越小，头实体向量和尾实体向量之间的关系链接越准确。图4-2TransE模型说明图在得到两个实体向量和关系向量的表示后，模型可以通过欧几里得距离来定量地计算实体和关系的嵌入误差。如公式（4-4）所示，模型中定义了一个评分函数f，用于准确地度量一个三元组中实体和关系嵌入的准确程度，⋅2f(（4-4）模型将慕课领域知识图谱中的三元组集合作为正样本，并根据正样本构造负样本。模型的思想是使正样本的损失尽可能地小，负样本的损失尽可能地大。对于所有样本，课程实体向量化表示模型的目标函数定义为公式（4-5）。L=（4-5）其中，S表示慕课领域知识图谱中的三元组集合，S'(h,r,t)是根据三元组集合S生成的负例三元组集合。max(a,b)表示取a和b中的最大值，以确保每一个累加的子项值不小于0。γ表示间距的大小，用于控制在模型确定目标函数后，本章就可以使用神经网络中的误差反向传播算法来计算偏导数以更新模型参数，直到模型最终收敛或达到最大迭代次数。由于向量的初始化方式不同，值域的差异会很大，模型采用归一化的方式对初始向量进行预处理后，再使用反向传播算法计算。在反向传播的过程中，模型会计算目标和真实的损失值，利用梯度下降的方法来调整模型的参数。在使用反向传播算法计算时，模型采用小批量梯度下降算法进行梯度更新。梯度下降算法的批量大小会影响模型训练的效果。如果批量设置的量过大，模型训练可能不够充分，训练效果会出现“欠拟合”的情况。如果批量设置得过小，模型训练充分，但是训练时间会很长。因此，折衷的方案便是选择一个较小的批次大小去训练。在小批量大小的样本进行训练的情况下，模型会得到充分的训练，同时可以根据测试样本的效果来观察出模型参数迭代更新的方向，迭代的速度也不会很慢。模型训练算法如算法4-1所示。当模型的损失值不再下降的时候，模型的训练便达到了收敛的情况，此时可以确定实体和关系的向量。算法4-1课程实体向量化表示模型训练算法Input:dataset,i=1,2,...,NLearningrateSinglebatch_datamVectordimensionalspaced1Begin2InitializationparametersP3Whilenonstopconditiondo4Fori=1,2,...,Ndo5SelectThebatchdatacontainingmsamplesrandomlyfromthetrainingset;6Takeanegativeexampleforeachsample;7Calculatepartialderivative;8Gradientestimation;9Parameterupdate;10Endfor11Endwhile12End1.2.2课程相似度计算基于知识图谱的推荐算法中使用的相似度算法有基于课程语义的相似度和基于行为的课程相似度。模型首先使用学习者对于课程的反馈信息来计算基于行为的课程相似度，然后使用知识图谱中的图谱结构来计算基于课程语义的课程相似度，最后基于融合因子来聚合这两种课程相似度得到新的课程融合相似矩阵。（1）基于课程语义的课程相似度慕课领域知识图谱中的课程实体和关系可以映射到d维的向量空间中。如公式（4-6）所示，课程实体Ci可以嵌入为一个dC（4-6）其中，Epi代表课程实体Ci的嵌入向量在第在计算课程和课程的距离的时候，可以采用欧几里得距离来计算,计算公式如公式（4-7）所示。d(（4-7）在计算出课程与课程之间的距离后，模型可以通过归一化得到基于语义的课程相似度，计算公式如公式（4-8）所示。sim（4-8）计算公式中的下标kg指的是knowledgegraph，即基于知识图谱的课程语义相似度。如果simkg(Ci,Cj)取值为0，那么两门（2）基于学习者行为的课程相似度学习者对于课程的行为数据可以反应出学习者对于不同慕课课程的分类情况。假设推荐模型中包含m个学习者U=(U1,U2,...,Um)和n门课程C=(C1,R=（4-9）课程向量Ci可以表示为一个mC（4-10）其中，Rpi代表课程实体Ci在第模型可以利用余弦相似度公式计算出基于学习者行为的课程相似度，计算公式如（4-11）所示。sim（4-11）计算公式中的下标ub指的是userbehavior，即基于学习者行为的课程相似度。如果simub（Ci，Cj）的值为0，那么代表课程Ci和课程Cj完全没有关联关系；如果simub（Ci，C（3）课程融合相似度在得到两种课程相似度后，模型通过融合因子α将两种相似度以加权的方式聚合在一起。具体计算方法如公式（4-12）所示。sim(+(1（4-12）其中为融合因子，取值范围为[0,1]，代表了基于知识图谱的课程语义相似度在最终的课程相似度中所占据的比例。如果越大，那么课程实体本身的语义关系的重要性越强，如果越小，那么基于学习者行为的关系权重就越大。模型通过调参实验的方式得到比较好的作为融合因子的取值，以优化相似度的计算效果。在得到课程融合相似度后，课程相似度矩阵可以用一个n×S=（4-13）其中，Sij代表了课程Ci和课程Cj1.2.3推荐列表生成在得到课程相似度矩阵S后，模型可以计算出学习者u对于未知课程i的预测评分puip（4-14）其中，N(u)表示学习者u评分过的课程集合，S(i,k)表示与课程i最相似的k图4-3简单介绍了KGC模型中生成推荐列表的流程。模型经过一系列的操作后给指定学习者推荐课程列表，列表中的课程会根据学习者的预测评分进行排序推荐。在生成推荐课程列表时，模型先计算学习者对其预测评分高的课程列表，然后通过评分的大小进行降序排列。最后，排序完后的序列中前K门课程便作为TOP-K课程推荐给对应的学习者。这些课程的预测评分越高，证明学习者对于课程的兴趣程度越高。图4-3生成课程推荐列表流程图1.3实验结果及分析本节将对本章提出的KGC模型和基于协同过滤的课程推荐模型进行对比实验。首先简要介绍了本章实验使用的慕课平台数据集的相关信息，然后说明了关于实验结果的评价标准，最后给出了不同融合比例下的KGC模型实验结果，并与基于课程的协同过滤算法进行推荐性能的比较。1.3.1实验数据集本文使用的数据集是慕课平台数据集，主要描述了学习者在不同慕课平台下的学习情况。本文爬取的数据集来自于中国大学MOOC（icourse）和慕课网（imooc）。如表4-1所示，数据集的统计信息包含学习者数据、课程数据和学习者与课程的交互数据。表4-1慕课平台数据集数据名称MOOCData1MOOCData2学习者数量18925019课程数量987318392学习者行为数据记均学习者-课程交互行为数量99.4321.87由于数据量比较大，在处理过程中会导致模型训练速度很慢，因此无法直接用在实验当中，所以会选择多种方法对数据进行抽样和筛选。具体的数据处理方法如下。（1）系统抽样。按照慕课课程来将学习者分为多组多轮抽取，然后在每一组抽取出5人，每组抽取人数至最终满足8000名学习者。（2）分层抽样。通过学习者的选课的频数进行排序，然后按照10个学习者一个区间的方式切分成多个层次，每个层次按照比例选择对应的人数，最终满足8000名学习者为止。（3）随机抽样。从整体的数据当中随机抽取8000名学习者。为了保证抽样的充分性，每种方式会重复抽取三次，然后比较平均值，将出现多次的结果作为选中的候选学习者。1.3.2评价方案推荐系统的实验一般可以大致分为TopK推荐结果和评分预测两种预测方法。评测的方法主要是计算模型在测试集的误差值。首先，本章通过模型训练推荐算法模型，然后，使用训练好的模型对测试数据集的用户评分进行评估，与测试集的标注评分进行比较。因此，本章采用了准确率、召回率和F1分数来衡量推荐系统的推荐性能。准确率的定义如公式（4-15）所示，Precision=（4-15）NTP代表了推荐系统推荐且学习者实际上已经选择的课程的样本数量，NFP召回率定义如公式（4-16）所示，Recall=（4-16）NFNF1是统计学中用来衡量二分类模型精确度的一种指标。它同时兼顾了分类模型的精确率和\t"/item/F1%E5%88%86%E6%95%B0/_blank"召回率。F1的定义如公式（4-17）所示，F1=2（4-17）1.3.3实验结果推荐算法融合了两种课程相似度，分别为基于知识图谱的课程语义相似度和基于学习者行为的课程相似度。KGC模型为每个学习者通过评分预测的方式为学习者推荐课程。实验选取的近邻值k为8。实验中会尝试用不同的融合比例来确定KGC模型的最佳融合因子α。α的取值区间为[0，1]。当融合因子取值为0时，代表当前算法为传统的协同过滤算法，当融合因子取值为1时，代表当前算法为基于知识图谱课程内容的推荐算法。如表4