基于机器学习的卵巢癌蛋白质质谱数据分类研究

[15]、梯度提升机）的性能水平；评定模型的准确性及泛化能力，为基于质谱数据的卵巢癌辅助诊断给出方法学参考。1.4研究方案设计为处理上面陈述的问题，本研究设计出如下的数据分析及建模方案：数据获取与整合：从`data/`目录载入全部独立的样本CSV文件，把这些文件组合成一个统一的数据矩阵，而其中行代表着样本，列对应着M/Z特征，还为每个样本添加上其类别标签（0代表对照组，1象征癌症组）。预处理：对整合后的那些数据进行M/Z范围筛选，删掉低于500Da且高于11000Da的特征，从而去掉潜在的噪声和低信息密度的区域。特征选择：借助F-score方法测评M/Z筛选后剩余特征的区分能力，选出得分最高的K个特征（本研究设定）构成最终特征子集。模型构建：把带有选定特征的数据集划成训练集，借助训练集分别训练决策树、随机森林以及梯度提升机模型。性能评估：于测试集上衡量各模型的分类性能，求取准确率、精确率、召回率、F1分数与AUC，采用5折交叉验证对模型的稳定性与泛化能力开展评估。结果分析与可视化：对比不同模型所展现的性能，考量模型给出的特征重要性数值，再生成包含平均信号强度、F-score分布、均值差、PCA降维以及特征重要性在内的可视化图表。流程图如下：图1.1方案设计流程图第2章数据预处理2.1数据集本研究使用的数据来源于数据集`OvarianDataset8-7-02`。该数据集共包含253个样本，分为两类：卵巢癌患者组（OvarianCancer,）和正常对照组（Control,）。每个样本的原始数据为一个包含两列（M/Z和Intensity）的CSV文件，记录了15154个不同的M/Z值及其对应的信号强度。数据被整理存放在`data/OvarianCancer`和`data/Control`两个子目录中。2.2数据预处理与整合把所有样本相关的CSV文件读取，把每个样本的Intensity值作为该样本的特征向量，以M/Z值作为特征的识别标志，把每个样本数据整合为一个统一的数据矩阵，其中行对应的是样本对象，列对应着M/Z特征，对每个样本添加类别标签（0代表Control，1可代表卵巢癌）。本研究在数据预处理的时候实施了全面的数据清洗手段，我们对原始质谱数据进行了缺失值方面的检查，发现部分样本于某些M/Z值处存在信号丢失现象，这些缺失大概是因为仪器采集过程中的随机波动以及样本制备差异造成，针对这些显现的缺失值，我们采用按照相似M/Z点信号强度计算的局部平均值来填充，不是简简单单地删除或者用零替换掉，如此能更好地保存数据的生物学意义。我们辨认并处理了异常的测量值，采用计算每个特征在同类样本里的均值和标准差的方式，将偏离均值达到3个标准差之多的测量值看成潜在异常，用中位数替换来降低其对后续分析的影响，这些数据清洗流程确保后续特征选择与模型构建基于高质量数据实施，大幅提升了最终分类模型的可靠性与稳定性。基于文献对原始15154个特征进行M/Z范围筛选。认为的区域主要包含化学噪声或基质信号，而的区域信号强度低且变化平缓，信息量有限。因此，仅保留M/Z值介于500Da和11000Da之间的特征列，共计8843个特征。此步骤旨在去除部分噪声和非信息性变量。图2.1各个样本均值图2.2各个特征下的均值（去除冗余）图2.2呈现出原始数据中所有样本的平均信号强度分布样貌，从图中明显能观察到，在M/Z低于500Da的范围出现了非常高的信号峰，这些峰主要是由化学基质成分以及低分子量污染物引起的，一般包含的生物学方面信息有限，在M/Z超出11000Da的区域范畴，信号整体偏弱且波动程度大，说明这些区域的信噪比不高。图2.2表明了应用M/Z范围筛选（500-11000Da）之后平均信号强度的分布情况，跟原始的数据对照，筛选的数据去除了M/Z极低和极高区域的噪声，促使中间区域的信号模式明显起来，尤其是在2000-5000Da这个范围内，可见多个明显的峰出现，这些峰多半代表了与卵巢癌相关的蛋白质或多肽片段。两组（癌症和对照）样本在某些峰位置的高度差异，初步暗示了这些位置可能包含区分两类样本的有效信息，为后续的特征选择提供了重要线索。第3章特征选择3.1F-score算法原理为了从8843个预处理后的特征中进一步筛选出最具区分能力的特征子集，本研究采用了基于F-score的过滤式特征选择方法。F-score计算公式如下：

(3.1)其中，xi+是第i个特征在正类（比如癌症组，用+表示）样本中的平均值。Xi−是第i个特征在负类（比如对照组，用−表示）样本中的平均值。Xi是第i个特征在所有样本中的总平均值。其中分子xi+−xi2+(between−groupvariance),如果一个特征在两个类别中的平均值相差很大，那么这个分子就会很大。N因此，F-score中Fi计算的是特征iF-score值高意味着组间差异远大于组内差异。也就是说，这个特征在不同类别之间的平均值差异显著，而在同一类别内部的值相对集中。这样的特征具有很强的区分能力，是进行分类的好特征；F-score值低意味着组间差异相对于组内差异较小。这个特征在不同类别间的平均值差异不明显，或者在类别内部的值非常分散。这样的特征区分能力较弱。3.2结果分析在项目中，计算每个M/Z特征的F-score，然后选择F-score最高的K个特征（比如Top100）来进行后续的模型训练，这就是基于F-score的特征选择方法。使用Scikit-learn库的`SelectKBest`功能结合`f_classif`（计算ANOVAF值，与上述F-score概念类似）计算了所有8843个特征的F-score，并选取了得分最高的个特征用于后续的模型构建。表3.1列出了F-score得分最高的Top20特征及其对应的M/Z值。表3.1F-score最高的Top20特征表Feature(M/Z)F-Score4003.6449243.2080804004.8260215.1204194002.4640212.3055828035.0581191.9637068036.7312191.1030638033.3851190.6033888038.4046187.6983548031.7122187.5371618030.0396183.8637898040.0781181.7801408028.3671180.5407088014.9935180.1636408013.3226179.9646548016.6646179.8776338018.3359178.9812918011.6519178.2572618026.6948178.0355968020.0073178.0342508021.6789176.8280868025.0227176.705616这些选定特征在两组间的平均信号强度差异和PCA降维可视化结果均表明它们包含了有效的分类信息。图3.1按绝对平均强度差选择的前40个特征图3.2PCA投影（2个分量）选定特征图3.1展示了按F-score选出的前100个特征在癌症组和对照组间的平均信号强度差异。从图中可以看出，大多数选出的特征在两组间表现出显著的强度差异，这直接支持了这些特征具有区分样本类别的能力。特别是M/Z值为4003.6的特征，显示出最大的组间差异，癌症样本的平均信号强度明显高于正常样本，这表明该M/Z值可能对应于在卵巢癌患者体内特异性表达上调的某种蛋白质或多肽。类似地，M/Z值为4004.8、3969.5和618.1等特征也展现出较大的组间差异。这种差异的生物学意义在于，它们可能代表了卵巢癌特有的蛋白质标志物或其降解产物，这些分子在癌症发展过程中参与关键的细胞信号通路或代谢过程。从统计学角度看，较大的组间差异意味着这些特征能够为分类算法提供更强的判别信号，从而提高模型区分癌症和正常样本的能力。这些发现与既往研究报道的卵巢癌蛋白质组学特征部分一致，进一步验证了我们特征选择方法的有效性。通过此步骤，最终用于模型训练的特征维度被成功降至100维。本研究除了主要采用的F-score（ANOVAF值）特征选择方法外，还探索了多种其他特征选择技术以进行比较和验证。首先，我们应用了基于互信息（MutualInformation）的特征评分，该方法能够捕捉特征与目标变量之间的非线性关系，弥补F-score主要检测线性关系的局限性。其次，我们使用了递归特征消除法（RecursiveFeatureElimination,RFE），结合随机森林基模型，通过迭代地训练模型并移除最不重要的特征，逐步筛选出最优特征子集。此外，我们还尝试了基于L1正则化的Lasso回归进行特征选择，该方法能够自动将不重要特征的系数压缩为零，实现特征筛选。比较不同方法的结果发现，虽然各方法选出的具体特征集合有所差异，但核心特征（如M/Z4003.6）在多种方法中均被识别为重要特征，这增强了我们对所选特征可靠性的信心。最终，考虑到计算效率和结果稳定性，我们选择了F-score方法的结果用于后续分析，但其他方法的探索为特征选择过程提供了重要的验证和补充视角。第4章数据分类与结果分析4.1模型构建与评估将包含100个选定特征和类别标签的数据集按7:3的比例随机划分为训练集和测试集。在划分过程中，采用分层抽样(stratification)以确保训练集和测试集中两类样本的比例与原始数据集保持一致，训练了决策树(DT)、随机森林(RF)和梯度提升机(GB)三种模型。使用测试集评估模型的性能，计算了以下指标：准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1分数(F1-Score)和受试者工作特征曲线下面积(AUC)。同时生成了分类报告(ClassificationReport)和混淆矩阵(ConfusionMatrix)。为了更稳健地评估模型的泛化能力，还采用了5折交叉验证(5-FoldCross-Validation)，计算了每种模型在5折交叉验证中各项评估指标的平均值。其中精确率表示模型预测为正类(在本研究中，如预测为卵巢癌样本)的样本中，实际为正类的比例，计算公式为： (4.1)召回率表示实际为正类的样本中，被模型正确预测出来的比例，计算公式为： (4.2)F1值是综合考虑精确率和召回率的指标，它的计算公式为： (4.3)通过对比这些指标，可以更全面地了解不同模型在识别卵巢癌样本和对照样本方面的性能优劣。例如，如果一个模型的准确率较高，但精确率较低，说明该模型虽然能够正确预测大部分样本，但在识别卵巢癌样本时可能存在较多误判；而如果召回率较低，则可能会遗漏很多实际的卵巢癌样本。通过对这些指标的综合分析，可以深入了解不同算法在处理卵巢癌质谱数据时的优势与不足，为实际的临床应用提供有价值的参考。4.2决策树模型(DT)4.2.1决策树模型(DT)算法原理决策树模型(DT)是一种基于树形结构进行决策的分类模型。其基本原理是通过对特征空间进行递归划分，构建出一棵决策树。假设数据集为，特征集合为，决策树的构建过程是不断选择最优特征及其对应的划分点，将数据集划分为不同的子集。选择最优特征的依据通常是信息熵、信息增益比或基尼指数等指标。以信息增益为例，信息增益的计算公式为： (4.4)其中，表示数据集的信息熵，用于衡量数据集的不确定性，计算公式为： (4.5)这里是数据集中类别（在本研究中为卵巢癌样本和对照样本两类）的数量，是第类样本在数据集中所占的比例。是根据特征的取值划分得到的子集，和分别是子集和数据集的样本数量。选择信息增益最大的特征作为当前节点的分裂特征，不断递归这个过程，直到满足停止条件（如节点样本数小于阈值、信息增益小于阈值等），从而构建出决策树模型，使用训练集数据对模型进行训练，让模型学习数据中的分类模式。4.2.2决策树模型(DT)结果分析图4.1决策树混淆矩阵根据决策树混淆矩阵图显示，在真实标签为Cancer的样本中，有43例被正确预测为Cancer（真阳性，），6例被错误预测为Normal（假阳性，）；在真实标签为Normal的样本中，有21例被正确预测为Normal（真阴性，），6例被错误预测为Cancer（假阴性，）。决策树模型的敏感性为87.8%（43/49），特异性为77.8%（21/27）。模型在Cancer样本识别上表现相对较好，但对Normal样本的错误率较高。这表明决策树可能倾向于将样本分类为Cancer类别，这在临床上可能导致一定程度的过度诊断。特征重要性分析有助于理解模型进行分类决策时主要依赖哪些特征。以下展示决策树模型计算出的Top20最重要特征：图4.2决策树20个重要特征度决策树为基于规则的一种分类方式，以递归的方式对特征空间进行二分割以构建预测规则，在这一研究里面，决策树模型凭借信息增益准则进行构建操作，把信息熵作为节点纯度的度量依据，该模型的一个突出优点是其决策过程直观好说明，每个内部节点代表了对某个M/Z特征值的测试，每个分支呈现出测试的结果，每个叶节点均对应一个类别标签。在针对测试集的测试里，决策树实现了84.2%的准确率和0.828的AUC数值，表现还算可以，不过比另外两种集成方法稍逊一筹，交叉验证呈现出的结果显示，决策树平均呈现的准确率为80.5%，标准差相对偏高，反映出其稳定性还得提升。经由混淆矩阵分析可看出，决策树识别癌症样本方面表现挺好，但正常样本的识别精确率稍微低了点，这兴许跟树的深度限制有联系，特征重要性分析说明，M/Z值为4003.6的特征在构建树这一过程中起了关键作用，这与F-score排序的结果相吻合，增进了该特征的生物学意义。4.3随机森林模型(RF)4.3.1随机森林模型(RF)算法原理随机森林模型(RF)是采用决策树的集成学习模型，通过搭建多个决策树并整合它们的预测结果，提升模型的稳定性与泛化能力，处于训练进程中，随机森林对样本抽样采用有放回形式，从原始训练集里选取多个不同的子数据集，每个子数据集都被拿去训练一棵决策树，假定原始训练集的大小是，这样每次抽样得到的子数据集与原始数据集有一定的差异，增加了模型的多样性。同时，在构建每棵决策树时，随机森林不是在所有特征中选择最优特征，而是在每次分裂节点时，从所有特征中随机选择一个子集，在这个子集中选择最优特征进行分裂。假设特征总数为，每次随机选择的特征子集大小为(通常)。设随机森林由棵决策树组成，对于一个新的样本，随机森林的预测结果为： (4.6)其中，是指示函数，当括号内条件成立时为1否则为0。是类别标签通过多数投票的方式确定随机森林对样本的最终预测类别。这种方式综合了多棵决策树的结果，有效降低了模型的方差，提高了泛化能力。4.3.2随机森林模型(RF)结果分析图4.3随机森林混淆矩阵随机森林模型的混淆矩阵分析结果如图所示。该混淆矩阵清晰地展示了模型在测试集上的预测性能细节。在正常测试样本中，有22例被正确预测为正常（真阴性，），仅1例被错误预测为正常（假阴性，）；在患病测试样本中，有48例被正确预测为正常（真阳性，），仅4例被错误预测为正常（假阳性，）。这反映随机森林模型在识别癌症样本时表现十分突出，敏感性高达95.7%，这对临床应用来说极为关键，因为它把漏诊的风险降到了最低限度，模型依旧维持了较高的特异性，占比92.5%，有效把控了过度诊断的概率，模型针对两类样本的识别表现俱佳，这体现出随机森林算法在处理高维质谱数据时的优越性，它能切实发挥多个决策树的集成功效，降低单棵决策树过拟合的几率，进而增强了对噪声的稳健性，混淆矩阵也呈现了模型预测失误的样式——假阳性率略高于假阴性率，这提醒我们在实际使用时也许需要进一步调整决策阈值，从而在敏感性和特异性二者间获得更理想的平衡。特征重要性分析有助于搞明白模型做分类决策时主要依靠的特征是什么，以下呈现随机森林模型计算出的前20个最关键特征：图4.4随机森林20个重要特征度随机森林作为一种集成学习途径，借助构建多个决策树，把它们的预测结果结合起来提高整体性能和泛化能力，在此次开展的本研究里，我们构建起一个有100棵决策树的随机森林，每棵树都在经过随机抽样得到的训练集上开展训练，还会在特征子集里找出最佳分割点。该双重策略——“特征随机化”和“样本随机化”，有效降低了模型过拟合风险，测试结果说明，随机森林模型实现了93.4%的准确率以及0.994的AUC，表现明显比单棵决策树要好，通过五折交叉验证得出平均准确率为92.3%，且各折在结果上的波动不大，说明模型具备较好的稳定性。由混淆矩阵分析可知，模型在两类样本识别当中表现十分出色，尤其是对癌症样本的识别敏感度达到了95.7%，特征重要性分析说明，除了M/Z4003.6这个外，M/Z4004.8以及3969.5等特征在随机森林模型里也发挥了重要的效能，这说明有多个潜在的卵巢癌生物标志物。4.4梯度提升决策树模型(GBDT)4.4.1梯度提升决策树模型(GBDT)算法原理梯度提升决策树模型(GBDT)是一种迭代的提升算法，GBDT在每一步拟合上一步模型的残差，通过不断拟合残差来逐步提高模型的预测准确性。假设第次迭代时的模型为，其对样本的预测值为，真实值为，则残差为： (4.7)在第步，新构建的决策树拟合的是残差。为了使模型更加稳健，通常会在拟合残差时引入一个学习率，它控制了每次提升的步长，避免模型在训练过程中过度拟合。更新后的模型为： (4.8)通过多次迭代，不断拟合残差并更新模型，最终的GBDT模型为： (4.9)其中，为迭代次数。在每次迭代中，GBDT会根据上一轮模型的残差，寻找最佳的决策树来拟合这些残差，使得模型能够不断逼近真实的函数关系，从而逐步提高模型的预测精度。在训练过程中，决策树的构建同样基于对特征空间的划分，类似于决策树模型的构建过程，但这里是针对残差数据进行的。通过不断迭代优化，GBDT能够自适应地学习数据中的复杂非线性关系，在处理复杂的数据分布和预测任务时表现出良好的性能。4.4.2梯度提升决策树模型(GBDT)结果分析图4.5梯度提升混淆矩阵梯度提升模型混淆矩阵显示，在真实标签为Cancer的样本中，有47例被正确预测为Cancer（真阳性，），2例被错误预测为Normal（假阳性，）；在真实标签为Normal的样本中，有25例被正确预测为Normal（真阴性，），仅2例被错误预测为Cancer（假阴性，）。梯度提升模型的敏感性为95.9%（47/49），特异性为92.6%（25/27）。梯度提升在两类样本的识别上都表现优异，尤其在Normal样本的识别上比随机森林更准确，假阳性率更低。整体来看，梯度提升模型在两类样本的平衡性能上略优于随机森林，提供了最佳的综合准确率。这三个混淆矩阵表明集成方法（随机森林和梯度提升）显著优于单一决策树，而梯度提升模型在整体分类平衡性上表现最佳。特征重要性分析有助于理解模型进行分类决策时主要依赖哪些特征。以下展示随机森林模型计算出的Top20最重要特征：图4.6梯度提升20个重要特征度梯度提升作为按顺序集成的一种方式，借助迭代添加决策树的方式，对前面所有树的预测误差进行修正，和随机森林并行搭建独立决策树不一样，梯度提升中的每棵新树都把重点放在减少之前模型的残差上，该策略使模型可以逐渐改善预测的精准度。在本研究实施阶段，我们用100个弱学习器加上0.1的学习率构建梯度提升模型，测试结果说明，此模型实现了94.7%的准确率以及0.989的AUC，为三种模型中表现最棒的，五折交叉验证所得到的平均准确率为94.6%，标准差为最小的情形，体现出极佳的稳定性。混淆矩阵分析进一步验证了模型性能优良，在癌症和正常样本识别上都达到高准确率，假阳性与假阴性所占比例都低，特征重要性分析呈现出，梯度提升模型对特征的利用平衡度更高，除了开头那几个高分特征以外，还能对一些中等重要性的特征进行有效利用，这也许是它性能优越的部分缘故，在本研究里，梯度提升模型呈现出最优的分类性能与稳定性，推荐把它当作卵巢癌质谱数据分类的首选方式。4.5三种模型性能评估总结及5折交叉实验验证评估4.5.1三种模型性能评估总结三种分类模型在独立测试集上的性能表现总结见表4.1。随机森林和梯度提升机表现优异且性能接近，准确率分别达到93.4%和94.7%，AUC值分别为0.994和0.989。单一决策树表现稍逊，准确率为84.2%，AUC为0.828。表4.1模型在测试集上的性能评估模型AccuracyPrecisionRecallF1-ScoreAUCDecision_Tree0.84210.87760.87760.87760.8277Random_Forest0.93420.92310.97960.95050.9936Gradient_Boosting0.94740.95920.95920.95920.9887三种模型的特征重要性图揭示出对分类贡献最大的M/Z特征，尽管不同模型的排序跟具体分数存在差别，但M/Z值约为4003.6的特征在三个模型里均显示出极为高的重要性，仿若618.1,680.9,3969.5,诸如4004.8的M/Z值对应的特征也出现在多个模型重要性列表的前面，这些结果显示出，这些特定M/Z值也许对应着区分卵巢癌和正常情况的关键生物分子。4.5.25折交叉实验验证评估表4.2里5折交叉验证的结果进一步支持了前面所说的结论，随机森林跟梯度提升机的平均交叉验证准确率均超过91.5%，AUC超过了0.975这一数值，说明模型具备出色的稳定性与泛化能力，决策树进行交叉验证时的性能也挺好，但比集成模型稍微低那么一点。表4.2模型5折交叉验证平均性能模型AvgCVAccuracyAvgCVPrecisionAvgCVRecallAvgCVF1AvgCVAUCDecision_Tree0.90490.93250.91910.92480.8987Random_Forest0.92460.92340.96270.94240.9753Gradient_Boosting0.91670.93800.93180.93480.9846第5章结论与展望5.1研究结论本研究针对卵巢癌蛋白质质谱数据进行了系统的预处理、特征筛选和机器学习建模分析，顺利生成了高精准度的分类模型，随机森林和梯度提升机可以利用筛选出的100个M/Z特征，把癌症样本和正常对照样本有效区分开，证实了利用质谱数据和机器学习开展卵巢癌辅助诊断的可行性，研究里发现的高重要性M/Z特征，给后续探寻潜在生物标志物提供了线索。5.2讨论与展望本研究成功使用了一套标准的机器学习流程对卵巢癌质谱数据做分析，又构建起有效的分类模型，借助先验知识的结合开展M/Z筛选和基于F-score的特征选取工作，极大降低了原始数据的高维度，为后续的建模工作打下基础。这些被选定的特征在两组之间的平均信号强度差异以及PCA降维可视化结果都显示它们含有有效的分类信息。在实施模型比较之际，随机森林、梯度提升机这两种集成学习模式，相对单一决策树有明显优势，这和集成方法能提升模型稳定性以及泛化能力的常见认知相契合，高达93-95%的测试集准确率、接近1.0的AUC值说明，利用筛选得到的100个质谱特征能高度精确地区分卵巢癌样本和正常对照样本，这种性能水平和相关文献中采用不同手段，在该数据集上拿到的结果相契合，进一步证实了该数据集的可分特性以及机器学习处理此类问题的潜力。特征重要性分析找出了一些特定的M/Z值，尤其是大概在4003.6附近，这些具有高重要性的M/Z值，有必要进一步借助生物信息学数据库来开展查询与分析，以鉴定出其可能对应的蛋白质或多肽分子，探寻其作为卵巢癌潜在生物标志物的机会大小。本研究同样存在一些局限与可扩大范围之处，特征选择所采用的方法仅有F-score，未来可试着对其他方法进行比较，比如ReliefF、LASSO，或者是模型的递归特征消除，以及这些方式相互搭配组合，说不定能发现相异的或更优良的特征子集。模型参数未进行系统的超参数优化方面的工作，采用网格搜索(GridSearch)或者随机搜索(RandomSearch)等手段来调优，说不定能进