【《基于改进深度残差网络的PVC与SPB症状的分类分析案例》5600字】

基于改进深度残差网络的PVC与SPB症状的分类分析案例目录TOC\o"1-3"\h\u26207基于改进深度残差网络的PVC与SPB症状的分类分析案例 1175741.1引言 1123331.2PVC与SPB分类算法理论模型 1110591.2.1算法理论基础 1202881.2.2算法总体框架 3312101.3数据集 4294181.3.1数据集介绍 493751.3.2数据集的去噪 5251691.3.3数据集的增强 6302041.3.4评价指标 7177031.4网络模型改进 8101941.1.1ResNet网络改进模型 88301.1.2损失函数 12191761.1.3网络训练 12311191.5结果及分析 151.1引言心律失常是一种严重的心脏疾病，每年可导致超过700万人死亡。室性早搏(PVC)和室上性早搏(SPB)是最常见的心律失常，监测PVC和SPB的变化可以预测中风或心源性猝死。由于早搏发生的随机性和不确定性，早搏的诊断需要进行动态、实时观察。动态心电图设备可以提供实时、长期、无创的动态观察途径，但是在嘈杂或低信号质量的环境中，现有的PVC和SPB分类方法在效率和精度方面均难以胜任。针对以上这种情况，本章以第三章的QRS波检测为基础，利用心率信息作为识别的重要特征，开展基于深度残差网络的PVC和SPB分类算法研究。1.2PVC与SPB分类算法理论模型1.2.1算法理论基础(a)(b)图1.1CNN与残差块对比图。(a)CNN网络模型；(b)残差块Fig.1.1ComparisonchartsofCNNandresidualblock:(a)CNNmodel;(b)residualblock通常情况下，随着网络深度的不断增加，包含信息层次也会越来越丰富。但是当网络深度增加到一定程度时，在网络训练时易出现梯度反向传播消失的问题，造成模型欠拟合的现象。针对以上问题，在2015年有研究者在CNN网络基础上提出了深度残差网络(DeepResidualNetwork,ResNet)以解决模型训练梯度消失的问题。图1.1展示了ResNet网络残差块和CNN网络网络模型的结构图。ResNet网络是在CNN网络模型基础上加入residuallearning模块，每两层网络之间增加一个跳跃连接以构成新模块，即残差块[81]。在增加残差块的基础上，ResNet网络的深度可以进一步加深，且网络训练时梯度由深层结构反向传播到低层结构不会消失的情况，提升了模型的非线性拟合能力，加强了在分类任务方面的效果[82]。图1.1中x是输入，假设理想的映射是f(x)，则残差块映射就是f(x)−x。通常情况下映射，其中为激活函数，w1表示残差块第一个参数层，w2表示残差块第二个参数层。则残差块输出可以表示为： (1.1)当输入输出不一致时，就需要增加一个线性投影，如下公式所示： (1.2)式(1.1)和(1.2)中，wk表示残差块第k个参数层。当f(x)为恒等映射时，残差映射容易捕捉恒等映射的细微波动。残差块有两种结构，一种是普通的残差块，另一种则是瓶颈式残差块，分别如图1.2(a)和(b)所示。(a)(b)图1.2残差块两种结构图。(a)普通残差块；(b)瓶颈残差块Fig.1.2Twostructurediagramsofresidualblock.(a)Theordinaryresidualblock;(b)Thebottleneckresidualblock对比这两种残差块结构，相比较普通残差块，可以发现瓶颈残差块结构的3×3卷积前后都增加了一个1×1的卷积层。瓶颈残差块的目的是为了调整输入维度，提高卷积计算的效率，缓解梯度弥散的问题。一般深度达到50层及以上的深度残差网络均会采用瓶颈残差块，在保证模型拟合精度的同时，提升模型的训练效率。1.2.2算法总体框架图1.3PVC与SPB症状分类算法总体框架Fig.1.3TheoverallframeworkofclassificationalgorithmforPVCandSPB图1.3是基于改进深度残差网络的PVC与SPB症状分类算法的总体框架，包含5个模块，分别如下：(1) 数据预处理模块：数据预处理模块主要分为2部分，第一部分是对原始心电信号进行去噪处理，排除噪声干扰；第二部分是对原始数据进行数据增强，提高算法的分类精度。(2) QRS波检测模块：对预处理之后的心电信号利用前述的QRS波检测算法预测R波波峰位置，并计算心率，将心率作为新型心电信号特征。(3) 数据融合模块：将每组心电信号记录与其检测得到心率特征进行融合，进一步增强数据集，扩展数据集的信息深度。(4) ResNet网络模块：对增强后的心电数据集进行训练，实现心电信号的PVC和SPB的症状分类。(5) 对比分析实验：将同类的PVC与SPB分类算法与本文算法在测试集上进行效果对比实验。1.3数据集1.3.1数据集介绍本章数据来自第九届国际生物医学工程与生物技术会议(ICBEB)的第三届心电生理信号挑战赛数据库。第三届心电生理信号挑战赛数据库是从心律异常患者收集的10组单导联心电信号记录，每组记录时间约持续24小时，所有数据均由统一可穿戴式ECG设备收集。数据采样频率为400Hz，具体心电信号数据记录情况如表1.1所示，且每组原始心电记录均对当前信号的PVC和SPB症状进行了标记处理。考虑到ICBEB数据库官方的要求[55]，实际进行网络训练时去掉采集开始后的200ms与结束前200ms的数据。表1.1中Yes表示当前心电信号记录来源于房颤(AtrialFibrillation,AF)患者，No则表示当前心电信号记录源自非房颤患者，表中第三列表示一组心电信号持续时间，第四列Nbeats表示一组没有患有PVC和SPB疾病的心电信号记录总数，第五列Vbeats表示患有PVC疾病的心电信号记录总数，同样第六列表示患有SPB疾病的心电信号记录总数。表1.1第三届心电生理信号数据库具体情况Table1.1TheparametersofThe3thICBEBRecordingsAFpatientLength(h)NbeatsVbeatsSbeatsTotalbeatsA01No25.89109062024109086A02Yes22.839893645540103490A03Yes21.701372493820137631A04No21.5177812190243466100302A05No23.579461412594640A06No21.59776210677627A07No23.117332515150348191956A08Yes25.4611551827930118311A09No25.84882292146289693A10No23.64728211699071820611.3.2数据集的去噪ICBEB数据库的数据均为动态心电信号，信号存在着严重的噪声干扰，对PVC和SPB的分类结果容易造成一定的误差。主要存在的噪声分为3类：基线干扰、工频干扰、肌电干扰。因此，本文利用第三章的提出的滤波算法对ICBEB数据库的心电信号进行去噪：基线干扰用IIR数字滤波器纠正，工频干扰采用带陷滤波器，肌电干扰运用低通滤波器处理。去噪效果如图1.4所示。(a)(b)图1.4ICBEB数据库去噪对比图。(a)原始心电信号；(b)去噪之后的心电信号Fig.1.4ThecomparisonchartofdenoisingforICBEB.(a)ThesignaloforiginalECG;(b)ThesignalofECGafterdenoising1.3.3数据集的增强ICBEB数据库的每组心电信号记录长度为24小时，总共包含10组数据，若直接将其用于网络训练，则会出现模型欠拟合的现象。因为，单组数据过长，将其进行数据集划分之后，样本比例严重不均衡。故本章首先对数据集进行了扩展，选取一定的时间间隔，将每组数据按时间间隔拆分成多组数据，达到扩展数据的效果。根据数据的实际情况，本文选择以18秒作为时间间隔，对总的10组心电信号记录按18秒分割，对分割得到的信号记录按顺序命名，得到的数据记录如表1.2和1.3所示。从表1.3可以看出数据扩展为了48828组，每组信号的时间长度为18秒。表1.2第三届心电生理信号数据库每组扩展具体情况Table1.2Theparametersofeachgroupexpansionforthe3thICBEB编号持续时间(h)每组长度(s)划分组数A0125.89185178A0222.83184566A0321.70184940A0421.51184902A0523.57184714A0621.59184918A0723.11184622A0825.46185092A0925.84185168A1023.64184728表1.3第三届心电生理信号数据库扩展结果Table1.3Resultsoftheexpansionforthe3thICBEB编号持续时间(s)总计组数data00001181data00002181data00003181data00004181……1data48825181data48826181data48827181data48828181总计87890448828数据集扩展之后，利用第三章的QRS波检测算法检测每组信号的R波波峰位置，解算每组信号的心率值，将心率值融合到每组心电信号作为一个新型的特征属性，以此达到数据增强的效果。进而根据交叉验证的方式，在48828组心电信号中随机选择70%作为训练集，其余的皆为测试集，即测试集有14648组，训练集有34180组数据，如表1.4所示。表1.4ICBEB数据库训练集和测试集划分具体情况Table1.4TheparametersoftrainingsetandtestsetforICBEB训练集测试集data00001data00003data00002data00004data00013data00005data00014data00006……data48034data48824data48811data48825data48812data48826data48827data48828总计34180146481.3.4评价指标为了验证算法的准确性，特意引入了如表1.5所示的评价指标。表中K11表示数据库中标注为正常心电图且识别为正常心电图的个数；K12表示数据库中标注为正常心电图但识别为存在PVC的心电图的个数；K13表示数据库中标注为正常心电图但识别为存在SPB的心电图的个数；K1x表示数据库中标注为正常心电图，识别为正常、PVC和SPB的总个数；Kx1、Kx2、Kx3则分别表示识别为正常、PVC和SPB的心电图总个数。表1.5分类评价指标定义一览表Table1.5Thelistofthesedefinitionsforclassificationscoringrules输出结果正常PVCSPB总计正常K11K12K13K1x标PVCK21K22K23K2x注SPBK31K32K33K3x总计Kx1Kx2Kx3规定评分指标使用F1度量，它是每种分类类型的平均值，计算规则如下所示： (1.3) (1.4) (1.5) (1.6)(1.3)式中F11表示分类正常的得分，(1.4)式中F12表示分类PVC的得分，(1.5)式中F13表示分类SPB的得分。1.4网络模型改进1.1.1ResNet网络改进模型深度残差网络因其具备高收敛性能、快速网络相应、及高精度的分类能力，被广泛用于各个场景下的分类任务，因此本文将采用ResNet网络开展对动态心电信号PVC和SPB的分类研究。鉴于本文所用数据集比较复杂，故本文将采用ResNet50网络作为基础，进一步改进网络模型，提升动态心电信号PVC和SPB的分类精度。图1.5ResNet50的网络结构Fig.1.5ThestructureofResNet50表1.6ResNet50标准网络结构Table1.6ThestandardnetworkstructureofResNet50卷积层17×7，64，滑动步长2，3×3最大池化层，滑动步长2卷积层2卷积层3卷积层4卷积层5浮点运算平均池化层，1000分类全连接层，softmax标准的ResNet50网络结构如图1.5所示，其具体参数如表1.6所示。根据图1.5和表1.6的信息，可以发现ResNet50网络在初始输入层采用的是7×7的卷积核，中间采用的均是残差模块，最后则是利用全连接层实现分类的功能。在标准的ResNet50网络的结构上，本文做了一定的改进，以便于实现精准的PVC和SPB症状分类。改进的具体措施如下：(1)针对ICBEB数据库的心电信号数据集繁杂的特点，在ResNet50网络的基础上提出用3个3×3的卷积核代替输入层的7×7的卷积核，其示意图如图1.6所示。该改进措施仅利用3个3×3的卷积核便可等效于7×7卷积核的感知野，可以进一步减少网络训练的参数，提升网络训练的效率。同时可以进行更多的非线性映射，实现动态心电信号特征的多尺度提取，增加网络的拟合能力。图1.63×3卷积核替换7×7卷积核示意图Fig.1.6Thediagramof3×3convolutionkernelreplacing7×7convolutionkernel(2)为了进一步提升网络的拟合能力，精准的识别PVC和SPB症状，本文借鉴了Inception系列的卷积结构，提出了一种非对称性的瓶颈残差块(f_Block)，不仅可以实现心电信号特征的多路提取，而且加强了信息特征的提取能力，该结构如图1.7所示。相比较瓶颈残差块结构，非对称性的瓶颈残差块进行了卷积并行的改进，其中一路是将残差块结构中的3×3卷积核替换为了5×5和3×3的卷积核，另一路则是将残差块结构中的3×3卷积核替换为了3×3和5×5的卷积核，最后仍是利用短连接的方式对输入和输出进行融合。尽管该改进增加了网络参数数量，提高了网络的复杂度，但在信息特征提取方面比残差块更为优异，分类结果评价更优。图1.7非对称性瓶颈残差块结构Fig.1.7Theasymmetricbottleneckresidualblockstructure(3)为了改善使用非对称性残差块结构带来的网络复杂度，减少网络训练时间，本文在改进的ResNet网络结构中增加了池化层，将第1层卷积之外的其他层的后面增加了池化层，对每层提取的信息特征进行降维处理。利用上述的3种改进措施对ResNet50网络进行改进后，该网络的结构如图1.8所示，相关参数如表1.7所示。图1.8改进ResNet的网络结构Fig.1.8ThenetworkstructureofimprovedResNet表1.7改进ResNet的具体参数表Table1.7ThespecificparametertableofimprovedResNet卷积层1[3×3]×3，64，滑动步长2，3×3最大池化层，滑动步长2卷积层2卷积层3卷积层4卷积层5浮点运算平均池化层，3分类全连接层，softmax1.1.2损失函数本文采用交叉熵函数作为改进网络ResNet的损失函数，定义如式(1.7)所示： (1.7)上式中xi表示类别i真实样本数据标签，q(y)i表示softmax函数，如式(1.8)所示： (1.8)上式中表示类别j的输出指数，表示所有类别的输出指数。1.1.3网络训练图1.9网络训练流程图Fig.1.9Theflowchartofnetworktraining网络训练过程流程图如图1.9所示，网络训练过程主要包括两部分：(1)网络超参数的设置，包括学习率、优化器、迭代次数等。设置完毕后，对网络模型的权重和偏差值进行初始化。学习率的大小设置和网络权值更新有较大关系，当学习率在合适范围时，有利于本文设计的网络模型目标函数尽可能取得全局最优值。若学习率过小，会出现网络模型优化时间过长，严重还会出现网络模型无法收敛的问题。若学习率过大，网络损失值则会出现反复波动的情况，易陷入局部极值。为了避免出现上述问题，使用了衰减学习率的训练技巧。当其他超参数不变，设置不同的初始学习率进行网络模型训练，保存最优的学习率参数值。本文设置了3个初始学习率，分别是0.1，0.01和0.001，其在训练集上的分类结果如图1.10所示。图中F11表示没有患病的分类结果，F12表示患有PVC心脏病分类结果，F13表示患有SPB心脏病分类结果，F1表示这三种分类结果的平均值。从图中可以看出当初始学习率等于0.1时，网络不能收敛；初始学习率等于0.01时，分类效果最好。图1.10不同初始学习率网络模型分类结果Fig.1.10Theclassificationresultofnetworkmodelwithdifferentinitiallearningrate确定好初始学习率之后，则设置用于学习率梯度衰减的最优权重参数值。同样固定其他参数不变，对0.1、0.01、0.001、0.0001及0.0005等5个权重衰减值进行网络训练测试，对应的分类结果如图1.11所示。从图中可得，权重衰减参数取0.001时，对应的分类结果最好。图1.11不同权重衰减网络模型分类结果Fig.1.11Theclassificationresultofnetworkmodelwithdifferentweightdecay当数据集较大时，不便于用所有数据进行训练，本文采用的是小批量梯度下降学习的方式训练网络，有利于减小网络计算量，加快网络的收敛过程。本文设置批量大小为64，具体超参数设置如表1.8所示：表1.8超参数设置一览表Table1.8Thelistofhyperparametersettings超参数设置分类数目3学习率0.01权重衰减0.001批量训练大小64优化器Adam训练周期2000(2)将训练数据集输入到改进的ResNet网络中进行训练，本文使用的训