CN115944302B 基于注意力机制的无监督多模态心电图异常检测方法（浙江大学）

(19)国家知识产权局(12)发明专利(10)授权公告号CN115944302B(65)同一申请的已公布的文献号(43)申请公布日2023.04.11(73)专利权人浙江大学地址310058浙江省杭州市西湖区余杭塘路866号(72)发明人刘华锋彭建辉(74)专利代理机构杭州天勤知识产权代理有限公司33224A61B5/346(2021.01)A61B5/00(2006.01)A61B5/318(2021.01)(54)发明名称基于注意力机制的无监督多模态心电图异常检测方法本发明公开了一种基于注意力机制的无监督多模态心电图异常检测方法，根据体表电生理信号无监督地自动进行心电图的异常检测，模型在时序电信号的基础上还考虑了频域信号特性，通过对输入信号编码再解码重构出原始信号，当重构的时序信号与输入时序信号差异大于一定时域与频域信号进行特征提取，在无监督不使用标签的情况下，能够区分正常与异常的ECG心拍数据；在有标签的心电图数据有限的情况下，辅2所述重构模型中的两个编码模块结构相同，但在训练过程中两个编码模块输出的编码特征沿时间轴方向拼接，即拼接之后维度变为原来的两倍，输入至模型中的心电时域序列和心电频域序列需先进行位置编PE(pos,2i+1)=cos(pos/1(5)将待检测心电信号的时域序列和频域序列输入至训练好的重构模型，根据模型输若该重构误差大于设定阈值，则判定待检测的心电信号存2.根据权利要求1所述的无监督多模态心电图异常检测方法，其特征在于：所述步骤4.2将心电时域序列和心电频域序列输入至模型，模型正向传播输出得到对应的重构3结果即ECG波形序列，计算输出的ECG波形序列与输入的心电时域序列之间的损失函数L;4.3根据损失函数L利用优化器通过梯度下降法对模型参数不断迭代更新，直至损失函3.根据权利要求2所述的无监督多模态心电图异常检测方法，其特征在于：所述损失函数L的表达式如下：其中：y;为输出的ECG波形序列中第i个幅值，x:为输入的心电时域序列中第i个幅值，n为心电时域序列的维度。4技术领域[0001]本发明属于心脏电生理疾病预测技术领域，具体涉及一种基于注意力机制的无监督多模态心电图异常检测方法。背景技术[0002]心血管疾病一系列心脏或者血管相关疾病总称，一直都是威胁人类生命的主要疾病之一，其引起的死亡率仍占首位。ECG(心电信号)是人类最早研究并应用于医学临床的生物信号之一，心电图反映了人体心脏健康状况，是临床诊断心血管类疾病的重要依据。随着心电图数量的快速增长，利用AI算法辅助医生进行自动化异常诊断极为重要。[0003]现有的许多ECG自动诊断算法是基于专家医生分析和标注的数据进行监督学习得到的。但由于专家只能处理少量的心电图数据，并且这些数据大都来自于同一种模式，因此基于监督学习的自动诊断算法有其局限性。另外，标签数据中各类型标签的分布通常不平衡，这会对模型的诊断分析效果造成影响；未经标注的数据也是有价值的，它可以进一步揭示患者心血管系统内部的潜在病理信息。因此，研发一种能够进行无监督诊断心电图数据的算法是非常重要的。[0004]目前，现有的无监督ECG异常检测或分类方法大多都没有充分利用和挖掘数据本身的特征，大致可分为两类：一类是使用聚类算法来实现无监督决策，例如文献[AbawajyJH,KelarevAV,ChowdhuryM.MultistageclassificationofECGdata[J].Computer2013,112(3):720-730]使用高斯混合模型和K-means聚类算法，将ECG数据转换为数值特征，从而完成异常分类。另一类是通过深度学习端到端地实现ECG的异常检测，例如文献[PereiraJ,SilveiraM.UnsupervisedreprdetectioninECGsequences[J].InternationalJournalofDataMiningandBioinformatics,2019,22(4):389-]在递归网络作为自编码器的基础上，再对其编码特征进行解码重构输入。尽管如此，但上述方法存在的缺陷是没有充分利用和挖掘ECG的信息，模型缺乏结合更多维度的特征。发明内容[0005]鉴于上述，本发明提供了一种基于注意力机制的无监督多模态心电图异常检测方法，利用注意力机制去挖掘时域与频域数据中的隐藏特征，无监督地重构时域输入，能够很好地解决含有标签的心电图数据缺少，有监督的模型难以取得广泛的自动诊断效果的现[0006]一种基于注意力机制的无监督多模态心电图异常检测方法，包括如下步骤：[0007](1)从病人体表采集多导联心电信号，以每一个心跳周期为一组心电时域序列；[0008](2)对每组心电时域序列进行归一化处理以及频域转换，得到对应的心电频域序5[0009](3)构建基于注意力机制的重构模型，其包含两个编码模块以及一个解码模块，两个编码模块分别用于对心电时域序列和心电频域序列进行编码，得到的编码特征拼接后经由解码模块解码成与输入维度一致的ECG波形序列；[0010](4)将心电时域序列和心电频域序列成对逐一输入至模型，以模型输出的ECG波形序列与输入心电时域序列平均误差最小为损失函数，从而对模型进行训练；[0011](5)将待检测心电信号的时域序列和频域序列输入至训练好的重构模型，根据模型输出ECG波形序列与输入心电时域序列之间的重构误差，判别待检测的心电信号是否异[0012]进一步地，所述步骤(2)中的归一化处理采用最大-最小值归一化策略，频域转换采用小波变换。[0013]进一步地，所述重构模型中的两个编码模块结构相同，但在训练过程中不共享权[0014]进一步地，输入至模型中的心电时域序列和心电频域序列需先进行位置编码，即给序列中每一时刻对应的幅值增添时间位置信息，具体如下：[0015]PECos,2z)=sin奇数位置增添的时间位置信息，pos表示序列中每一幅值对应的时间点，d表示编码的维度，i为自然数。[0018]进一步地，所述编码模块采用多头注意力机制以及残差连接，其中多头注意力机制由多个自注意力机制叠加形成；同时在编码模块前向传播学习参数的过程中，对每层参数做了LayerNormalization,对每一层的激活值做了归一化。[0019]进一步地，所述自注意力机制的计算过程如下：[0024]其中：Attention(Q,K,V)为自注意力机制的输出，embeding为经位置编码后的心电[0025]进一步地，两个编码模块输出的编码特征沿时间轴方向拼接，即拼接之后维度变为原来的两倍，进而特征经由解码模块线性映射层解码成与输入维度一致的ECG波形序列。[0026]进一步地，所述步骤(4)中对模型进行训练的过程如下：[0027]4.1初始化模型参数，包括每一层的偏置向量和权值矩阵、学习率以及优化器；[0028]4.2将心电时域序列和心电频域序列输入至模型，模型正向传播输出得到对应的重构结果即ECG波形序列，计算输出的ECG波形序列与输入的心电时域序列之间的损失函数6[0032]其中：y,为输出的ECG波形序列中第i个幅值，x:为输入的心电时域序列中第i个幅根据统计学概率分布所设置即阈值为训练重构误差的均值与方差之和。[0035]本发明通过对ECG的时域与频域信号进行特征提取，在无监督不使用标签的情况附图说明数据。[0044]其中：x表示心电图数据每个导联上某一时刻的信号幅值，xm:n表示该导联心跳信7果。8列幅值。[0079]为了验证本发明的有效性，我们使用公开心电图