CN119503573B 一种基于局部patch与增强位置编码的电梯风险预警方法 （杭州市特种设备检验科学研究院(杭州市特种设备应急处置中心)）

一种基于局部patch与增强位置编码的电梯本发明提供的一种基于局部patch与增强位量时序特征；然后对多变量时间序列进行patch留了局部语义信息，又可以在输入token数量相同的情况下获得更长的回视窗口；对token进行模型中，采用自注意力机制和卷积池化层对时序特征和patch内时序特征进行fusion操作后2S3：对生成的多变量时序特征进行预处理和patch操作S5：将综合向量特征按照输入维度输入传输到双重注意力模块进行双重注意力建模，双重注意力模块包括patch内注意力和patch间注意力，基于计算权重采用softmax函数对S8：采用自定义的多层卷积块对预测的故障类型和故障概率分布的数据进行后处理，2.根据权利要求1所述的一种基于局部patch与4.根据权利要求1所述的一种基于局部pat35.根据权利要求4所述的一种基于局部patch6.根据权利要求5所述的一种基于局部patch与增强特征在于，步骤S5中，双重注意力建模的具体步骤包括：S5.1：输入的时间序列为矩阵xeRlxd，其中L为原始时间序列的长度，d为特征维度，将矩阵patch块，假设每个patch块的长度为S，得到划分后的每个patch块的矩阵；出attnnsra，串联每个patch块的内部注意力输出attnnsra，生成patch内的注意力输出矩阵，其中P为patch块的数量；S5.3：将原始时间序列的矩阵间步合并，并与patch间的注意力输出attnmrereRsxcm相加，得到双重注意力输出。4分别为每个patch块内的时间步的查询向量、键向量和值向量，T代表是转置操作的符号，9.根据权利要求1所述的一种基于局部patch与10.根据权利要求1所述的一种基于局部patch与增强位置编码的电梯风险预警方法，5[0001]本发明属于电梯故障预警技术领域，涉及一种基于局部patch与增强位置编码的保人员只能按照规定维保标准对电梯进行维护保养，很大程度上增加了维保人员的工作[0004]本发明为了克服现有技术的不足，提供一种基于局部patch与增强位置编码的电[0009]S3：对生成的多变量时序特征进行预处理和patch操作，对输入的时间序列采用6维结果通过softmax函数转换后获得故障7token的键向量，x(i)是每个patch块的token的相似度矩阵中的向量，T代表是转置操作的"[0034]S5.3：将原始时间序列的矩阵xeRpxsxd进行结8进行转置，df-s-dn。[0052]生成的多变量时间序列通过patch操作够捕捉更多的局部语义信息和多元变量之[0053]传统的全局计算方式往往需要处理大量的数据，这会带来计算和存储上的挑[0054]被patch操作后的token特征在输入Transformer模型前需进行相对位置编码，使可以训练的查询矩阵Qinit来整合每个patch内的时间步的时序信息。patch间注意力机制究将patch内关注输出重新排列为每个patch的形状，然后将其与patch间关注产生的时间9[0059]图1为本发明提供的一种基于局部patch与增强位置编码的电梯风险预警方法的[0067]本发明提供一种基于局部patch与增强位置编码的电梯风险预警方法，包括以下[0070]S3：对生成的多变量时序特征进行预处理和patch操作，对输入的时间序列采用以分割形成的patch块作为token输入，其中，token是深度学习中输入数据的最小处理单[0072]S5：将拼接和位置编码后的综合向量特征按照输入维度输入传输到Dual注单点时间步之间的联系，而提取到更广泛的信息，双重注意力机制由patch内注意力和patch间注意力组成，patch间注意力的方式会让我们更好的关注到时间序列的全局关联，patch内注意力通过使用可训练的查询矩阵（Qinit能够捕捉每个patch内部的细粒度时维结果通过softmax函数转换后获得故障[0075]S8：采用自定义的多层卷积块对预测的故障类型和故障概率分布数据进行后处修复所需时间以及故障类型等信息，这些数据在多变量Transformer模型中可用于故障类这些数据有助于分析不同天气条件对电梯性能故障类型的多次报警统计为一次报警，并将当天的报警次数转化为新的特征输入到[0102]于步骤S3中，电梯风险预警大数据模型系统对生成的多变量时序特征进行预处[0123]其中语义位置编码可以看作是初始token的相似度矩阵，而几何位置编码是基于之间的相似度，进而决定加权求和的程度。x(i)是每个patch块的token的相似度矩阵中的间中包含它们。这样的增强位置编码方式使模型能够更准确的捕获时间序列中的位置信[0126]于步骤S4来说，该步骤的核心在于，将位置信息融合到每个元素的特征中，使合使得相同特征在不同位置的变体被区分开，帮助Transformer模型更准确地识别和处理过程使得Transformer模型能够有效地处理时间序列数据，特别是在理解元素之间的相对[0128]于于步骤S5来说，该步骤的核心在于采用双重注意力机制能够同时捕获时序patch内和patch间的关系，这里为了表述的方便我们使用单变量的时间序列x(i)进行描token输入，传输到DualAttentionBlock进行双重注意力建模，这样就能避免[0129]双重注意力机制由patch内注意力和patch间注意力组成，patch间注意力的方式部细节。在patch内注意力机制使用一个可以训练的查询矩阵Qinit来整合每个patch块内局部细节表示。patch间注意力机制将patch操作后的p个patch块进行注意力计算，得到关性和patch间注意力捕获的局部细节，本研究将patch内关注输出重新排列为每个patch,表示第i个patch块内部时间序列的嵌入后的特征矩阵,表示该patch块[0136]T代表是转置操作的符号，这里Qrra和的转述公式计算每个patch块内部时间步之间的关系。说明：通过上述公式既通过自注意力机[0139]S5.3:对于patch间注意力，将原始时间序列的矩阵xe[0141]其中，attninter捕捉了不同patch块之间的全局时间依赖性。其中，查询矩阵：[0142]S5.4：最终，双重注意力机制通过融合来自每个patch块内部的注意力和不同[0143]在步骤S6中，经过双重注意力机制提取的特征被传入一以进行最终的故障预测。该全连接层的主要功能是对通过Transformer模型中的一维表示一种特定的故障类型。这一降维过程有效地将Transformer模型所提炼出的复杂种方法能够防止模型在面对类别不均衡时偏向多数类，帮助模型更好地学习少数类的特征，从而提升对这些较难识别类别的预测精度。此外，Adam优化器结合了Momentum和RMSprop优化器的优点，能够为每个参数计算自适应学习率，从而提高模型的训练效率。[0155]S8.4：通过平坦化层将第一卷积层和第二卷积层提取的特征转换成一维数组[0160]ffc(x)=ReLU(wc*fqat(x)+bfc)[0164]y=σ(*ffc(x)+bout)