CN114580397B 一种谩骂评论的检测方法及系统 （中国工商银行股份有限公司）

本申请提供的一种谩骂评论的检测方法及2根据预设的谩骂词汇表对所述多个待检测词汇进将过滤后的待检测评论文本输入至预设的谩骂评论检测模型，其中，所述谩骂评论检测模型是通过多个历史评论文分别对每个所述待检测词汇以及每个所述谩骂词汇进行词采集多个历史评论文本，并根据所述谩骂词汇表对每个历史评论文本进行过分别采用随机初始化权重的卷积神经网络以及中文语料库对所述训练历史评论文本使用所述词向量和字向量对经过预训练的分类模型进行二将初步检测结果不是谩骂评论的待检测评论将初步检测的结果为不是谩骂评论的待检测评论文本输入至预设的谩骂评论检测模采用随机初始化权重的卷积神经网络对所述多个单字进行编码，得到根据预设的中文语料库对所述多个单词进行表示，得到所述训3根据所述训练历史评论文本对应的词向量和字向量生成对应的上将所述训练历史评论文本对应的上下文语义向量以及预设的真实分类结果共同输入在每个训练历史评论文本的开头和结尾分别添加开头表示将所述训练历史评论文本对应的词向量和字向量以及所述将所述训练历史评论文本对应的上下文语义向量以及预设的真实分类结果共同将所述训练历史评论文本对应的上下文语义向量以及预设的分类结果输入至第一层将所述上下文语义向量的降维特征向量输入至第二层前向二层前向神经网络线性层输出所述训练历史评论文根据所述检测结果以及对应的真实分类结果对所述分类模型的参采用随机初始化权重的卷积神经网络以及中文语料库对根据待检测评论文本的词向量和字向量生成对应的上将待检测评论文本的上下文语义向量输入至所述谩骂评论检测8.根据权利要求1所述的谩骂评论的检测方法，其特征在于，所述获取待检测评论文4文本检测模块，用于将过滤后的待检测评论文其中，所述谩骂评论检测模型是通过多个历史评论文分别对每个所述待检测词汇以及每个所述谩骂词汇进行词采集多个历史评论文本，并根据所述谩骂词汇表对每个历史评论文本进行过分别采用随机初始化权重的卷积神经网络以及中文语料库对所述训练历史评论文本使用所述词向量和字向量对经过预训练的分类模型进行二被处理器执行时实现如权利要求1至8任一项所述的谩骂评5[0014]若所述多个待检测词汇中的至少一个词汇与所述谩骂词汇表中的谩骂词汇相匹6[0018]将初步检测的结果为不是谩骂评论的待检测评论文本输入值预设的谩骂评论检待检测词汇对应的第一词向量以及每个谩骂词汇对应[0024]采集多个历史评论文本，并根据所述谩骂词汇表对每个[0025]分别采用随机初始化权重的卷积神经网络以及中文语料库对所述训练历史评论[0033]进一步地，所述使用所述词向量和字向量对经过预训练的分类模型进行二次训[0035]将所述训练历史评论文本对应的上下文语义向量以及预设的真实分类结果共同[0040]将所述训练历史评论文本对应的词向量和字向量以及所述输入文本输入一编码7[0042]所述将所述训练历史评论文本对应的上下文语义向量以及预设的真实分类结果[0043]将所述训练历史评论文本对应的上下文语义向量以及预设的分类结果输入至第述第二层前向神经网络线性层输出所述训练历史评论文本的检[0047]采用随机初始化权重的卷积神经网络以及中文语料库对待检测评论文本进行处[0057]文本检测模块，用于将过滤后的待检测评论文本输入至预设的谩骂评论检测模算机程序被处理器执行时实现本申请提供的任一8语言模型，对应的论文BERT:Pre-trainofDeepBidirectionalTransformersforLanguageUnderstanding.该类模型属于可迁移的模型，主要是将预训练模型和下游9词之间的关系进行建模。此外，还有一些使用较为普遍的词向量工具：CNN、Glove、检测所述多个待检测词汇中的至少一个词汇与所述谩骂词汇表中的谩[0097]将初步检测的结果为不是谩骂评论的待检测评论文本输入值预设的谩骂评论检[0101]步骤S2021，分别对每个所述待检测词汇中以及每个所述谩骂词汇进行词嵌入操词汇ti以及谩骂词汇表M中的每个谩骂词汇mj进行Glove的词嵌入表示，得到两个词汇的向[0117]本申请的谩骂评论检测模型是在可以学习评论文本深层语义信息的分类模型的而获得每个单词的固定大小的向量表示进行字向量表示ec=用BERT中在中文语料库上训练的google_zh_vocab去获得每个分词的固定向量表示进行词[0127]步骤S4041，根据所述训练历史评论文本对应的词向量和字向量生成对应的上下到词内部的构成特征，采用Highwaynetwork对字级别的嵌入表示与词级别的嵌入表示进行融合，获得上下文表示词76s:对上下文表示词[0129]步骤S4042，将所述训练历史评论文本对应的上下文语义向量以及预设的真实分单字和单词各自对应的向量以及历史谩骂语句进行编码得到上下文语义向量，具体包括：句子前后添加能表示文本开头的表示[CLS]为ceRH和能表示文本结尾的表示[SEP]。i表示第i层变压器的输出，i∈[1，12]。每个Transformer包含Maskedmulti-headattention层和feed-forward层。Multi-headattention层是把self}[0163]在得到编码后的上下文语义向量后，默认选择[CLS]的语义向量作为训练历史评码之后的[CLS]的语义表示，T为原始文本，经过线性变换后，得到最终的预测概率[0177]文本检测模块3，用于将过滤后的待检测评论文本输入至预设的谩骂评论检测模测结果的历史评论文本对谩骂评论检测模型进行训练，谩骂评论检测模型为BERT模型，其次是对评论分别用Char-CNN模型和BERT中的google_zh_vocab进行字级别的向量表示和[0186]最后通过两层前向神经网络，对代表整个句子类型信息的[CLS]的高维特征表示子设备9600可以包括中央处理器9100和存储器9140；存储器9140耦合到中央处理器9100。或其他处理器装置和/或逻辑装置，该中央处理器9100接收输入并控制电子设备9600的各[0200]该存储器9140可以是固态存储器，例如，只读存储器(ROM)、随机存取存储器功能存储部9142，该应用/功能存储部9142用于存储应用程序和功能程序或用于通过中央序存储部9144可以包括电子设备的用于通信功能和/或用于执行电子设备的其他功能(如[0202]通信模块9110即为经由天线9111发送和接收信号的发送机/接收机9110。通信模[0203]本申请的实施例还提供能够实现上述实施例中的谩骂评论的检测方法中全部步程序被处理器执行时实现上述实施例中的执行主体为服务器或客户端的谩骂评论的检测现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定[0210]这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一