CN114416984B 基于人工智能的文本分类方法、装置、设备及存储介质 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中设的文本分类模型进行文本分类预测得到所述词词典用于对所述训练样本中的初始文本样本2将所述目标文本输入预设的文本分类模型进行文获取所述文本分类模型输出的文本分类结果作为所述目标文本对应的目标文本分类典用于对所述训练样本中的初始文本样本进行词所述将所述目标文本输入预设的文本分类模型进行文本分类预测的步骤之前，还包从各个所述训练样本中依次获取所述训练样本作为从所述待训练样本的初始文本样本中按照预设比例获采用所述情感词词典判断所述待替换词语集中的每个词语是否为情感词，将所述目标文本样本输入所述初始模型分别进行掩码位置的词语预测和文本分类预根据所述待训练样本的文本分类标定值、所述词语标定值、所述将达到所述训练目标的所述初始模型作为所述文采用所述掩码符，对所述待训练样本的所述初始文本样本中的与所采用所述同义词词典，对所述待处理文本样本中的与所述情感词集所述根据所述待训练样本的文本分类标定值、所述词语标定值、所述将所述待训练样本的文本分类标定值、所述词语标定值、所述根据所述目标损失值对所述初始模型的网络参所述将所述待训练样本的文本分类标定值、所述词语标定值、所3将所述待训练样本的所述词语标定值和所述词语预测值输入预设的词语预测损失函将所述待训练样本的所述文本分类标定值和所述文本分类预测值输入预设的文本分其中，所述词语预测损失函数和所述文本分类预测损失函数均采用交叉熵损失函数，的损失和文本分类预测的损失同时更新所述初始模对每个所述商品评论文本分别进行空白字符删除和重复标点符获取与每个所述已预处理文本对应的正负面分将所述已预处理文本作为所述训练样本的初始文本样本，并且将所4.一种基于人工智能的文本分类装置，其特征在于，用于实现模型训练模块，用于采用获取的多个训练样本、预设的情感词词典和预设5.一种计算机设备，包括存储器和处理器，所述存处理器执行时实现权利要求1至3中任一项所述的方4[0002]随着Bert(BidirectionalEncoderRepresentationsfromTransformers)模型将现有的NLP任务在预训练模型的基础上微调训练(fine-tuning)即可达到较的输入阶段masked(掩码)部分token(词语)，而在模型的输出阶段预测这些被masked的介质，旨在解决现有技术的Bert预训练阶段采用MLM训练方法和微调训练阶段获取标志位[0008]获取所述文本分类模型输出的文本分类结果作为所述目标文本对应的目标文本[0010]采用获取的多个训练样本、情感词词典和同义词词典对义词词典用于对所述训练样本中的初始文本样本5[0015]从所述待训练样本的初始文本样本中按照预设比例获取词语，得到待替换词语[0018]将所述目标文本样本输入所述初始模型分别进行掩码位置的词语预测和文本分[0029]将所述待训练样本的所述词语标定值和所述词语预测值输入预设的词语预测损[0030]将所述待训练样本的所述文本分类标定值和所述文本分类预测值输入预设的文6[0042]文本分类模块，用于将所述目标文本输入预设的文本分类模型进行文本分类预程序被处理器执行时实现上述任一项所述的码训练，从而实现在微调阶段将掩码训练和文本分类预测训练同时进行，有效的缓解了[0053]参照图1，本申请实施例中提供一种基于人工智能的文本分类方法，所述方法包7[0058]采用获取的多个训练样本、情感词词典和同义词词典对义词词典用于对所述训练样本中的初始文本样本对Bert模型针对标志位输出的信息进行8[0077]S26：将所述目标文本样本输入所述初始模型分别进行掩码位置的词语预测和文[0090]对于S24，分别将所述待替换词语集中的每个词语，在所述情感词词典中进行查9[0098]所述第一收敛条件是指相邻两次计算所述目标损失值的大小满足lipschitz条件将达到所述训练目标的所述初始模型作为所述文所述情感词集和所述非情感词集，对所述待训练样本的所述初始文本样本进行词语替换，[0115]S2711：将所述待训练样本的所述词语标定值和所述词语预测值输入预设的词语[0116]S2712：将所述待训练样本的所述文本分类标定值和所述文本分类预测值输入预[0117]S2713：将所述第一损失值和所述第二损失值进行加权求和，得到所述目标损失函数，从而根据词语预测的损失和文本分类预测的损失同时更新所述初始模型的网络参[0120]对于S2711，将所述待训练样本的所述词语标定值和所述词语预测值输入预设的[0121]对于S2712，将所述待训练样本的所述文本分类标定值和所述文本分类预测值输[0127]S212：对每个所述商品评论文本分别进行空白字符删除和重复标点符号删除处[0129]本实施例通过对商品评论文本进行空白字符删除和重复标点符号删除处理得到[0143]文本分类模块200，用于将所述目标文本输入预设的文本分类模型进行文本分类[0144]目标文本分类结果确定模块300，用于获取所述文本分类模型输出的文本分类结义词词典对初始模型进行掩码训练，将训练结束的所述初始模型作为所述文本分类模型，标定值、所述词语预测值和所述文本分类预测值输入预设的目标损失函数进行损失值计行更新，将更新后的所述初始模型用于下一次计算所述词语预测值和所述文本分类预测[0164]所述加权求和子单元，用于将所述第一损失值和所述第正负面分类预测结果作为所述训