CN119415962A 一种基于大语言模型的价值观识别数据增强方法 （吉林大学）

一种基于大语言模型的价值观识别数据增本发明公开了一种基于大语言模型的价值过角色扮演提示和链式思维提示生成与本发明将Schwartz价值理论作为生成和评估的2利用大语言模型，通过角色扮演提示和链式思维设置链式思维提示过程，生成一系列中间推理步骤，每一步推理与Sch;;其中，Sk表示第k步的推理输出，fiums为大语言模型的推理函数,T为其他模板提示从基础价值观数据集中随机抽取样本作为IncontextLearning数据基于IncontextLearning数据集，通过大语言模型进行上下文学习并生成;;3;;将若干个新生成的数据集合并：;其中，为进行n轮数据增强后生成的与Schwartz价值理论相对应的数据集的并基于评估结果对所述文本数据进行筛选，以确保文本数据的标签准确性和语义一致;p'为新的训练集,表示为基础价值观数据集,D,""为进行n轮数据增强后生成的与Schwartz价值理论相对应的通过多层Transformer编码器对所述初始嵌入层进行特征提取，得到文本的上下文感将所述[CLS]向量输入到BERT模型的全连接层，并通过softma4计算机指令被处理器执行时实现如权利要求1_9任一项所述的基于大语言模型的价值观识5地在多种社会情境下进行自动化的道德判断和现高度依赖于高质量、标注完善的数据集。尽管有一些专用数据集（如ValueEval和[0010]为实现上述目的，本发明提供了一种基于大语言模型的价值观识别数据增强方6[0019]将角色扮演提示信息注入大语言模型，生成与Schwartz价值理论相关的文本数[0021]B={V1,VY,...vn}；vi表示表示Schwartz理论中的第i个对应的价值观；[0033]D,={(x,y),(x2,y2)..(xn,yn)}；；7[0054]D'=D,UD《"；后生成的与Schwartz价值理论相对[0058]通过多层Transformer编码器对所述初始嵌入层进行特征提取，得到文本的上下[0061]本发明还提供了一种计算机存储介质，所述计算机存储所述计算机指令被处理器执行时实现所述的基于大语言模型的价值观识别数8[0068]图3为本发明实施例的BERT模型通过结合原始训练集和新生成的数据进行训练的[0079]B={V1,VY,...vn}（1）9程。假设输入文本为T，模型根据该文本生成一系[0083]Sk=fuuws(T,s1,s2词。每一步推理不仅依赖于当前的输入文本T,还参考了前面的推理步骤S1,S2,..SK-1,[0085]在完成所有推理步骤后，模型将生成最终的文本输出r',该文本与Sch[0086]T'=fcpr(T,S,S2,…,S)（3）[0092]D,={(x,y),(x2,y2)..(xn,yn)}4）[0095]D{[l={(x,,y),(x2,y2)..(xw,yw)},(x,y)e些对将用于基于IncontextLea[0099]具体地，确定好Df后，生成新的扩展数据Dsug,其样本与原始Incontext[0100]D:""=LlMS,en(B,Df""):（6）[0119]D'=D,UD《"（10）p'为新的训练集,表示为基础价值观数据集,D,""为进行n轮数据增强[0128]输入文本会被BERT模型的分词器分割为词片段（tokens并嵌入到BERT的输入[0129]BERT的嵌入层会将每个输入词片段wi转换为一个向量表示。假设BERT使用词嵌[0136]H'=Transformer'(H-1)[0140]hcus=H比us（15）z=w·hcs+b（16）Lce=--1y.log($)（18）[0159]通过Schwartz价值理论的注入，模型可以生成更加符合人类价值观的高质量文中的左侧显示了两个原始训练集，这些训练集是初始的公开获取的价值观识别相关的数性能的指标之一，特别适合用于不平衡数据集。它结合了精确率（Precision）和召回率[0168]本发明还提供了一种