CN117453921B 一种大语言模型的数据信息标签处理方法 （南京华飞数据技术有限公司）_第1页
CN117453921B 一种大语言模型的数据信息标签处理方法 （南京华飞数据技术有限公司）_第2页
CN117453921B 一种大语言模型的数据信息标签处理方法 （南京华飞数据技术有限公司）_第3页
CN117453921B 一种大语言模型的数据信息标签处理方法 （南京华飞数据技术有限公司）_第4页
CN117453921B 一种大语言模型的数据信息标签处理方法 （南京华飞数据技术有限公司）_第5页
已阅读5页，还剩32页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

US2018196873A1,2018.0本发明公开了一种大语言模型的数据信息发明通过迁移学习模块使模型在初级任务上学型在推理过程中的重要特征2通过预处理云平台对待标签的数据集进行至少包括数据清洗、去除噪音通过迁移学习模块在数据信息标签处理的初级通过词嵌入方法将文本转化为向量表示，并通过知识图谱、外部资源通过基于机器学习的标签分类算法对生成的标签按照类型或通过关键词提取模型对生成的标签进行过滤和筛选，所述关键词提通过多模态数据融合系统将文本数据与图像、音频和视频数据通过解释性可视化模块显示模型在推理过程中的重要特征、关注解释性可视化模块通过知识图谱对生成的标签进行关联3条件概率函数对所有样本求和，以实现在给定原始数据样本的情况下预测辅助目标概率；通过正则表达式和自然语言处理库进行至少包括数据的清洗、去重、4通过词向量转换工具GV在上下文中的共现关系中生成嵌入向量；所述对于每个单词或子词，通过科学计算库NP查询训练好的词嵌入模通过交叉熵损失函数计算词嵌入向量之间的相似度，将生成的词嵌5制计算输入位置对于输出预测的重要性，以显示模型在推理过程中的关注点和重要区域；所述决策解释单元通过梯度类别激活映射方法将模型输出与输入之间的梯度信息可视化，6[0006]针对现有技术的不足，本发明公开了一种大语言模型的7频数据融合形成不同数据源特征以提升模型的上下文8测输出与对比目标之间的相似性；通过条件概率函数获得数据标签的概率定义信息数据，9签修正单元通过信息聚合方法将预测标签与真实标取情况；所述注意力可视化单元通过自注意力机制计算输入位置对于输出预测的重要性，通过知识图谱展示模型在推理过程中的信息；所述知识图谱通过图数据库存储和管理标频数据融合形成不同数据源特征以提升模型的上下文测算法识别并处理异常值；所述数据清洗模块的输出端与所述标签提取模块的输入端连接收的输入表示形式。常见的方法包括词袋模型（Bag_of_Words）和词嵌入（WordEmbedding用于将文本转换为向量表示。元通过分层优化方法优化与目标任务相关层的参数，以保留预训练模型所学到的通用特测输出与对比目标之间的相似性；通过条件概率函数获得数据标签的概率定义信息数据，汇表是包含数据集中所有单词的集合。然后，使用词嵌入模型（例如Word2Vec、GloVe或整合和融合；所述联合学习模块通过多模态分类器对整合后的多模态特征进行模型训练；[0104]_TF_IDF（TermFrequency_InverseDocumentFrequency根据词语在文本中[0106]_LDA（LatentDirichletAllocation概率模型用于识别文本中的潜在主题，[0114]在具体实施例中，解释性可视化模块通过特征映射单元中技术如主成分分析具体实施方式仅是举例说明，本领

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论