版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
US2021035556A1,2021.02.04基于知识指导前缀微调的自然语言处理方本发明公开了一种基于知识指导前缀微调利用前缀提示词的嵌入向量与输入文本的key值与value值拼接后进行self-attention的计算,这样使得微调的预训练语言模型对下游任务的确性。下游任务为情感分析任务和关系提取任2根据下游任务构建初始前缀提示词,并将初始前缀提示词通过将下游任务的每个任务类别链接到知识图谱,将知识图谱中与每个任务依据前缀提示词和标签词,将预训练语言模型转化为遮嵌入向量拆分成维度与对应的模型层维度相同的2部分,分别与训练文本对应的key值与应用时将预测文本、前缀提示词的嵌入向量输入至微调后将初始前缀提示词初始编码为初始嵌入向量,然后采用函数映射将初始前缀提示词初始编码为初始嵌入向量,将采用多层MLP将初始嵌入向量进行映3前缀提示词处理模块,用于根据下游任务构建初始前缀提示词,标签词处理模块,用于将下游任务的每个任务类别链接到知识图谱,将知微调模块,用于依据前缀提示词和标签词,将预训练语言模型转化为前缀提示词的嵌入向量拆分成维度与对应的模型层维度相同的2部分,分别与训练文本对8.一种计算设备,包括存储器、处理器以及存储在执行时实现权利要求1-6任一项所述的基于知识指导前缀微调的4[0003]微调/fine-tune是将PTM知识转移到下游任务的主要方法,目前常用的微调方法[0004]现有专利文献CN112100383A公开了一种面向多任务语言模型的元-知识微调方法[0005]再如公布号为CN113032559A的专利申请公开的一种用于低资源黏着性语言文本[0006]鉴于上述,本发明的目的是提供一种基于知识指导前缀微调的自然语言处理方5[0015]将初始前缀提示词初始编码为初始嵌入向量,将采用多层MLP将初始嵌入向量进词的嵌入向量拆分出来对应key值的那部分,表示前缀提示词的嵌入向量拆分出来对应6机程序被处理执行时实现第一方面所述的基于知识指导前缀微调的自然语谱中获得任务类别相关的标签词,然后利用前缀提示词的嵌入向量与输入文本的key值与练语言模型提升的情感分析的准确性和关系[0035]针对利用微调后的预训练语言模型进行情感分析任务和关系抽取任务不准确的7[0043]步骤3,依据前缀提示词和标签词,将预训练语言模型转化为遮蔽令牌的下游任提示词的嵌入向量拆分成维度与对应的模型层维度相同的2部分,分别与训练文本对应的8型是专门为从大规模无标注语料中以无监督的方式学习语料中的语义信息的神经网络模9在终端或服务器的内部结构划分成不同的功能模块,以
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 六盘水市2027年高三冲刺模拟高考物理试卷(含答案解析)
- 双碳约束下智能喷灌头能否成为传统农机的第二增长曲线
- 十五五智能档口售餐机:数据隐私保护与新国标挑战
- 【新课标学习】研读新课标探索新教学-生物组新课标学习(二)
- 2026年智能照明行业市场竞争力分析报告
- 2026年纺织行业报告:理性消费与平替产品的市场分析
- 2026年金融行业人才队伍建设与激励机制深度研究报告
- 2026年人工智能行业品牌战略报告
- 2026年汽车后市场单品类、多品类、全品类服务模式报告
- 2026年农膜行业年报:环保材料与市场应用
- 2027届辽宁省名校联盟高三11月联考历史试题(含答案)
- 浙江台州市十校联考2026-2027学年高一上学期11月期中考试化学试卷
- (2026年)秋冬季传染病防控工作总结
- 良好习惯的养成扬帆起航主题班会课件
- (2026年)银川市贺兰县社区工作者考试题库及答案
- 2026-2030中国便携式咖啡豆研磨机市场竞争格局及前景规划建议研究报告
- 给水用聚乙烯(pe)管道系统第部分管件
- 客户对产品投诉处理说明7篇范文
- 建筑施工三级安全教育培训
- 生产车间6s考核制度
- 教研组会议课件
评论
0/150
提交评论