版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
本公开涉及一种领域大语言模型微调训练单项选择任务数据集中的原始指令题目进行数据扰动操作,识别各个领域任务的关键注意力关键注意力头列表中各个关键注意力头的权重2对所述单项选择任务数据集中的原始指令题目进行数据扰动操针对目标领域任务,基于所述目标关键注意力头列表进行关键针对每条原始指令数据,根据映射函数,提取每条原始指令数据的用户将所述原始指令数据输入预设大语言模型中,获取所述单项选择任务数据的正确选将所述原始指令题目和所述正确选项输入所述预设大语言模型针对每个领域任务,将所述单项选择任务数据输入所述预预设大语言模型预测每个单项选择任务数据的原始指令题目为正确选对所述单项选择任务数据集中的原始指令题目进行数据扰动操作将所述扰动单项选择任务数据输入扰动预设大语言模型中,模型预测每个扰动单项选择任务数据的原始指令题目为正确选根据所述初始概率和所述目标概率,确定所述扰动预设大语言根据多个领域任务与多个关键注意力头索引表之间的映射关系针对所述预设大语言模型中的每个注意力头,将当前3针对每个领域任务,在对各个注意力头分别进行扰动激活值替换通过设置所述目标关键注意力头对应的梯度跟踪属性的值为真,设置对所述单项选择任务数据集中的原始指令题目进行顺序调换、错别字替换操选择任务数据集;所述单项选择任务数据集包括多个领域任务的多条单项选择任务数据,项;索引表获取模块,用于对所述单项选择任务数据集中的原表用于表示多个领域任务与多个关键注意力头列表之间的映列表加载模块,用于基于所述关键注意力头参数更新模块,用于针对目标领域任务,基于所述目标关键注意所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的领域大语言模型微理器执行时实现权利要求1至7中任一项所述的领域大语言模型微调4[0003]相关技术中,通过全参数微调、LoRA(Low_RankAdaptation,低秩适应)微调、QLoRA(QuantizedLow_RankAdapter,高效低秩适应)微调等方法进行领域任务训练,然领域任务与多个关键注意力头列表之间的映[0009]基于所述关键注意力头索引表,加载目标领域任务对应的目标关键注意力头列[0011]作为本公开实施例一种可选的实施方式,所述获取多个领域任务的原始指令数5选项;选择任务数据的错误选项;语言模型预测每个扰动单项选择任务数据的原始指令题目为正确[0025]作为本公开实施例一种可选的实施方式,所述根据所述初始概率和所述目标概6[0031]对所述单项选择任务数据集中的原始指令题目进行顺序选项;索引表用于表示多个领域任务与多个关键注意力头列表选项;选择任务数据的错误选项;7[0057]对所述单项选择任务数据集中的原始指令题目进行顺序该计算机程序被处理器执行时实现如第一方面中任一实施方式所述的领域大语言模型微[0060]本公开实施例提供的技术方案与现有技术相比具有如下优点:在微调训练阶段,8[0074]QLoRA(QuantizedLow_RankAdapter,高效低秩适应)是一种高效的大型语言模型(LLM)微调方法,它通过结合量化技术和低秩适配器(LoRA)来显著减少微调过程中的内存使用量。QLoRA能够将原本需要超过780GBGPU内存的65B参数模型微调,降低到在单个9[0075]通用模型基座(FoundationalModel)是一种特定类型的大型语言模型(LLM),被[0077]相关技术中,通过全参数微调、LoRA(Low_RankAdaptation,低秩适应)微调、QLoRA(QuantizedLow_RankAdapter,高效低秩适应)微调等方法进行领域任务训练,然质是将原始任务数据转换为单项选择题形式,该形式是便于进行关键注意力头识别的形语言模型LLM,其作用是通过指令工程根据输入的原始指令微调数据生成相应的单项选择和助手身份的原始回答生成一个正确选项ai以及三个错误选项提取出来作为单项选择任务数据的原始指令题目qij,ai表示单项选择任务数据的正确选的大模型,首先,根据原始数据生成正确选项aj然后结合题目qij和正确取所述预设大语言模型预测每个单项选择任务数据的原始指令题目为正确选项的初始概[0105]在一些实施例中,对所述单项选择任务数据集中的原始指令题目进行顺序调换、大语言模型预测每个扰动单项选择任务数据的原始指令题目为正vk*j[0118]具体的,使用替换注意力头激活值后的[0120]通过比较针对第i个任务Ti,原始模型对正确选项的预测概率Pa*和续训练过程中可以专注于优化这些关键注意力头,从而提升模型在特定领域任务上的表[0127]S14、针对目标领域任务,基于所述目标关键注意力头列表进行关键注意力头训度VL.对于每个属于关键注意力头集合Hi的权重矩阵w,使用这些梯度来更新权重w=w_η*Vw,其中η是学习率。应的正确选项和错误选项;对单项选择任务数据集中的原始指令题目进行数据扰动操作,子任务与关键注意力头的映射关系,从而定位对该子任务性能影响最密切的关键注意力[0137]索引表获取模块320,用于对所述单项选择任务数据集中的原始指令题目进行数力头索引表用于表示多个领域任务与多个关键注意力头列表之选项;选择任务数据的错误选项;[0160]对所述单项选择任务数据集中的原始指令题目进行顺序中,关键注意力头索引表用于表示多个领域任务与多个关键注意力头列表之间的映射关[0161]关于领域大语言模型微调训练装置的具体限定可以参见上文中对于领域大语言[0162]本公开实施例还提供了一种电子设备,图4为本公开实施例提供的电子设备的结程序使得处理器执行本说明书描述的本公开各个实施例的电子设备的图像采集设备的故处理器、数字信号处理器(DigitalSignalProcessor,DSP)、专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、现成可编程门阵列
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 颞骨 CT 解剖专题知识
- 颌骨囊肿医学知识专题讲座培训课件
- 肥胖与脂肪组织关系洞察研究
- 2026事业单位工勤技能-浙江-浙江水工监测工一级(高级技师)历年参考题库含答案详解
- 2026事业单位工勤技能-河南-河南水生产处理工二级(技师)历年参考题库含答案详解
- 2026事业单位工勤技能-河南-河南堤灌维护工二级(技师)历年参考题库含答案详解
- 2026事业单位工勤技能-河南-河南下水道养护工四级(中级工)历年参考题库含答案详解
- 2026事业单位工勤技能-河北-河北下水道养护工一级(高级技师)历年参考题库含答案详解
- 2026事业单位工勤技能-江西-江西水工闸门运行工四级(中级工)历年参考题库含答案详解
- 2026事业单位工勤技能-江苏-江苏食品检验工二级(技师)历年参考题库含答案详解
- 2026乌当区社区工作者(五岗)选聘60人笔试参考题库及答案解析
- 2026重庆綦江区国有企业社会招聘管理人员15人笔试参考题库及答案解析
- 2026年中级经济师《建筑与房地产经济》真题及答案
- 国家宪法主题课件
- 新版2026年新教材统编版九年级上册道德与法治期末复习全册考点提纲
- 森林抚育采伐作业指导书
- 羊绒衫制作工安全操作规程
- 2026年四川省文旅集团招聘考试练习试卷(含答案)
- ASTM D5276-23 中文版(运输包装件自由跌落测试标准 完整原文 + 不同重量跌落高度对照表)
- 2026年江苏省规划设计集团有限公司人员招聘笔试模拟试题及答案详解
- 2026注册计量师-测量不确定度评定实操手册
评论
0/150
提交评论