CN119398127A 大模型参数微调方法、装置、设备、介质及产品 （清华大学深圳国际研究生院）_第1页
CN119398127A 大模型参数微调方法、装置、设备、介质及产品 （清华大学深圳国际研究生院）_第2页
CN119398127A 大模型参数微调方法、装置、设备、介质及产品 （清华大学深圳国际研究生院）_第3页
CN119398127A 大模型参数微调方法、装置、设备、介质及产品 （清华大学深圳国际研究生院）_第4页
CN119398127A 大模型参数微调方法、装置、设备、介质及产品 （清华大学深圳国际研究生院）_第5页
已阅读5页，还剩19页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

品本发明提供一种大模型参数微调方法、装述微调策略包括基于随机子空间迭代法对所述2根据所述更新梯度对所述大模型的参数进行微调；若当前梯度步数非周期起点，将上一梯度步数的正交基作为当前梯度步数的正交基，若待投影的所述大模型的梯度为所述投影查询向量的梯度或所述投影键向量的梯度，于所述随机子空间迭代法和所述大模型的梯度得到当前梯度步基于所述当前梯度步数的正交基和所述大模型的梯度，得到投影根据所述更新梯度和所述梯度残差对所述大模型的参数进行微调。38.一种电子设备，包括存储器、处理器及存储程序被处理器执行时实现如权利要求1至6任一项所述大模行时实现如权利要求1至6任一项所述大模型参4如果对大模型的全部参数进行微调需要耗费巨量的显存根据所述更新梯度对所述大模型的参数进行微调；5若待投影的所述大模型的梯度为所述投影查询向量的梯度或所述投影键向量的根据所述更新梯度和所述梯度残差对所述大模型的参数进行微调。微调；机程序被处理器执行时实现如上述任一种所述大模型参6家相应的数据保护法规政策的前提下，并获得由相应装置所有者给予授权的情况下进行7Qrr1可作为第t+1次迭代的近似基。标都是将A的一列转换为仅顶部有非零元素的列，这样逐步构建出上三角矩阵R。与此同[0035]可以理解的是，本发明通过随机子空间迭代法对所述大模型的梯度进行低维投述低维投影梯度可表示为ic。代入优化算法对应的参数更新公式即可实现对大模型的参数8正交基可表示Qt，将上一梯度步数的正交基作为当前梯度步数的正交基可表示为。9根据所述更新梯度对所述大模型的参数进行微调；若待投影的所述大模型的梯度为所述投影查询向量的梯度或所述投影键向量的根据所述更新梯度和所述梯度残差对所述大模型的参数进行微调。[0091]此外，上述的存储器430中的逻辑指令可以通过软件功能单元的形式实现并作为发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论