CN119398126A 微调大语言模型的方法及电子设备 （杭州高新区(滨江)区块链与数据安全研究院）_第1页
CN119398126A 微调大语言模型的方法及电子设备 （杭州高新区(滨江)区块链与数据安全研究院）_第2页
CN119398126A 微调大语言模型的方法及电子设备 （杭州高新区(滨江)区块链与数据安全研究院）_第3页
CN119398126A 微调大语言模型的方法及电子设备 （杭州高新区(滨江)区块链与数据安全研究院）_第4页
CN119398126A 微调大语言模型的方法及电子设备 （杭州高新区(滨江)区块链与数据安全研究院）_第5页
已阅读5页，还剩28页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

本申请提供了一种微调大语言模型的方法在第i个微调阶段，对大语言模型的参数空间进按预设的迭代轮次对大语言模型的模型参数进行迭代处理，得到第i个微调阶段的目标模型参2基于所述模型参数向量与零阶规模参数，计算阶段损失述阶段损失函数为所述大语言模型的损失函数更新得基于所述差分隐私零阶梯度与学习率，按预设的迭代轮次对所其中，所述第i个微调阶段的目标模型参数用于构建第i+1述第i+1个微调阶段的迭代轮次大于所述第i个微调阶段的迭代轮次，所述第i个微调阶段基于所述模型参数向量与所述零阶规模参数，通过插入噪声项的零阶梯度估计算法，38.根据权利要求1至7任一项所述的方法，其特征在基于每个迭代轮次计算的所述差分隐私零阶梯度以及第i个微调阶段的学习率，更新4次大于第i个微调阶段的迭代轮次，第i个微调阶段的零阶规模参数小于第i+1个微调阶段5[0008]在第一方面的一种可能的实现方式中，基于所述模型参6基于每个迭代轮次计算的差分隐私零阶梯度以及第i个微调阶段的学习率，更新述第i个微调阶段的目标模型参数用于构建第i+1个微调阶段的参数空间，所述第i+1个微7技术人员通常理解的含义相同；本文中所使用的术语只是为了描述具体的实施例的目的，89着各微调阶段对大语言模型的逐渐优化，微调阶段参与微调的模型参数的数量也不断增型在前期的微调阶段集中优化关键的少量参数，在后期微调阶段则充分优化更多模型参调阶段的阶段损失函数；如图2所示的阶段1经过微调后得到的模型参数，正则化常数λ用于确定正则化项在损失函数中所占的权重大基于逐渐变小的学习率，可以使得大语言模型在前期的微调阶段较大幅度的调整模型参梯度信息中泄露训练数据中的敏感信息。噪声项是从高斯分布中采样得到的噪声参量的i+1=2*Ti。[0073]在一些实施例中，基于每个迭代轮次计算的所述差分隐私零阶梯度以及第i个微的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限所述第i个微调阶段的目标模型参数用于构建第i+1个微调阶段的参数空间，所述第i+1个函数的差分隐私零阶梯度；基于每个迭代轮次计算的差分隐私零阶梯度以及第i个微调阶[0090]在一种可能的实现方式中，基于每个迭代轮次计算的差分隐私零阶梯度以及第i其他通用处理器、数字信号处理器（DigitalSignalProcessor，DSP）、专用集成电路（ApplicationSpecificIntegratedCircuit，ASIC）、现成可编程门阵列（Field_分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。[0099]上述存储器61在一些实施例中可以是所述电子设备6的内部存储单元，例如电子备6上配备的插接式硬盘，智能存储卡（SmartMediaCard，SMC安全数字（Secure[0106]所集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论