CN119443209A 一种基于互学习的联邦大模型微调方法、设备及介质 （山东浪潮科学研究院有限公司）

本申请公开了一种基于互学习的联邦大模值，将第二结果和第一损失值组成第一知识集方法实现了充分利用客户端小型语言模型的知器端大模型的知识提升客户端小型语言模型的2计算所述第二结果和第一结果的第一损失值，将所述第二计算所述第三结果的第二损失值，并将所述第一损失值和获取最小的第一损失值，并根据与所述客户端的词汇若所述第一损失值小于第二损失值，获取该客户端的第模型进行微调。采集本地私有数据集和公共数据集，对词汇进行提取，并统计所述词基于所述词汇的相似度、上下文信息，确定词汇之间的映射关系，对重复的词汇进行去重处理，对所述相似度大于预设阈值的词汇进初始化所述低秩矩阵，使用所述本地私有数据集训练所述3在所述准确率和效率达到预设阈值的情况下，保存当前基于所述第一结果包括计算特征向量、注意力分布和梯度信息分别选择特征向量、注意力分布和梯度信息的第一损失其中，所述存储器存储有可被所述至少一个处理器执计算所述第二结果和第一结果的第一损失值，将所述第二计算所述第三结果的第二损失值，并将所述第一损失值和10.一种基于互学习的联邦大模型微调的非易失性计算机存储介质，存储有计算机可计算所述第二结果和第一结果的第一损失值，将所述第二计算所述第三结果的第二损失值，并将所述第一损失值和4[0003]关于联邦大语言模型的研究主要集中在使客户端能够协作的微调他们各自本地端小型模型独特领域知识对服务器端大型模型的充实56型语言模型，同时将客户端小型语言模型的独特见解丰富到服务器端的大型语言模型中，图2为本申请实施例提供的一种基于互学习的联邦大模型微调方法的测试集结果图3为本申请实施例提供的一种基于互学习的联邦大模型微调方法的第一损失值图4为本申请实施例提供的一种基于互学习的联邦大模型微调方法的组件关系示图5为本申请实施例提供的一种基于互学习的联邦大模型微调方法的第一损失值图6为本申请实施例提供的一种基于互学习的联邦大模型微调方法的特征向量、图7为本申请实施例提供的一种基于互学习的联邦大模型微调方法的服务器端与图8为本申请实施例提供的一种基于互学习的联邦大模型微调方整体逻辑示意图9为本申请实施例提供的一种基于互学习的联邦大模型微调方法的模型微调前图10为本申请实施例提供的一种基于互学习的联邦大模型微调设备的内部结构7如客户端私有数据集包含10245条电子领域的维修对话记录，涉及维修人员与设备持有者本步骤中，在模型的决定性层次如Transformer的注意力机制层或前馈神经网络微调，如可以将原始模型参数W分解为两个低秩矩阵A和B的乘积加上一个很小的残差矩阵中，每次迭代都会使用一批对话记录来计算梯度并更新低秩矩阵A、B和残差矩阵ΔW的参量，假设BLEU分数范围为0到1，其中1表示完美匹配。经过评估，生成文本的BLEU分数为89行微调。进行微调。[0044]图10为本申请实施例提供的一种基于互学习的联邦大模型微调设备内部结构示[0045]本申请的一些实施例提供的对应于图1的一种基于互学习的联邦大模型微调的非[0050]这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特