CN114372589B 一种联邦学习方法及相关装置 （远光软件股份有限公司）

A,2020.01.03A,2020.08.04A,2021.12.10A,2021.12.24本申请公开了一种联邦学习方法及相关装算法、第一类数据和第一初始参数进行模型训2确定第一类数据和第一初始参数，利用所述第一训练将所述第一本地参数传输至所述共识节点，以利用所述从链中将通过所述共识验证的所述第一本地参数确定为目标本地参数其中，从若干从链节点选取共识节点的步骤包括：基于预设的点获得的奖励是基于所述训练节点对应的目标本地参数3.根据权利要求2所述的方法，其特征在于，若所述第二哈希值不等于所述第一哈希36.根据权利要求1所述的方法，其特征在于，所述将所述目标本地参数上传至主链节从链节点对哈希结果进行归一化处理得到归一化基于从链节点在上一轮联邦学习过程中获得的奖励、从链中各个确定二项分布的累积概率密度曲线，并基于累积概率密度曲线将通过所述共识验证的所述第一本地参数输出为目标本地参数励是基于所述训练节点对应的目标本地参数的准调用随机函数中的Verify函数校验所述第一本地参数，基于所述共识验证的结果，对所接收到的各个所述第一本地参4从链节点对哈希结果进行归一化处理得到归一化基于从链节点在上一轮联邦学习过程中获得的奖励、从链中各个确定二项分布的累积概率密度曲线，并基于累积概率密度曲线基于所述第一预设数量的目标本地参数聚合得输出所述第一全局参数至所述从链节点以进行下一轮训练；其中，链节点在上一轮联邦学习过程中获得的奖励、从链中各个所述从链节点所得的奖励之和、基于所述初始全局参数和自身所存储的第二类数据进行循环训确定所述第一预设数量的从链节点各自的第一权重，其中，所述5根据各个所述目标本地参数对所述第一全局参数的贡献，分别点上传所述目标本地参数到所述主链节点的时间正从链节点对哈希结果进行归一化处理得到归一化基于从链节点在上一轮联邦学习过程中获得的奖励、从链中各个确定二项分布的累积概率密度曲线，并基于累积概率密度曲线所述训练节点用于训练获得第一本地参数，所述共识节点用于对所述所述主链节点能够与所述从链中至少一个所述从链节点进行交互，所述6所述处理器用于运行所述计算机程序以执行权利要求1至17任意一项7所述方法是由主链中的主链节点执行，所述主链节点与从链中的从链节点可以进行交互，89联邦学习概念。联邦学习是通过利用多个分散的客户端能够协作学习一个机器学习模型，识节点执行共识验证功能。如图1所示意的A1至An代指的是当前轮次从链A中的训练节点，[0044]每个主链节点可以与从链A中的至少部分从链节点进行数据交互，主链节点所对[0054]训练节点在获取到第一训练算法之后，进一步确定第一类数据和第一初始参的初始值，第一初始参数可以是由主链节点在下发第一训练算法时一起下发至从链节点一训练算法分别对有标签数据和无标签数据分别进行模型训练，从而获得第一本地参数。[0058]在另一实施例中，当所确定的第一类数据同时包括有标个共识节点通过访问从链所对应的分布式账本进而获得第一本地参数。在又一实施例中，置为前一个训练节点的上传节点，将最后一个训练节点设置为第一个训练节点的上传节目标本地参数上传至主链节点时，通过利用主链节点的公钥对目标本地参数进行数字签参数的安全性，进而较好地实现保护从链节点用于训练获得目标本地参数的数据的安全将目标本地参数上传至主链节点，通过设置从链中的从链节点和主链节点能够进行交互，本地参数传输至共识节点，共识节点在接收到训练节点发送的待验证的第一本地参数之对候选区块中所包括的第一本地参数(w)执行[0108]进一步地，由于从链中各个训练节点训练获得第一本地[0109]进一步地，步骤S420对第一本地参数执行共识验证，包括：调用随机函数中的中的选取证明(τ)转化为哈希值，即对候选区块中的选取证明进行哈希运算得到VRF_proof_to_hash(τ)。校验VRF_verify(PK,w,τ,seede)＝T[0120]在本申请所提供的技术方案中，考虑到本案所确定的共识节点是运用于联盟链证每个参与者的公平性，这里概率计算使用随机可验证函数(VerifiableRandom上一轮联邦学习过程中所得的本地第一本地机器学习模型的准确度评所对应的实施例中所阐述的各个方法步骤为每个希望竞选共识节点的从链节点均会执行[0129]例如，在一实施例中，基于辅助全局参数生成验证[0136]SIG.表示上一轮联邦学习过程中共识节点所选择的领导节点(Leader)的私钥[0137]e表示的是当前训练轮次信息，用于代指当前对于同一个机器学习模型进行联邦[0140]τ表示预先设定的本轮联邦学习过程中所需选取的共识节点的数量，且可以设置所得的验证私钥和步骤S503中所确定的随机数作为输入，输出一个哈希值，记为hash=所得的奖励之和期望选取的共识节点个数，利用二项分布算法构建该从链节点的二项分[0159]其中，所构建的该二项分布表示某一从链节点i经过多次抽签被抽中为共识节点[0161]m表示每个从链节点(从链节点i)在上一轮联邦学习过程中获得的奖励。进一步链节点所得的奖励平均值，om,是上一轮联邦学习中所有从链节点所得的奖励标准差。例i＝8.6，基于所有奖励的平均值和标准差om,并利用上述标准整数化公式对识节点时，该共识节点则会向其他从链节点公布自身的哈希结果、选取证明和使得公式f判断归一化结果d是否在该设定的阈值目标本地参数，则领导节点此时用于向从链中其他各个从链节点发送进行账本同步的指所获得的奖励最多的共识节点确定为当前轮次联邦学习中的从链节点包括若干训练节点和若干共识节点。本申请所提供的方法包括步骤S710至步骤由从链中除去训练得到目标本地参数的从链节点以外的任意一个从链节点作为上传节点，一本地参数分别进行哈希运算。对待验证的第一本地参数进行哈希运算获得第一哈希值，第一本地参数被篡改，则确定训练得到该待上传的第一本地参数的训练节点(即第一训练件的第一训练节点训练获得第一本地参数所耗用的时间越短，则对应扣除越少的数字代从链节点所上传的目标本地参数执行下述步骤S个训练数据集上的损失函数(即所有从链节点和/或所有主链节点上的数据的并集)最小[0203]进一步地，主链节点聚合第一预设数量的目标本地参数于所获取的第一预设数量的目标本地参数进行聚合，并将聚合所得输出为初始全局参数。[0216]从链节点训练得到第一本地参数后，可以是通过TCP协议通信发送给主链节点进机器学习模型的准确度可以是利用公共验证集验证得到。[0220]Acci表示编号为i的从链节点所得的目标本地参数所对应的本地机器学习模型本地参数所对应的本地机器学习模型在验证数据集上运行的准确[0229]图9所对应的实施例中，基于随机抽取的第一预设数量的目标本地参数确定初始全局参数，然后基于初始全局参数和主链节点自身所存储的第二类数据训练获得全局参前实施例中，上述步骤S902基于所述第一预设数量的目标本地参数聚合得到初始全局参本地参数、第一全局参数和初始参数)与迭代过程中所得的其他结果自动上传至对应的数例中，本申请所提供的电子设备1200包括处理器1201以及与处理器1201耦接的存储器被执行时可以实现图2至图11及其所对应的任意一个实施例