CN112926073B 联邦学习建模优化方法、设备、介质及计算机程序产品 （深圳前海微众银行股份有限公司）

决了基于联邦学习构建逻辑回归模型时安全性2获取待训练本地模型对应的本地模型预测值，并基于预设第一计算所述本地模型预测值和预设第二随机数之间的同将所述第一随机数加密值和所述第二随机数加密值发送至第二设接收所述第二设备发送的各随机数加密中间参数，分别对各基于所述加密模型损失和所述加密模型梯度，优化所述待训练本地对所述第一随机数加密值和所述第二随机数加密值进行解密，获得对所述第一随机数混合值的平方值进行同态加密，获得所述第二随机数同态加密参对所述第二随机数混合值与所述本地样本标签的乘积所述同态加密参数包括第一同态加密中间参数、第二同态加密中间参通过计算所述第一同态加密中间参数与所述本地特征值的乘积，生成通过计算所述第二同态加密中间参数和所述第三同态加密中间参数之将所述加密模型损失发送至第二设备，以供所述第二设备基于解密后的加密模型损接收所述目标判断结果，若所述目标判断结果为所述待训练本地模3若所述目标判断结果为所述待训练本地模型未收敛，则基于所述3.一种联邦学习建模优化方法，其特征在于，接收第一设备发送的第一随机数加密值和第二随机数加密值算本地模型预测值和预设第二随机数之间的同基于所述第一随机数加密值和所述第二随机数加密值以及本地将各所述随机数加密中间参数发送至第一设备，以供所述第一设数和第三同态加密中间参数；通过计算所述第一同态加密中间参数与本地特征值的乘积，型迭代训练状态判断交互，以供所述第一设备基于所述加密模型梯度和所述加密模型损接收所述第一设备发送的加密模型损失，并对所述加密模型依据所述本地模型损失，判断所述待训练本地模型是否迭将所述模型迭代训练状态判断结果发送至所述第一设备，以供5.一种联邦学习建模优化设备，其特征在于，所述存储器用于存储实现联邦学习建模优化方法所述处理器用于执行实现所述联邦学习建模优化方法的程序，以实现如权4现如权利要求1至2或3至4中任一项所述联邦学习建模优化时实现如权利要求1至2或3至4中任一项所述联邦5[0001]本申请涉及金融科技(Fintech)的人工智能技术领域，尤其涉及一种6机数加密值和所述第二随机数加密值由第一设备基于预设第一随机数和预设第二随机数，处理器执行时可实现如上述的联邦学习建模优化方7现有技术采用的参与联邦学习的标签拥有方通常需要将同态加密的标签发送至无标签的特征拥有方，进而特征拥有方基于同态加密的标签计算同态加密的梯度和同态加密的损有方以进行模型更新的技术手段，本申请首先获取待训练本地模型对应的本地模型预测要知道的密文内容(同态加密的标签)代替同态加密的梯度和同态加密的损失发送至标签[0032]图2为本申请联邦学习建模优化方法中第一设备与第二设备联合训练时的交互过[0034]图4为本申请实施例中联邦学习建模优化方法涉及的硬件运行环境的设备结构示8代训练所述待训练本地模型的第一轮迭代过程中，所述待训练本地模型参数处于明文状述预设第一随机数混合方式和所述预设第二随机数混合方式包括求和以[0043]在另一种实施方式中，当处于迭代训练待训练本地模型所述本地模型预测值处于明文状态时，所述获取待训练本地模型对应的本地模型预测值，[0044]获取待训练本地模型对应的本地模型预测值，并基于预9[0048]基于所述预设第一随机数和所述本地模型预测值，生成[0049]步骤S12，计算所述本地模型预测值和所述预设第二随机数之间的同态加密的乘供所述第二设备基于所述第一随机数加密值和所述第二随机数加密值以及本地样本标签，密参数和所述第三随机数同态加密参数用于计算待训练本地模型对应的同态加密的模型数同态加密参数和所述第三随机数同态加密参数进行随机数影响消除的过得第二同态加密中间参数，并对所述第三随机数同态加密参数与预设第二随机数进行求[0066]在本实施例中，基于各所述同态加密值和所述本地模型预测值对应的本地特征[0074]在本实施例中，通过计算所述第一同态加密中间参数与[0077]步骤S40，基于所述加密模型损失和所述加密模型梯度，优化所述待训练本地模密后的加密模型损失，生成判断所述待训练本地模型是否迭代训练完毕的目标判断结果，[0089]其中，[[Wt+1]]为迭代训练待训练本地模型时第t+1轮迭代中同态加密的模型参t]]为迭代训练待训练本地模型时第t轮迭代中同态加密的模型参数，[[g]]为所述邦学习参与方的同态加密的隐私数据，且该联邦学习参与需要将同态加密的待解密数据学习过程存在无法抵御恶意参与方的恶意攻习参与方的同态加密的隐私数据，且该联邦学习参与需要将同态加密的待解密数据(损失和梯度)发送至另一联邦学习参与方进行解密后得到解密结果的交互过程，所以在本申请结果的交互流程套取所述第二设备中的样本标签，保证了第二设备中的样本标签的隐私隐私数据的情况发生，所以本申请联邦学习过程具备了抵御恶意参与方的恶意攻击的能述第一随机数加密值和所述第二随机数加密值由第一设备基于预设第一随机数和预设第型预测值进行加密生成步骤A20，基于所述第一随机数加密值和所述第二随机数加密值以及本地样本标签，生成各随机数加密中间参数的具体过程可参照步骤S10及其细化步骤中随机数混合值和所述第二随机数加密值对应设备基于所述模型迭代训练状态判断结果和所述加密模型损失，优化所述待训练本地模代训练状态判断结果判定待训练本地模型迭代训练完毕，则通过与第二设备进行解密交述第一随机数加密值和所述第二随机数加密值由第一设备基于预设第一随机数和预设第一随机数加密值和所述第二随机数加密值以及本地样本标签，生成各随机数加密中间参信。存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatilememory)，例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储设[0127]本领域技术人员可以理解，图4中示出的联邦学习建模优化设备结构并不构成对[0129]在图4所示的联邦学习建模优化设备中，处理器1001用于执行存储器1005中存储[0130]本申请联邦学习建模优化设备具体实施方式与上述联邦学习建模优化方法各实[0141]通过计算所述第二同态加密中间参数和所述第三同态加[0148]若所述目标判断结果为所述待训练本地模型未收敛，则优化所述待训练本地模型，并返回所述获取待训练本地模型对应的本地模型预测值的步[0149]本申请联邦学习建模优化装置的具体实施方式与上述联邦学习建模优化方法各[0165]本申请联邦学习建模优化装置的具体实施方式与上述联邦学习建模优化方法各理器执行以用于实现上述任一项所述的联邦学习建模优化方法[0167]本申请可读存储介质具体实施方式与上述联邦学习建模优化方法各实施例基本理器执行以用于实现上述任一项所述的联邦学习建模