CN119293861B 面向异构联邦学习的自适应差分隐私保护方法 （齐鲁工业大学(山东省科学院)）

面向异构联邦学习的自适应差分隐私保护本发明属于联邦学习的技术领域，更具体上施加较少噪声，而在次要层次上施加更多噪影响，尤其是降低模型的收敛速度和精度的问2S1、对深度神经网络进行分层处理，对各层设置S2、将优化后的深度神经网络聚合得到中心服务S5、将更新后的本地模型参数即加噪处理的本在卷积层中添加一个分段的正则项Q,(ulw)：代表客户端i在第t次全局迭代中进行第k次本地迭代后的卷积层参数，k≤τ,而uf-1则代表Q,(VIW)=IIV;t,k-vzt.k-1112（2i在第t次全局迭代中进行第k次本地迭代后的全连接层参数，而v;t,k-1则代表客户端i在第t次全局迭代中进行第k-1次本地迭代后的全连接层参当分配给卷积层的隐私预算为时，则分配给全连接层的噪声为满足3e为隐私预算；分别是卷积层和全连接层的裁剪阈值，N(0,(o;)2)和N(0,(o;)2)分别是卷积层和全连接层"表示更新得到的第t次本地迭ti在第t轮迭代中的样本梯度为VJ,：t次迭代时第k次本地迭代的客户端i的卷积层的模型参数，4*(f*IW*)和*(*IW*)分别表示客户端i在第t轮迭代时第k次i的卷积层与其中，所述计算机程序被所述处理器执行时实现如权利要5.一种计算机可读存储介质，所述计算机可读存储5[0003]中国专利文献CN118674014A公开一种隐私保护的多层级的自适应差分隐私联邦学习方法，以解决传统的差分隐私联邦学习方法由于噪声的引入，6u;fk代表客户端i在第t次全局迭代中进行第k次本地迭代后的卷积层参数，k≤τ,而ut-1则[0022]Q,(VIW)=IIvt,k-vt,k--1112（2i在第t次全局迭代中进行第k次本地迭代后的全连接层参数，而则代表客户端i在第t次全局迭代中进行第k-1次本地迭代后的全连接层7t轮全局迭代中，teT，客户端i在第t轮全局迭代中的样本u;k代表第t次迭代时第k次本地迭代的客户端i的卷积层的模型迭代的客户端i的全连接层的模型参数，vt,k-1代表第t次迭代时第k-1次本地迭代的客户*(f*IW*)和分别表示客户端i在第t轮迭代的第k次本地迭代时卷积层和全连接层的本地梯度；B表示客户端i的本地数据集D;中的样本总k次本地迭代时客户端i的卷积[0044]当分配给卷积层的隐私预算为时，则分配给全连接层的噪声为满足e为隐私预算；8代表更新得到的第τ次本地迭代时客户端的卷积层与全连接层参数，C和C,是裁剪阈"表示更新得到的第τ次本地迭代时客户端的卷积层与9[0072]卷积层的主要作用是通过卷积操作提取输入数据中的特征，并通过多个滤波器[0081]Q,(VIW)=IIvt,k-vt,k--1112（2i在第t次全局迭代中进行第k次本地迭代后的全连接层参数，而v;t,k-1则代表第t次全局迭代中进行第k-机制和动量机制的系数，B代表本地数据集中的样本总数，b代表本地数据集中的第b个样[0089]在本地模型中，每个客户端均具有一个用于图像分类识别任务的本地数据集D每个参与者使用自己的数据子集进行本地训练，并通过分布式学习的方式共享模型更新，t*(f*IW*)和分别表示客户端i在第t轮迭代第k次本地迭代时卷积层与全连接层的本地梯度；B表示客户端i的本地数据集D;中的样本总[0111]引理1：对于机制M(D)=f(D)+Z，其中D差分隐私；,其中小…,心分别对应每一维度所添加的高斯噪声，则机制M也满足C和c,是裁剪阈值，和N(0,(ot)2)分别是期望为0，方差为和(ot)2的高斯噪声。[0123]将更新后的本地模型参数即加噪处理的本地模型参数上传至中心服务器进行参n"和ny分别是全局更新时卷积层和全连接层的学习率，并将更新后的全局模型参数下发至各。[0142]对比实验结果如图2所示，本发明的方案相对于基准方案在精度上提高了9%到15%。分层方案指的是在本方案中不采用正则化机制和动量机制的模型方法。基准1是计算机程序当被执行时使得所述机器执行如上所述的面向异构联邦学习的自适应差分隐处理器读出并执行存储在该可读存储介质中的计算现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定[0155]这些计算机程序指令也可存储在能引导计算