CN113923225B 基于分布式架构的联邦学习平台、方法、设备和存储介质 （京东科技控股股份有限公司）

本公开提供了一种基于分布式架构的联邦备的部分特征数据汇聚后包含联邦学习的全部求指令获取子节点设备中的第一类子节点设备征数据分发至子节点设备中的第二类子节点设2子节点设备，获取用于进行联邦学习的部分训练数据，全部任两个所述子节点设备之间的数据交互通过所述主节点设备所述主节点设备接收所述子节点设备计算的加密的梯度值的中间结果所述加密的梯度值的中间结果和损失值确定梯度值；将所述梯度值反馈至所述子节点设所述子节点设备根据所述请求指令确定对应的公钥一私钥对，并将所所述子节点设备根据所述部分训练数据进行部分联邦学习，所述主节点设备还用于获取所述子节点设备执行所述部分联邦学习的进所述主节点设备还用于获取所述子节点设备执行所述部分联邦学习的运行状态信息，3获取子节点设备发送的用于进行联邦学习的部分训练数据，全根据所述请求指令获取所述子节点设备中的第一类子节点设备发送的部分训练数据，并根据所述请求指令将所述部分训练数据分发至所述子节点设备中的第二类子节点设备，以供所述第二类子节点设备根据接收的部分训练数据执行所述联邦学习中的部分联邦学任两个所述子节点设备之间的数据交互通过所述主节点设备接收所述子节点设备计算的加密的梯度值的中间根据所述加密的梯度值的中间结果和损失值将所述梯度值反馈至所述子节点设备，以供所述子节点设备根将所述数据包转发至所述目标子节点设备，所述目标子节点设备接收所述子节点设备通过所述私钥加密的部通过所述公钥对所述加密后的部分训练数据进行其中，所述处理器配置为经由执行所述可执行指令来执行权利要求8至10中任一项所所述计算机程序被处理器执行时实现权利要求8至10中任一项所述的基于分布式架构4节点设备根据接收的部分特征数据执行联邦学习中的部分5[0018]在本公开的一个实施例中，所述元数据库包括Redis数据库、Hbase数据库、Elasticsearch数据库和Oracle数据库令；根据所述请求指令获取所述子节点设备中的第一类子节点设备发送的部分特征数据，并根据所述请求指令将所述部分特征数据分发至所述子节点设备中的第二类子节点设备，以供所述第二类子节点设备根据接收的部分特征数据执行所述联邦学习中的部分联邦学节点设备发送的数据交互请求和数据包；解析所述数据交互请求以确定目标子节点设备；6构或特性可以以任何合适的方式结合在一个或更多实[0039]针对不同数据集，联邦学习分为横向联邦学习(horizontalfederatedlearning)、纵向联邦学习(verticalfederatedlearning)与联邦迁7[0041](2)纵向联邦学习在两个数据集的用户重叠较多而用户特征重叠较少的情况下，[0042](3)联邦迁移学习在两个数据集的用户与用户特征重叠都较少的情况下，不对数施例提供的方法可以由任意具备计算处理能力的电子设备执行，如图1A所示的第一终端端104(或如图1A所示的第二终端106)为执行主体进行[0045]图1A示出本公开实施例中一种联邦学习系统的结构示意图，包括服务器集群102[0048]第一终端104(或如图1A所示的第二终端106)与服务器集群102之间通过通信网络[0049]第一终端104的第一类隐私数据108和第二终端106的第二类隐私数据110无法直接进行交互处理112，而是在第一终端104和第二终端106之间进行加密样本对齐处理1148据端116，通过协助端120进行第一对齐数据端118和第二对齐数据端116之间的连邦学习。[0051]服务器集群102是一台服务器，或者由若干台服务器组成，或者是一个虚拟化平所示的第二终端106)承担主要计算工作；或者，第一终端104(或如图1A所示的第二终端106)和服务器集群102之间采用分布式计算架构进特网、但也可以是任何网络，包括但不限于局域网(Local语言(HyperTextMark_upLanguage，HTML)、可扩展标记语言(ExtensibleTLS)、虚拟专用网络(VirtualPrivateNetwork，VPN)、网际协议安全(Internet还可以使用定制和/或专用数据通信技术取代或者补充上述数据通行联邦学习的部分特征数据，全部子节点设备212的部分特征数据汇聚后包含联邦学习的9征数据，并根据请求指令将部分特征数据分发至子节点设备212中的第二类子节点设备[0061]在本公开的一个实施例中，任两个子节点设备212之间的数据交互通过主节点设[0062]在本公开的一个实施例中，所述子节点设备212根据所述请求指令确定对应的公[0063]在本公开的一个实施例中，子节点设备212根据请求指令确定对应的公钥一私钥[0075](3)ES(Elasti库它实现了分布式处理功能在本公开的一个实施例中，主节点设备202还用于确定联邦学以及根据联邦学习训练任务在子节点设备212之间进行训练[0080]图3示出本公开实施例中一种基于分布式架构的联邦学习平台流程图。本公开实施例提供的方法可以由任意具备计算处理能力的电子节点设备的部分特征数据汇聚后包含所述联邦学[0104]下面参照图7来描述根据本发明的这种实施方式的电子设备700。图7显示的电子(包括存储单元720和处理单元710)的总公开的基于分布式架构的联邦学习平台中限定的其[0107]存储单元720可以包括易失性存储单元形式的可读介质，例如随机存取存储单元[0108]存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具[0109]总线730可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储[0110]电子设备700也可以与一个或多个外部设备740(例如键盘、指向设备、蓝牙设备[0116]可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序块或者单元的特征和功能可以进一步划分为由多个模块或者单者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识