机器学习系统与优化 习题及答案 第六章

1.联邦学习分为哪几类？请简要阐述下这几类的区别。2.简述下联邦学习分别于与分布式机器学习、传统机器学习的区别。3.简要描述下什么是强化学习？4.在联邦学习中，数据是如何处理和保护的？5.联邦学习系统中，为何需要设计激励机制？请举例说明两种常见的激励机制类型，并分析它们对系统稳定性的影响。6.（1）甲、乙两家银行分别拥有大量客户信息，但银行A和银行B的客户几乎没有交集，且双方只拥有各自客户的部分特征信息（如银行A有客户的交易记录，银行B有客户的信用评分）。双方希望联合建模以提升信用风险评估效果，但不能直接交换客户数据。（2）两家不同的医院分别拥有相同患者群体的信息，但数据特征不同：医院A有患者的影像数据，医院B有患者的基因检测数据。双方希望联合训练一个诊断模型，但不共享具体原始数据。（3）一家电商平台想利用国外一家成熟电商公司的用户行为模型进行改进，但两边用户群体和数据特征差异较大，希望借助已有模型知识，实现模型迁移和联合训练7.简要说明下联邦学习未来的挑战。8.已知函数敏感性ΔM=4，隐私预算(1)写出拉普拉斯分布的概率密度函数。(2)根据差分隐私噪声机制的定义，写出加噪函数的表达式（噪声服从哪个分布、参数是多少）。(3)若一次生成的拉普拉斯噪声为z=-1.2，函数原值M9.假设有3个客户端C1,Cw1问题：

（1）计算第1轮聚合后的全局模型参数w(1)。

（2）请说明为什么联邦平均要根据数据量加权，而不是简单算术平均。

（3）若第2轮时，客户端C10．联邦学习是一种分布式机器学习方法，通过多个客户端在本地训练模型并在服务器端聚合更新，保护用户数据隐私。假设你需要设计一个简单的联邦学习实验，目标是在多个客户端上训练一个分类模型（如手写数字识别），请结合实际说明如下步骤：（1）请简述如何模拟客户端的本地数据。请说明如何将数据划分给多个客户端，考虑均匀分布和非独立同分布（Non-IID）两种情况。（2）请描述联邦平均（FedAvg）算法的基本流程，包括客户端的本地训练和服务器端模型参数聚合的主要步骤。（3）请列举至少三种用于评估联邦学习模型训练效果和效率的实验指标。习题61.横向联邦学习：各参与方拥有相似的特征空间，但样本空间不同，适用于数据特征维度一致但用户群体不同的场景。纵向联邦学习：各参与方样本空间重合，但特征空间不同，常用于不同机构对同一群体拥有不同特征数据的情况。联邦迁移学习：适用于数据差异大但仍需协同的场景和参与方在样本空间和特征空间都不重合的情况。2.与传统机器学习相比：传统机器学习需要将所有数据集中到一个服务器上训练模型，而联邦学习无需集中数据，各方仅共享模型参数，保护数据隐私;与分布式机器学习相比：分布式学习通常是在同一个组织内部的集群环境下，数据划分后并行训练；联邦学习强调跨组织、跨设备，且具备隐私保护和通信效率限制等额外约束。3.强化学习是一种使智能体通过与环境交互学习策略的机器学习方法。智能体根据当前状态选择动作，从环境中获得奖励，通过试错过程优化行为策略以最大化长期回报。4.联邦学习通过多种方式保护数据隐私和安全：本地化处理：数据保留在本地训练，不上传原始数据。加密技术：如同态加密、安全多方计算，保障传输与聚合安全。差分隐私：在模型更新中添加噪声，防止反推个人信息。安全多方计算：多方协作聚合模型参数，无需共享原始数据。模型聚合：服务器只接收本地模型更新，统一更新全局模型。数据最小化：仅使用必要数据，降低隐私风险。这样既能利用分布式数据训练模型，又能有效保护隐私。5.联邦学习中设计激励机制是为了促进各参与方积极贡献数据和计算资源，保障系统稳定运行。常见激励方式包括按贡献大小分配奖励的收益分配激励和基于历史表现给予优待的信誉机制激励。合理的激励机制能够提高合作意愿和模型质量，不合理则可能导致参与不足或恶意行为。6.(1）纵向联邦学习：数据样本重合度低，特征维度互补。（2）横向联邦学习：样本重合度高，特征空间不同。（3）联邦迁移学习：样本和特征空间均不同，通过迁移学习方式实现联合。7.首先，数据异构性问题较为突出，不同客户端的数据分布差异大，导致模型训练难以收敛或性能不稳定。其次，通信开销依然较高，特别是在大规模客户端环境中，频繁的模型参数交换增加了网络负担。再者，隐私保护技术需不断提升，目前的差分隐私和加密方法在效率和安全性之间存在权衡。还有，联邦学习的激励机制设计复杂，如何合理激励各方参与且确保系统公平稳定是难点。最后，跨领域和跨平台的联邦学习应用需要更好的兼容性和标准化支持。8.（1）拉普拉斯分布的概率密度函数为：P（2）加噪函数表达式为：M其中，尺度参数为：b（3）具体加噪输出值为：M9.（1）加权平均计算：w（2）解释权重反映数据贡献大小，避免小数据量客户端＂拉低＂模型。

（3）服务器只聚合收到的模型参数，缺失的客户端参数不计入权重，可能导致全局模型偏向其他客户端数据分布。10.(1）本地数据模拟可以通过两种方式实现。第一种是均匀分布，即将整个数据集随机且均匀地划分为多个子集，分别分配给不同客户端，使每个客户端拥有类似的数据分布。第二种是非独立同分布（Non-IID），通过人为划分数据，使不同客户端的数据存在差异，例如某些客户端只包含特定类别的数据，或者客户端间数据量差异较大，模拟真实环境中的数据异质性。（2）联邦平均（FedAvg）算法的基本流程包括以下步骤。客户端在本地数据上独立训练模型若干轮，更新本地模型参数。然后，每个客户端将本地模型参数发送到中央服务器。服务器根据客户端样本数量对所有模型参数进行加权平均，得到全局模型参数。接着，服务器将全局模型参数下发给所有客户端，作为下一轮本地训练的初始模型。重复上述过程，直到模型收敛或达