CN119398138A 基于云端模型分解的边云协同学习方法及系统 （复旦大学）

基于云端模型分解的边云协同学习方法及本发明涉及一种基于云端模型分解的边云各个边缘设备确定目标子模型并调整得到定制通过知识蒸馏技术将所述全局模型的知识迁移通过在边缘设备和云端之间进行有效的知识交2云端服务器进行模型训练得到集中式的云端模型，使用各个边缘设备分别对本地数据集进行分析，个所述子模型中确定与各个所述边缘设备对应的目各个所述边缘设备基于所述本地数据集对各自的所述各个所述边缘设备将模型训练过程中的模型更新通过知识蒸馏技术将所述全局模型的知识迁移回所述边缘设备；所述各个边缘设备确定数据分析条件，并根据所述数据分析条件对本地数据集进行分析，分别获取各个所述子模型的模型性能数据，根据所述模所述子模型中确定与各个所述边缘设备对应的目基于所述模型调整策略，根据所述数据特征对所述目标子模型进各个所述边缘设备通过使用所述本地数据集对3所述云端服务器对各个所述模型更新参数进行聚合处理，并基于聚使用所述目标函数将所述全局模型的知识迁移获取边云协同过程中产生的协同参数，并根据所述协同参数云端服务器，用于进行模型训练得到集中式的云端模型，从各个所述子模型中确定与各个所述边缘设备对应的目标各个边缘设备，还用于基于所述本地数据集对各自的所述目标子模型进行模型调整，边云协同模块，用于通过知识蒸馏技术将所述全局模型的知识迁移回所述边缘设备；4从各个所述子模型中确定与各个所述边缘设备对应的目标各个所述边缘设备基于所述本地数据集对各自的所述目标子模型进行模型调整，5使用所述目标函数将所述全局模型的知识迁移获取边云协同过程中产生的协同参数，并根据所述协同参数对所述定制化子模6特性从各个所述子模型中确定与各个所述边缘设备各个边缘设备，还用于将模型训练过程中的模型更新参数发送至所述云端服务图8为一个实施例中应用在智能交通系统中的流量预测与调度的流程结构示意[0018]本申请实施例提供的基于云端模型分解的边云协同学习方法，可以应用于如图1云端服务器110与各个边缘设备120连接通信。云端服务器110进行模型训练得到集中式的7[0019]在一个实施例中，如图2所示，提供了一种基于云端模型分解的边云协同学习方以将一个大型的云端模型分解为一系列模块化的子模型，这些子模型是独立且可组合的，能够根据不同边缘设备的需求进行个性化的组合。这一过程不仅可以提高模型的可扩展[0022]其中，模型分解算法能够将大型云模型Mcloud分解为多个子模型{Mi}，其中i=1，解过程中的信息损失，同时确保子模型的可组合性和轻量化。分解算法可用公式表示为：8分解过程中的计算和存储开销，数学表达可表示为其根据边缘设备反馈的信息进行自我更新。其中，动态更新机制的数学表达可表示为：i9[0040]在本实施例中，边缘设备可以使用本地数据集Dlocal对个性化子模型Mop[0046]云端服务器聚合后的全局模型Mglobal可能会失去对某些边缘设备本地任务的适应模型在面对数据分布变化时的适应性和鲁棒性。通过个性化子模型派生和边云协同学习，[0050]在一个实施例中，如图1所示，提供了一种基于云端模型分解的边云协同学习系边缘设备中设置有子模型定制化模块330，用于基于本地数据集对各自的目标子边缘设备中设置有模型更新模块340，用于将模型训练过程中的模型更新参数发云端模型分解模块负责实现大型云端模型的分解，生成一系列模块化的子模型，边缘设代表不同的边缘设备，其接收个性化组合后的子模型并进行本地任务处定制化训练是定制化子模型在本地数据集上的进一步训练过程，以优化模型性子模型部署涉及将经过个性化定制和优化的子模型[0061]在一个实施例中，模型更新模块340还用于各个边缘设备通过使用本地数据集对本地训练单元负责在边缘设备上使用本地数据集对个性化个性化调整单元允许边缘设备根据本地任务需求对云端聚合后的全局模型进行习方法应用于智能交通系统中，旨在提高交通流量预测的准确性和交通调度的智能化水算机程序，该处理器执行计算机程序时实现基于云端模型分解的边云协同学习方法的步机程序被处理器执行时实现基于云端模型分解的边云协同学习方法通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机