CN119396497A 基于云端大模型增强的边缘ai协同方法及系统 （复旦大学）

基于云端大模型增强的边缘AI协同方法及本发明涉及一种基于云端大模型增强的边语言处理技术解析自然语言请求并转化为各个用跨设备一致性维护算法对各个初步边缘AI模2基于云端大模型采集自然语言请求，通过自然语言处理技术对评估各个边缘设备的处理能力，根据所述处理能力将各个所述子任务协使用跨设备一致性维护算法对各个所述初步边缘AI模型进行同步机制和一致性约束，基于各个所述目标边缘AI模型完成各个所述边缘设备的边将所述自然语言请求输入至预训练的云端大模型中，通过自然根据所述词语预测结果确定用户行为，提取所述自然语言请求中的通过自然语言处理技术将所述自然语言请求转换为结构化的请求表示，得到用户请使用匹配函数将所述用户请求与各个所述边缘设备的处按照所述任务卸载策略将各个所述子任务动态协调卸载到对应的各个边缘设3确定边缘设备数量，并根据所述自然语言请求的数据量或所述处理能力计算分配权根据所述边缘设备数量、分配权重设计分布式架构，各个所述边缘使用所述联合学习所需的代码，在所述分布式架构上对各个所述获取各个所述边缘设备上的各个所述初步边缘AI模型的各个将各个所述参数分别与所述全局平均模型参数进行比较，并进基于各个所述参数的差异性、全局平均模型参数确定一致性智能协调与任务卸载模块，用于评估各个边缘设备的处所述联合学习所需的代码通过分布式的方式在各个所述边缘设备上进行边缘AI模型训练，跨设备一致性维护模块，用于使用跨设备一致性维护算法对各个所述初边缘AI协同模块，用于基于各个所述目标边缘AI模型完成各个所述边缘语言处理技术根据所述自然语言请求计算下一个词的得分，并基于所述得分进行词语预4使用跨设备一致性维护算法对各个所述初步边缘AI模型进行同步机制和一致性基于各个所述目标边缘AI模型完成各个所述边缘设备的边5按照所述任务卸载策略将各个所述子任务动态协调卸载到对应的各个边缘设备6自动化联合学习模块，用于利用所述云端大模型基于所述联合学习所需的代码通过分布式的方式在各个所述边缘设备上进行边缘AI模型7[0018]本申请实施例提供的基于云端大模型增强的边缘AI协同方法，可以应用于如图1110分别与各个边缘设备120连接通信。云端设备110可以基于云端大模型采集自然语言请代码，基于联合学习所需的代码通过分布式的方式在各个边缘设备120上进行边缘AI模型[0019]在一个实施例中，如图2所示，提供了一种基于云端大模型增强的边缘AI协同方8T=c-scos(T)+β⃞soeay(T)+y-soependenry(T)；其中，是调度后的子任务序列，[0029]在智能协调与任务卸载之前，云端设备首先需要对边缘设备的计算能力进行评9载的优化问题可表示为其中，D是一会泄露任何单个用户的敏感信息，差分隐私可通过添加噪声来实现，可以表示为：[0043]步骤208，使用跨设备一致性维护算法对各个初步边缘AI模型进行同步机制和一型参数需要与全局模型参数进行比较，并进行适当的更新，同步过程可表示为：[0049]全局模型参数需要根据所有设备上的模型参数进行更新，可通过加权平均的[0055]在一个实施例中，如图3所示，提供了一种基于云端大模型增强的边缘AI协同系跨设备一致性维护模块340，用于使用跨设备一致性维护算法对各个初步边缘AI模型进行同步机制和一致性约束，将初步边缘AI模型的模型参数在各个边缘设备间对齐，边缘AI协同模块350，用于基于各个目标边缘AI模型完成各个边缘设备的边缘AI用户接口允许用户以自然语言的形式提交请求，是系统与用户交互的前端界面；请求智能协调任务卸载；隐私保护联合学习单元负责在边缘设备上执行自动化联合学习，模型参数保持一致性，提高模型的整体性能；任务执行单元在边缘设备上执行具体的AI[0061]用户意图理解模块的结构示意图如图6所示，用户意图理解模块依托于云端部署自然语言处理技术负责使用先进的自然语言处理技术来理解用户的自然语言请表示优化后的子任务被发送到边缘设备执行。模块协同与性能评估在整个过程中起到监控[0063]在一个实施例中，智能协调与任务卸载模块320还用于确定各个边缘设备的评估[0064]在一个实施例中，智能协调与任务卸载模块320还用于通过自然语言处理技术将卸载策略将各个子任务动态协调卸载到对应的各个边缘[0065]智能协调与任务卸载模块的结构示意图如图7所示，智能协调与任务卸载模块负 [0067]在一个实施例中，自动化联合学习模块330还用于获取各个边缘设备上的数据分[0069]自动化联合学习模块的结构示意图如图8所示，自动化联合学习模块利用云端大模型参数的有效对齐；模型更新根据全局模型和边缘设备上的更新模型生成新的全局模[0071]在一个实施例中，跨设备一致性维护模块340还用于获取各个边缘设备上的各个初步边缘AI模型的各个参数，基于各个参数确定各个初步边缘AI模型的全局平均模型参[0073]跨设备一致性维护模块的结构示意图如图9所示，跨设备一致性维护模块确保在一致性约束定义负责定义跨设备的一致性约束，限制不同设备上模型参数的差用户意图理解：云端大模型辅助的用户意图理解模块分析学生的学习目标和需算机程序，该处理器执行计算机程序时实现基于云端大模型增强的边缘AI协同方法的步机程序被处理器执行时实现基于云端大模型增强的边缘AI协同方法通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机