CN119473640A 面向生成式人工智能服务的边缘协同推理优化方法 （天津师范大学）

面向生成式人工智能服务的边缘协同推理本发明提供了一种面向生成式人工智能服成式人工智能模型与初始噪声图像发送至客户声图像执行多轮推理过程，生成客户端噪声图2S1，客户端向边缘服务器发送模型请求以及S2，所述边缘服务器根据所述文本描述以及所述生S3，所述客户端根据所述生成式人工智能模型S4，所述边缘服务器基于所述客户端噪声图像继续2.根据权利要求1所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征所述边缘服务器查询是否缓存有所述客户端所请求的模型，若模3.根据权利要求1所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征确定所述边缘服务器已经缓存所述生成式人工智能模型文本描述进行处理得到文本编码ztext，并根据所述生成式人工智能模型得到初始噪声图其中，text表示文本向量，tokenembedding(upre)是将文本描述uprt转换为对应的向量表示；positional_embedding是一个向量表示，用于表示每个文本的位置信息；zrext=Transformer(text)text为文本编码，Transformer表示一系列的Transf4.根据权利要求3所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征所述客户端基于所述生成式人工智能模型，在所述文本编码的指导下对3X表示客户端在第i轮推理中所得到的噪声图经过t轮推理后得到客户端噪声图像xt并发送给所述边缘服务器，由所述边缘服务器5.根据权利要求4所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征所述边缘服务器将所述客户端噪声图像xt和所述文本编码ztext输入到边缘服务器的生成式人工智能模型中进行剩余的T-t轮推理；其中，是边缘服务器在推理步骤T-t中的第i'步所得到的噪声图片，是边缘服务器在推理步骤T-t中的第i'步的预定义衰减系数，ct是第t轮反向去噪的衰减系数；6.根据权利要求5所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征其中Decoder()代表的是变分自编码器中的解码器，用于将噪声图片转换回图像空7.根据权利要求1至6中任一项所述的面向生成式人工智能服务的边缘协同推理优化8.根据权利要求1至6中任一项所述的面向生成式人工智能服务的边缘协同推理优化9.根据权利要求8所述的面向生成式人工智能服务的边缘协同推理优化方法，其特征4[0002]边缘计算和基于扩散模型的AIGC技术逐渐成为推动智能应用发展的两个关键领能够自动创造出新颖的内容。扩散模型（DiffusionModels一类通过逐步添加噪声然后逆转这一过程来生成数据的马尔可夫链生成模型。这些模型在图像和文本生成任务中表现（VariationalAutoencoder,VAE一种用于生成模型的深度学习技术，通过学习数据的潜在表示来生成新的数据实例。[0006]本发明的第一方面公开了一种面向生成式人工智能服务的边缘协同推理优化方端根据生成式人工智能模型以及初始噪声图像执行多轮推理过程，生成客户端噪声图像，5[0008]根据本发明公开的面向生成式人工智能服务的边缘协同[0009]客户端向边缘服务器发送模型请求ureq和文本描述uprt；边缘服务器查询是否以便边缘服务器接收云端发送的生成式人工智能模型并[0010]根据本发明公开的面向生成式人工智能服务的边缘协同[0012]边缘服务器将生成式人工智能[0015]其中，text表示文本向量，tokenembedding(upre)是将文本描述uprt转换为对应的向量表示；positional_embedding是一个向量表示，用于表示每个文本的位置信[0017]zrext=Transformer(text)[0019]根据本发明公开的面向生成式人工智能服务的边缘协同[0020]客户端基于生成式人工智能模型，在文本编码的指导下对初始噪声图片xr进行t[0022]其中，X表示客户端在第i轮推理中所得到的噪声图片，ci是由噪声调度器确定6[0024]根据本发明公开的面向生成式人工智能服务的边缘协同[0025]边缘服务器将客户端噪声图像xt和文本编码ztext输入到边缘服务器的生成式人工智能模型中进行剩余的T-t轮推理；缘服务器在推理步骤T-t中的第i'步的预定义衰减系数，ct是第t轮反向去噪的衰减系[0030]根据本发明公开的面向生成式人工智能服务的边缘协同[0034]其中Decoder()代表的是变分自编码器中的解码器，用于将噪声图片转换回图[0035]根据本发明公开的面向生成式人工智能服务的边缘协同推理步骤S4中的动态分配具体包括：根据当前网络状况和设备性能动态调整推理任务的分配；[0036]根据本发明公开的面向生成式人工智能服务的边缘协同[0037]根据本发明公开的面向生成式人工智能服务的边缘协同扩散模型具体为StableDiffu7资源和网络带宽条件下保持服务的高质量表现，并显著提升了用户体验的稳定性与安全[0045]图1示出了根据本发明的一个实施例的面向生成式人工智能服务的边缘协同推理8[0054]如图2所示，根据上述实施例提供的面向生成式人工智能服务的边缘协同推理优及初始噪声图片发送给用户。positional_embedding是一个向量表示，用于表示每个文本的位置信息。完成文本嵌入下：[0066]zrext=Transformer(text)[0067]其中，Transformer表示一系列的Transformer层，包括自注意力（Self_9减去预测噪声来获得该时间步长的噪声图像。用户将得到的用户噪声图片xt发送给边边缘服务器模型中进行剩余的T-t推理步骤；边缘服务器模型在文本编码的指导下对用[0074]其中，是边缘服务器在推理步骤T-t中的某一步i'所得到的噪声图片。[0078]综上所述，本发明旨在通过在用户设备和边缘服务器之[0079]上述实施例的各种方法中的全部或部分步骤是可以通过程序来控制相关的硬件来完成，该程序可以存储于可读存储介质中，存储介质包括只读存储器(Read—OnlyMemory，ROM)、随机存储器(RandomAccessMemory，RAM)、可编程只读存储器(ProgrammableRead_onlyMemory，PROM)、可擦除可编程只读存储器(ErasableProgrammableReadOnlyMemory，EPROM)、一次可编程只读存储器(One_t