CN114443098B 模型部署更新处理方法及其装置、设备、介质、产品 （广州华多网络科技有限公司）

本申请公开一种模型部署更新处理方法及网络模型与模型版本号对应存储至目标模型池据共享存储路径从共享容器服务中获取新神经2接收由模型开发端通过模型上传接口推送的新神经网络模型及其对应的模型配置信将所述新神经网络模型及模型配置信息对应存储至模型云存获取所述模型配置信息中包含的模型池标识及模型服务标识，查获取所述模型配置信息中包含的模型版本号，将所述新神经网络获取为目标模型在线服务预设的模型更新时间，监听当前时间当监听到当前时间超过所述模型更新时间时，向目标模型在线服务推送模型更新指3更新事件响应模块，用于响应作用于目标模型在线服务的模型更中包含的新神经网络模型及其对应的模型配置信息，所述模型配置信息中包含模型池标模型共享存储模块，用于向共享容器服务推送新模型存储指令新模型部署模块，用于当目标模型在线服务满足预设的新模型服务根据所述共享存储路径从所述共享容器服务中获取所述新神经网络模型更新指令响应子模块，用于响应由模型更新服务推送的模型更新指标模型池中的所述目标服务存储空间中获取所述新神经网新模型上线子模块，用于完成所述新神经网络模型的部署后，下线当9.一种非易失性存储介质，其特征在于，其以计算机可读要求1至5中任意一项所述的方法所实现的计算机程序，该计算机程序被计算机调用运行处理器执行时实现权利要求1至5任意一项所述方4[0002]现有的互联网平台中存在各类型的基于神经网络模型所用于为用户提供智能客服的在线服务中一般存在用于语义推理的神经网络模型所对应的5[0013]接收由模型开发端通过模型上传接口推送的新神经网络模型及其对应的模型配识对应的目标模型池中所述服务标识对应的享存储路径指向所述目标模型池的目标服务存储空间中的至所述模型池标识对应的目标模型池中所述服务标识对应的目标6所述共享存储路径从所述共享容器服务中获取新神经网络模型进务标识，查询出该模型池标识对应的目标模型池中所述服务标识对应的目标服务存储空经网络模型及该模型版本号对应存储至所述目标[0039]模型更新时间监听子模块，用于获取为目标模型在线服标模型池中所述目标服务存储空间中获取所述新神经网[0045]为解决上述技术问题本申请实施例还提供一种计算机设备，包括存储器和处理所述处理器执行上述所述模型部署更新处理方[0046]为解决上述技术问题本申请实施例还提供一种存储有计算机可读指令的存储介的模型部署管理系统中包括模型更新服务及共享容器服务,模型更新服务提供向开发人员7的神经网络模型，共享容器服务中分池分组管理各模型在线服务的各版本神经网络模型，[0051]另外，本申请的共享容器服务中管理着模型在线服务不[0052]本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得[0055]图3为本申请关于模型更新服务将新神经网络模型存储至模型云存储空间中的具[0056]图4为本申请关于共享容器服务从模型云存储空间中获取新神经网络模型进行存[0057]图5为本申请关于模型更新服务在时间到达模型更新时间后通知目标模型在线服[0058]图6为本申请关于当目标模型在线服务从共享容器服务中获取新神经网络模型进8括无线信号接收器的设备，其仅具备无发射能力的无线信号接收器的设备，又包括接收和显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备；PCS(Personal机、互联网/内联网访问、网络浏览器、记事本、日历和/或GPS(GlobalPositioning包括射频接收器的传统膝上型和/或掌上型计算机或其他设备[0067]请参阅图1，本申请相关技术方案实施时所需的硬件基础可按图中所示的架构进相关数据服务器以及其他提供相关支持的服务器等，以此构成逻辑上相关联的服务机群，来为相关的终端设备例如图中所示的智能手机81和个人计算机82或者第三方服务器(未图9模型更新事件中包含的新更新的新神经网络模型及该新神经网络模型对应的所述模型配负责存储各模型在线服务的新更新或开发的神经[0077]所述的模型配置信息用于表征其所对应的新神经网络模型的模型版本及该新神识对应的目标模型池中所述服务标识对应的模型配置信息将所述新神经网络模型存储至对应的存储器服务通过多个所述模型池及服务存储空间为各模型在线服务分隔存储运行所需的神经与当前模型更新服务建立的数据通信链路获取所述新神经网络模型及其对应的配置信息，[0083]关于所述共享容器服务根据所述模型配置信息对所述新神经网络模型进行存储处理的具体方式，所述共享容器服务获取所述新神经网络模型及其对应的模型配置信息模型版本号作为映射关系数据存储至该目标服务存储路径从所述共享容器服务中获取新神经网络模型驱动目标模型在线服务从所述共享容器服务中获取新神经网络模型[0086]所述的新模型部署策略被当前模型更新服务用于判断是否驱动目标模型在线服于所述新模型部署策略本领域技术人员可根据模型在线服务的业务场景进行灵活设计后，向所述目标模型在线服务推送由所述共享容器服务推送的指向所述新神经网络模型的所共享容器服务中该共享存储路径所指向的目标模型池的目标服务存储空间中获取所述新[0089]当前模型共享服务可向多个适用于所述新神经网络模型的多个模型在线服务推务,模型更新服务提供向开发人员所处的开发端提供部署接口，以便开发人员上传其新开发的神经网络模型至模型更新服务进行新模型的部署处理，而无需开发人员进行人工部[0091]以上的典型实施例及其变化实施例充分揭示了本申请的模型部署更新处理方法[0093]步骤S111,接收由模型开发端通过模型上传接口推送的新神经网络模型及其对应[0094]当前模型更新服务接收由所述模型开发端通过模型上传接口推送的新神经网络[0095]步骤S112，将所述新神经网络模型及模型配置信息对应存储至模型云存储空间该模型池标识对应的目标模型池中所述服务标识对应型配置信息中包含的模型版本号对应存储至该目标服务存根据所述共享存储路径从所述共享容器服务中获取新神经网络模型及其模型版本号进行共享容器服务中该共享存储路径所指向的目标模型池的目标服务存储空间中获取所述新该目标模型在线服务相关联的客户端或服务器提供基于该新神经网络模型的模型推理服经网络模型与所述模型版本号对应存储至所述模型池标识对应的目标模型池中所述服务动目标模型在线服务根据所述共享存储路径从所述共享容器服务中获取新神经网络模型所述新神经网络模型及该模型版本号对应存储至所述目标服务存储[0127]本实施方式中处理器用于执行本申请的模型部署更新处理装置中的各个模块