T-ZSA 164-2023 人工智能应用创新智能云基础设施技术规范

ICS35.240CCSL77团体标准Artificialintelligenceapplicationinnovation—Technicalspecificationofintelligent中关村标准化协会发布IT/ZSA164—2023 32规范性引用文件 33术语和定义 34缩略语 55总体技术架构 56技术要求 66.1智能云资源层 76.1.1基础资源整合 7 6.2.3推理管理 6.2.4数据管理 6.2.5算法管理 6.2.7开发管理 6.3.3租户管理 6.3.4服务目录管理 6.4.2智能云中台层安全能力 T/ZSA164—2023本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由中关村数智人工智能产业联盟提出并归口。本文件起草单位：赛迪检测认证中心有限公司、中关村数智人工智能产业联盟、中国软件评测中心（工业和信息化部软件与集成电路促进中心）、上海东部科技成果转化有限公司、数动达观（北京）科技有限公司、北京九章云极科技有限公司、济南浪潮数据技术有限公司、优刻得科技股份有限公司、中科软科技股份有限公司、瑞莱信创技术（北京）有限公司、曙光云计算集团有限公司、腾讯云计算（北京）有限责任公司、统信软件技术有限公司、麒麟软件有限公司、北京宝兰德软件股份有限公司、上海泛微网络科技股份有限公司、上海亘岩网络科技有限公司、浪潮电子信息产业股份有限公司。本文件主要起草人：刘云龙、贾昊、邹叔君、李安伦、翟艳芬、蒋宁、方磊、吕广杰、张百林、文天乐、谢宇杰、王洋、袁鹏、于水、么雨田、代威、刘海涛、孟杰、王磊、战茅、李志伟、詹年科、王伟东、刘超、杨国生、张建、谢传宇、李宝然、韩君辉、都静妍、谢姣。T/ZSA164—20233人工智能应用创新智能云基础设施技术规范本文件规定了应用于人工智能领域（以下简称AI）的云基础设施的系统架构及技术要求，包括智能云资源、智能云中台、运营运维管理及安全能力四部分。本文件适用于AI云服务提供商及第三方机构开展业务活动时，为产品及服务的设计、开发、测试、评估、维护及运营等提供参考依据。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB18030信息技术中文编码字符集GB/T20272—2019信息安全技术操作系统安全技术要求JR/T0166—2020云计算技术金融应用规范技术架构3术语和定义GB/T35295—2017界定的以及下列术语和定义适用于本文件。3.1智能云中台artificialintelligencemiddleendbasedcloudcomputi将人工智能领域的技术组件、框架、工具、平台、环境等的公共能力抽取出来，构建成基于云计算技术的可复用的服务，支撑数据服务或者业务逻辑服务的软件系统。3.2推理inference推断从已知前提导出结论的推理方法。[来源:GB/T5271.28—2001,28.03.01]3.3数据管理datamanagement在数据处理系统中，提供对数据的访问，执行或监视数据的存储，以及控制输入输出操作等功能。[来源:GB/T5271.1—2000,01.08.02]3.4框架（用于人工智能）frame（inartificialintelligence）一种面向数据的知识表示，与具有一系列特征的某一对象相关联，其中每一个特征都存储在称为“槽”的专用区域内。[来源:GB/T5271.28—2001,28.02.13]3.5T/ZSA164—20234数据集dataset数据记录汇聚的数据形式。注：它可以具有大数据的体量、速度、多样性和易[来源:GB/T35295—2017,2.1.46]3.6可用区availabilityzone在智能云基础设施中，基于空调、电力设施、主机、网络、存储等物理资源的容灾因素划分出来的物理区域。3.7虚拟机virtualmachine通过各种虚拟化技术，为用户提供的与原有物理服务器相同的操作系统和应用程序运行环境的统称。注：虚拟机通常使用物理服务器的资源，在用[来源:JR/T0166—2020,3.22]3.8容器组pod一个或多个共享存储、网络、命名空间及运行规范的容器组合。3.9访问服务service一组容器及其外部访问入口。3.10机器学习machinelearning从数据中自动分析获得规律，并利用规律对未知数据进行预测的方法。通过获取、重组新知识或技能提升功能单元效能的过程。[来源:ISO/IEC2382:2015(en),2123789,有修改]3.11深度学习deeplearning通过训练具有许多隐层的神经网络创建丰富层次表示的方法。训练神经网络构建含多个(≥1）隐藏层的层次化表达的方法。[来源:ISO/IEC23053:2020CD,3.13,有修改]3.12云原生cloudnative基于分布部署和统一运管的，以容器、微服务等技术为基础建立的一套云技术产品体系。3.13网页集成开发环境WebIDE针对编程开发人员的在线集成开发环境，编程人员无需本地安装开发环境，通过打开浏览器就可以进行开发，并支持断点调试、版本管理、团队开发等能力。T/ZSA164—202353.14隐私保护计算privacy-preservingcomputation隐私计算一类技术方案，在处理和分析计算数据的过程中能保持数据不透明、不泄露、无法被计算方以及其他非授权方获取。[来源：联合国隐私保护计算技术手册.大数据联合国全球工作组,©2019]注：隐私计算是一个技术范畴和集合。可信执行环境、多方4缩略语下列缩略语适用于本文件。AI：人工智能（ArtificialIntelligence）API：应用程序编程接口（ApplicationProgrammingInterface）ARM：微处理器（AdvancedRISCMachine）ASIC：专用集成电路（ApplicationSpecificIntegratedCircuit）CPU：中央处理器（CentralProcessingUnit）CV：计算机视觉（ComputerVision）DHCP：动态主机配置协议（DynamicHostConfigurationProtocol）DNS：域名系统（DomainNameSystem）GPU：图形处理器（GraphicsProcessingUnit）HBA：主机总线适配器（HostBusAdapter）HCA：主机通道适配器（HostChannelAdapter）HDFS：Hadoop分布式文件系统（HadoopDistributedFileSystem）H5：分层数据格式的第5代版本（TheHierarchicalDataFormatVersion5）IaaS：基础设施即服务（InfrastructureasaService）I/O：输入/输出（Input/Output）IP：网际协议（InternetProtocol）JDBC：Java语言连接数据库（JavaDatabaseConnectivity）JSON：JS对象简谱（JavaScriptObjectNotation）MIG：多实例GPU（Multi-InstanceGPU）MIPS：无内部互锁流水级的微处理器（MicroprocessorwithoutInterlockedPipelineStages）NFS：网络文件系统（NetworkFileSystem）NLP：自然语言处理（NaturalLanguageProcessing）ONNX：开放神经网络交换（OpenNeuralNetworkExchange）PKL：一种由Python的Pickle模块创建的文件格式（Pickle）PMML：预测模型标记语言（PredictiveModelMarkupLanguage）SDK：软件开发工具包（SoftwareDevelopmentKit）SDN：软件定义网络（SoftwareDefinedNetwork）USB：通用串行总线（UniversalSerialBus）VPC：虚拟私有云（VirtualPrivateCloud）VPN：虚拟专用网络（VirtualPrivateNetwork）XML：可扩展标记语言（ExtensibleMarkupLanguage）5总体技术架构5.1如图1所示，“人工智能应用创新智能云基础设施”（以下简称“智能云基础设施”）总体技术架构包括智能云资源和智能云中台两个层次。同时以运营运维管理和安全能力贯穿各个层次。T/ZSA164—20236图1智能云基础设施总体技术架构图5.2智能云资源层由基础资源整合模块、基础资源服务模块组成。该层利用云计算技术，将底层服务器、存储设备、网络设备等基础资源通过调度、抽象、编排、池化等方法进行统一整合管理，生成基础资源服务，支撑上层智能云中台服务。具体如下：a)基础资源整合模块应包括计算资源池、存储资源池、网络资源池。该模块是实现基础硬件设施与设备池化能力的基础，为云服务提供支撑；b)基础资源服务模块应包括云主机服务、备份服务、镜像服务、弹性伸缩服务、裸金属服务、容器服务、存储资源服务、VPC服务、负载均衡服务。该模块将基础资源整合模块的资源池进行服务化抽象，为租户提供以IaaS为核心的云服务。5.3智能云中台层由部署管理模块、训练管理模块、推理管理模块、数据管理模块、算法管理模块、模型管理模块、开发管理模块组成。该层继承智能云资源层云化能力，向上提供AI数据服务和技术服务。具体如下：a)部署管理，应包括算力部署管理、AI运行环境部署管理、云边端统一调度、监控审计；b)训练管理，应包括分布式训练、可视化建模、自动学习；c)推理管理，应包括推理框架、推理部署、任务管理；d)数据管理，应包括数据采集、数据探索、数据预处理、数据标注、数据集管理、特征工程；e)算法管理；f)模型管理，应包括模型定义管理、模型可回溯管理、模型配置项管理、模型分类进退管理、模型校准管理、模型可解释性管理、模型运行条件管理、模型偏差管理、模型全生命周期管理；g)开发管理，应包括集成式开发环境管理、开发环境资源调度、开发方式管理、开发环境管理、开发配置管理、开发任务管理。5.4运营运维管理包括监控管理、告警管理、租户管理、服务目录管理、计量计费管理、配额管理。运营运维管理面向智能云基础设施各层的服务运营及技术运维的需求，提供技术、管理等方面的支撑。5.5安全能力提供智能云基础设施各层的安全防护与安全加固的技术能力，保障智能云基础设施的安全性。6技术要求T/ZSA164—202376.1智能云资源层6.1.1基础资源整合计算资源池计算资源池主要包括物理资源、虚拟化资源及容器化资源，应统一管理计算资源并提供服务，具体要求如下：a)应至少支持两种国产处理器架构；b)应支持GPU芯片及其虚拟化或容器化；c)应支持不同国产处理器架构的服务器的统一管理；d)应支持计算资源池化，提供可动态调整的CPU、内存、I/O设备等资源；e)应支持物理机和虚拟机的全生命周期管理；f)应支持单物理服务器上多虚拟机管理与配置；g)应支持不同虚拟机之间资源逻辑隔离；h)应支持虚拟机的克隆、快照和备份管理；i)应支持系统镜像或虚拟机模版的全生命周期管理；j)应至少支持两种国产操作系统；k)操作系统应满足：1)在中文支持方面，应符合GB18030的中文编码要求；2)操作系统基础运行库或开发环境向前兼容，系统版本应支持以增量升级包的方式升级，升级后兼容上一版本所运行的软件与设备；3)支持C、C++、Java、Python、Perl等开发语言。l)操作系统虚拟化要求如下：1)应支持内核虚拟化，支持qemu、libvirt、virt-manager等；2)应支持虚拟机的统一管理，每个虚拟机拥有独立的计算能力、存储资源、网络吞吐能力等，且各个虚拟机之间隔离运行；3)应支持虚拟机应用的负载均衡；4)应支持虚拟机的在线迁移和离线迁移；5)应支持虚拟机的备份恢复，提供高可用保护；6)应支持虚拟机的远程管理，包括启停、迁移、暂停、创建快照等。m)操作系统容器化要求如下：1)应支持podman、docker、isulad等容器运行；2)应支持容器镜像管理，包括容器镜像的导入、导出、创建、启动、挂载、卸载等；3)应至少支持两种容器镜像架构；4)应支持容器网络隔离、容器资源的监控和弹性伸缩、日志、审核等；5)应支持容器化应用的全生命周期管理，管理可伸缩的容器应用；6)应支持对容器的工作负载部署、配置、扩展、负载均衡、数据持久化。n)驱动的具体要求如下：1)应兼容主流的AI加速卡；2)宜兼容主流的显卡、声卡。o)宜支持创建虚拟机时指定亲和反亲和策略；p)宜支持动态调整虚拟机CPU、内存、磁盘的配置或采用热迁移等方式增加CPU、内存的配置，满足业务运行需求；q)宜支持运行状态下虚拟机动态迁移，并维持业务正常运行；r)宜支持设置虚拟机CPU和内存使用的上限和下限；s)宜支持ASIC芯片及其虚拟化；t)操作系统容器化可支持沙箱安全等组件扩展；u)可支持FPGA芯片。存储资源池8存储资源池应统一管理存储的系统资源，为上层应用提供存储资源，具体要求如下：a)应符合中a)、j)的要求；b)应符合JR∕T0166—2020中的要求，并支持存储资源的统一管理；c)宜兼容主流的Raid卡、数据加解密卡及USB接口的驱动。d)宜符合JR∕T0166—2020中c)的要求。网络资源池网络资源池应对网络设备进行逻辑抽象和集中管理，具体要求如下：a)应符合JR∕T0166—2020中a)、b)、c)、e)的要求；b)应提供不低于10GbE的网络环境；c)应支持链路聚合、负载均衡技术，突破单个网络设备或节点的性能瓶颈，满足业务所需的网络处理能力；d)驱动的具体要求如下：1)应兼容主流的网卡；2)宜兼容主流的HBA卡、HCA卡。e)宜支持基于国产芯片的服务器，组建网络虚拟化集群；f)宜支持通过SDN网络技术，实现常用的网络功能虚拟化，包含但不限于VPC、安全组、负责均衡、网关、VPN；g)宜支持常用的容器网络模型，包含但不限于calico、flannel、OpenvSwitch；h)宜支持基础网络和虚拟网络的互相通信；i)宜支持在不同VPC之间逻辑隔离，并提供互相连接机制；j)宜支持单一VPC下创建多个子网，且子网之间能正常通信；k)宜支持单个虚拟机挂载多块虚拟网卡。6.1.2基础资源服务云主机服务云主机服务的具体要求如下：a)应支持通过指定CPU、内存、磁盘、操作系统、网络、可用区等参数创建单台或多台云主机；b)应支持云主机的启动、重启、关闭、删除等；c)宜支持回收站功能。备份服务备份服务的具体要求如下：a)应支持云主机整机备份，如云主机快照、备份或克隆；b)宜支持通过备份恢复到原云主机、云硬盘或其它云主机、云硬盘；c)宜支持备份策略的创建、修改、删除等；d)宜支持通过设置备份策略周期性地自动备份。镜像服务镜像服务的具体要求如下：a)应支持镜像的管理，包括镜像的新建、删除、导入等；b)宜支持镜像信息的查看和修改，包括镜像的名称、操作系统、文件大小等。弹性伸缩服务弹性伸缩服务的具体要求如下：a)应支持根据CPU、内存资源的使用情况配置伸缩策略；b)应支持向弹性伸缩组动态添加或移除云主机；c)应支持配置弹性伸缩服务的最大、最小可支持的云主机数量；d)宜支持查看特定伸缩组内的云主机数量、伸缩日志。裸金属服务裸金属服务的具体要求如下：a)宜支持申请选择裸金属服务器规格的裸机；b)宜支持不再使用裸金属服务器时，将其释放给平台；c)宜支持远程启动、关闭裸金属服务器；d)宜支持获取单个裸金属服务器的详细信息；e)宜支持在裸金属服务器上自动安装操作系统；f)宜支持从控制页面登录裸金属服务器；g)宜支持裸金属服务器挂载存储服务中提供的块存储。容器服务容器服务包括容器组管理、访问服务管理、应用管理，具体要求如下：a)容器组管理符合：1)应支持容器组的创建、删除；2)应支持对容器组资源（CPU、内存）进行配置；3)应支持动态为容器组分配资源。b)访问服务管理符合：1)应支持访问服务的创建；2)宜支持查看服务注册信息，包括但不限于服务的标识、名称、地址等。c)应用管理符合：1)应支持容器应用的部署、查询、更新、启动、停止、删除、自动扩缩容；2)宜支持容器应用一键部署能力，包括服务的自动创建、IP地址自动分配等；3)宜支持容器应用的滚动升级，升级过程中服务不中断；4)宜支持容器镜像仓库，实现容器镜像的统一管理；5)可支持容器镜像漏洞扫描，防止不安全的容器镜像被加载运行。存储资源服务存储资源服务应包括但不限于块存储服务、对象存储服务、文件存储服务等，具体要求如下：a)块存储服务符合：1)应提供卷管理，包括卷的创建、删除、查询、挂载、卸载、修改、扩容等；2)宜支持卷的备份、快照；3)宜支持对卷的批量操作，包括卷的批量创建、批量删除等；4)宜支持块存储安全删除，能擦除云硬盘内的数据，防止被恶意恢复；5)可支持创建加密云硬盘。b)对象存储服务符合：1)宜提供对象存储管理，包括桶的创建、删除、查询等；2)宜支持在桶创建目录、查询目录、删除空目录；3)宜支持对象的上传、下载、删除。c)文件存储服务，宜支持文件系统存储管理，包括文件系统的创建、挂载、删除、查询、扩容以及存储类型选择等。VPC服务VPC服务的具体要求如下：a)应支持创建VPC，包括指定名称、IP类型、VPC网段等参数；b)应支持配置VPC，包括自定义IP地址范围、网段、网关、DNS服务器地址，创建子网，以及配置DHCP等；c)应管理私有IP地址；d)宜支持创建虚拟私有网络子网，包括但不限于支持指定虚拟私有网络子网的名称、可用区、网段、是否支持IPv6等；T/ZSA164—2023e)宜支持分配浮动IP和绑定浮动IP到云产品实例；f)宜支持查看用户私有网络的网络拓扑关系；g)宜支持对云主机的浮动IP进行流量控制。负载均衡服务负载均衡服务的具体要求包括：a)应支持负载均衡器的创建、删除、修改、查询等；b)应支持负载均衡器对后端资源的挂载、卸载；c)应支持实时监控负载均衡器的运行状态；d)宜提供多种负载均衡策略；e)可支持负载均衡或网卡设置流量阈值。6.2智能云中台层6.2.1部署管理算力部署管理算力部署的具体要求如下：a)支持对智能云底层物理资源的管理，包括CPU集群、GPU集群、FPGA、NPU、ASIC的计算资源部署管理，符合以下要求：1)支持X86、ARM、MIPS、Alpha、Loongarch等架构CPU；2)支持对GPU资源的调度和管理；3)支持AI加速芯片、加速卡资源、NPU、FPGA等的管理；4)支持对算力资源的集群部署管理。b)支持资源池化管理，云服务器资源池支持通用CPU和GPU算力等。AI运行环境部署管理AI运行环境部署管理的具体要求如下：a)应支持智能云中台组件在裸金属服务器、云服务器、容器等资源上进行集群化部署管理，同时符合水平弹性扩展算力的要求；b)应至少支持四种AI框架的部署管理，如PaddlePaddle、MindSpore、Pytorch、TensorFlow、MXNet、Caffe等。云边端统一调度云边端统一调度的具体要求如下：a)应根据云边端节点资源情况确定适合的云边端节点；b)应支持将调度信息通知给调度的目标边端节点；c)应在云边端计算服务结束后或根据资源释放申请，发送资源释放通知给云边端节点，云边端节点接收资源释放通知，相应资源设备应具备资源释放能力；d)应保证业务处理时效性，敏感实时的任务处理可下沉到边缘；e)应保证云边端数据协同分析和处理，提升数据使用效率。监控审计监控审计的具体要求如下：a)应监控当前节点中的实例状态、资源用量、智能云基础设施状态等；b)应将监控信息上报给统一的管控设备；c)应根据监控信息对各个节点进行远程运维及日志管理；d)应对全网链路（如集中管控节点间的网络链路等）的质量进行监控；e)应支持节点故障上报。6.2.2训练管理T/ZSA164—20分布式训练分布式训练的具体要求如下：a)应支持PaddlePaddle、MindSpore、Pytorch、TensorFlow、MXNet、Caffe等AI框架的分布式任务构建；b)调度训练任务时，应支持识别集群节点配置；c)应支持在集群内自动调度训练任务到不同节点；d)宜支持对PaddlePaddle、MindSpore、Pytorch、TensorFlow、MXNet、Caffe等AI框架的算子优化，在构建分布式任务时无需配置节点IP与认证信息。可视化建模可视化建模的具体要求如下：a)应支持图片、文本等数据的可视化；b)应支持以拖拽的方式进行工作流可视化建模；c)应支持使用TensorBoard等工具对模型训练过程可视化；d)宜支持Visdom、Netscope等工具对模型结构可视化；e)宜支持训练过程中，对服务器资源使用率进行可视化监控；f)宜支持对超参数调整后模型的优化效果可视化；g)宜支持对已部署模型的全生命周期进行可视化监控。自动学习自动学习包括但不限于数据处理自动化、模型超参数自动调优、神经网络结构自动搜索等，具体要求如下：a)数据处理自动化，符合以下要求：1)宜支持对数据按照不同组合方式（如不同逻辑存储路径内的数据组合）形成样本数据集；2)宜支持对数据集进行不同比例的训练集、验证集、测试集的拆分；3)宜自动增强CV、NLP等领域数据集，如对文本数据进行自动掩模形成无监督训练数据集，可自动增强图像数据的亮度、对比度、反色、缩放等；4)宜自动验证数据集的数据完整性；5)宜支持自动数据清洗，包括自动空值补全、离群点检测等；6)宜支持自动特征工程，包括特征筛选、特征衍生等；7)宜支持数据集自动平衡分类、降采样、上采样，对不平衡数据进行需求分类；8)宜支持数据漂移的自动检测和处理；9)宜支持具有横向伸缩能力的自动化分布式数据处理。b)模型超参数自动调优，符合以下要求：1)应支持通过预置模型简化模型构建过程；2)应支持通过预置模型自动调优工具、算法、算子，进行模型参数自动调优；3)宜支持通过超参数自动调优工具对模型进行超参数调优；4)宜支持超参数自动调优工具与开发环境、训练任务的算力调度协同，提升训练速度；5)宜支持对超参数自动调优任务的统一管理；6)宜支持对超参数自动调优任务的进度与结果可视化。c)神经网络结构自动搜索，符合以下要求：1)宜支持通过神经网络结构搜索工具自动构建模型结构；2)宜支持通过神经网络结构搜索工具批量建模；3)宜支持对神经网络结构搜索任务的统一管理；4)宜支持对神经网络结构搜索任务进度与结果的可视化；5)宜支持根据神经网络结构在验证集上的推理性能，自动选择模型；6)宜支持自动模型融合，通过套袋、增强等方法组合多个模型形成融合模型。6.2.3推理管理T/ZSA164—20推理框架可支持适配不同的推理部署硬件运行环境的第三方推理框架，如TensorRT、OpenVINO等。推理部署推理部署的具体要求如下：a)应根据规则自动选择模型发布功能，支持手动发布；b)应支持多种AI模型的部署，包括但不限于PMML、PKL、H5、ONNX等；c)应支持在线模型推理部署，包括但不限于RESTful、gRPC等；d)应支持离线模型推理部署，导出模型文件或SDK；e)应支持模型上线和审核；f)应支持多种模型上线策略，包括一次性上线、灰度上线（如A/Btest）、影子上线（复制已上线模型的全部流量）等；g)应支持已上线模型版本回滚；h)应支持以容器镜像的方式进行推理部署；i)应支持用户自定义推理环境所需计算资源类型和实例数量；j)应根据需求手动或自动调整推理集群规模，对所需资源（CPU、内存等）进行动态扩容和缩容，最大化集群中计算资源的利用效率；k)应支持推理服务的负载均衡和服务限流；l)宜支持推理所需资源的细粒度切分，包括显存隔离等。任务管理任务管理的具体要求如下：a)应支持推理任务的全生命周期管理，包括推理任务的创建、启动、停止、销毁等；b)应支持推理任务定时或周期性的自动容器化调度；c)应监控线上模型，包括容器级监控和服务监控等；d)应通过定时任务自动评估模型，跟踪模型评价指标的变化趋势；e)应统计模型上线信息；f)应查询和展示推理服务的接口信息、状态信息，包括模型调用次数、平均响应时间、成功率g)应支持记录和查看模型服务操作日志。6.2.4数据管理数据采集数据采集的具体要求如下：a)应支持接入和采集多种数据源（包括NFS、HDFS、HIVE、JDBC等数据源的数据以及通过本地上传的数据等）中的多种数据（包括数据库表；xls、cvs等常见的结构化数据；文本、图片、音频、视频等非结构化数据；JSON、XML等标签数据；压缩文件等）；b)应支持数据源配置及测试连接。数据探索数据探索的具体要求如下：a)应支持通过交互式数据探索数据基本信息，在不改变数据的前提下了解添加算子后数据集产生的变化；b)应支持数据属性（包括有效性、唯一性、空值率、最大/最小、均值、中位数等）和统计分析（洛伦兹曲线、卡方校验、相关系数、协方差、累计分布函数、离散分析、正态检验、经验密度图等）的可视化；c)应支持查看和分析数据集的引用关系。数据预处理T/ZSA164—2023数据预处理主要包括：a)数据清洗，应支持缺失值填充、无效值处理、数据去重、特殊空字符处理、列类型校正、常量列清洗、非法值替换等；b)数据转换，应支持格式转换、数据排序、数据合并、数据过滤等；c)数据扩充，应支持数据扩充，包括数据增强、数据合成、新数据生成等；d)数据预处理自动化，应支持数据预处理过程以及数据的清洗、转换、扩充等的自动化。数据标注数据标注的具体要求如下：a)应支持标注多种数据类型，包括但不限于文本、图像、音频、视频等；b)应支持多种标注方式，包括但不限于线框标注、关键点标注、线标注、多边形标注、分类标注等；c)应支持标注信息在原始数据上直观展示的可视化标注；d)应支持对数据源内容新建标签，并根据标签类别进行数据可视化展示；e)应支持以项目为单位管理标注的资产对象，支持项目状态管理，如待标注状态、已封版状态；f)应支持数据标注的质检、验收。数据集管理数据集管理的具体要求如下：a)应支持以数据集为单位进行版本管理、权限管理、标签管理；b)应支持数据集的导入、导出、修改、删除等全生命周期操作；c)应支持在已有数据集上进行数据处理并派生成新数据集，支持在外部数据源变化时自动更新其派生的数据集。特征工程特征工程的具体要求如下：a)应支持特征选择功能，包括但不限于过滤式选择、包裹式选择、嵌入式选择等；b)应支持特征分析功能，包括但不限于特征重要性分析等；c)应支持特征转换功能，包括但不限于标准化、归一化、正则化等；d)应支持特征衍生功能，包括但不限于特征扩展、特征组合、合成特征等；e)应支持特征降维功能，包括但不限于主成分分析、因子分析、奇异值分解等；f)应支持异常特征检测功能，包括但不限于单特征异常值分析等；g)支持自动特征工程功能，包括：1)应支持自动特征筛选功能，如通过使用模型的方式，基于特征重要性进行自动化特征筛选；2)应支持自动特征衍生功能，支持对连续型、类别型、文本型、时间型、地理位置（经纬度）等特征进行自动特征衍生；3)宜支持自动共线性特征检测和处理，减少特征偏移的影响；4)宜支持自动二阶段特征筛选，支持对一阶段表现较好的模型进行二阶段搜索和重要特征筛选；5)宜支持自动伪标签功能，通过半监督学习技术，对测试集中无标签列进行标签预测后，将置信度高于一定阈值的样本添加到训练数据中重新训练模型。6.2.5算法管理算法管理应包括如下要求：a)支持多种预置公共算法，包括数据预处理、特征工程、模型训练、模型评估、模型对比、模型发布等，涵盖模型生产全流程；b)至少支持三类传统机器学习算法，如分类、回归、聚类、关联等；c)至少支持两类深度学习算法，如卷积神经网络、循环神经网络等；d)至少支持两类计算机视觉类算法，如目标检测、图像分类、文字识别等；T/ZSA164—2023e)至少支持两类语音类算法，如语音识别、语音合成等；f)至少支持两类自然语言处理类算法，如词法分析、序列标注、语义匹配等；g)自定义算法开发，如自定义名称、唯一标识、算法组件等；h)支持算法的基本管理操作，包括信息的查询、增加、删除、分类、检索等；i)支持算法的全过程管理，包括：1)算法创建管理，应支持算法名称管理、算法输入输出定义管理；2)算法评估与优化管理，应支持算法功能的评估，以及算法性能的优化评定，评定规则可包括时间复杂度、空间复杂度、正确性、容错性、泛化能力等；3)算法退出管理，应支持算法的退出或下架。j)支持算法的版本管理，包括版本号管理、版本发布说明等；k)支持基于容器技术进行算法封装、集成、发布；l)平台算法封装支持多语言模式，允许在同一个工作流中调用不同开发语言算法，支持工作流程嵌套；m)支持算法共享；宜包含以下高级功能：n)支持迁移学习算法；o)支持强化学习算法；p)支持增量学习算法；q)支持自定义算法与预置算法的混合使用，算法间支持数据接口、模型格式接口的兼容性；r)所有公共算子的源代码对用户开放；s)支持算法执行管理，包括算法执行的效率管理、安全管理、目标管理等；t)支持算法目标管理，配置和管理算法实现的功能和性能要求。6.2.6模型管理模型定义管理模型定义管理的具体要求如下：a)应支持模型定义管理，统一各类模型的定义管理和命名约定；b)应支持模型约束管理，支撑模型间的约束检查；c)应支持模型目标管理，包括功能目标、性能目标、业务目标；d)应支持服务与模型映射管理，明确各类模型与支撑服务的映射关系。模型可回溯管理模型可回溯管理的具体要求如下：a)应支持模型本体及变体的可回溯；b)宜支持模型数据可回溯，建立模型族谱关系图，存储和保留模型的创建信息、修订信息、引用信息、版本信息、执行数据等，评估模型的复用能力、可信度、准确性、权威性等指标。模型配置项管理应支持对配置项及模型基线的管理，区分可变配置及不可变配置，支持对可变配置的追溯。模型分类进退管理模型分类进退管理的具体要求如下：a)应支持模型类别和级别的管理；b)应支持对模型准入准出、升降级、优化以及停用启用等策略和规则的配置。模型校准管理应支持对触发模型自动校准或人工升级的规则进行管理和配置。模型可解释性管理宜支持对模型可解释性的程度、规则等进行管理。模型运行条件管理应支持模型运行条件管理，评估和管理模型运行所需的资源，如技术架构兼容性、技术选型、组件配置等。模型偏差管理宜支持对模型偏差（如样本偏差、算法偏差、意识形态偏差等）的溯因分析及容忍度配置。模型全生命周期管理模型全生命周期管理的具体要求如下：a)应支持统一的模型全生命周期管理，包括在平台上通过编码方式训练的模型、基于工作流训练的模型、自动建模训练的模型，以及第三方导入的模型；b)应提供模型仓库，衔接模型训练和模型服务，简化模型生命周期；c)应支持从模型训练任务中接收模型，支持模型文件校验、可视化解释等，支持将具有最佳性能的冠军模型部署到模型服务中；d)应允许导出模型或导出SDK，SDK中包含模型数据及相应开发接口。6.2.7开发管理集成式开发环境管理集成式开发环境的具体要求如下：a)应支持构建基于Docker、Kubernetes等云原生技术的开发环境；b)应支持开发环境对CPU、GPU等资源的灵活申请；c)应支持监控开发环境的CPU、GPU、内存等性能信息；d)应支持将开发环境保存为容器镜像；e)宜支持开发环境对FPGA算力资源的调用；f)宜支持监控开发环境的网络I/O性能、存储I/O性能信息。开发环境资源调度开发环境资源调度的具体要求如下：a)宜支持开发环境对CPU、GPU资源的动态调整、申请、释放；b)宜支持开发环境对GPU显存的共享式复用；c)宜支持开发环境对GPU显存的隔离式使用；d)宜支持使用MIG特性的GPU隔离；e)宜支持开发环境对CPU、GPU资源超时回收。开发方式管理开发方式管理的具体要求如下：a)应支持jupyternotebook、jupyterlab等开发工具；b)应支持ssh的接入；c)应支持python/R/Pyspark等编程接口；d)宜支持webshell开发工具；e)可支持包括VSCode、PyCharm在内的第三方开发环境的接入；f)可提供AI框架的二次开发能力。开发环境管理开发环境管理的具体要求如下：a)应支持查看开发环境使用的运行设备、CPU、GPU、内存用量等资源配置信息；b)应支持查看开发环境使用的镜像信息、版本信息；c)应支持监控开发环境的运行状态、运行时长等；T/ZSA164—2023d)应支持普通用户、管理员对开发环境的关停；e)宜支持对硬件异常导致开发环境关停情况的自动恢复。开发配置管理开发配置管理的具体要求如下：a)应提供图形化管理界面。集成WebIDE、Jupyter的多语言集成开发环境。支持WebIDE和Jupyter之间双向切换。允许客户根据自身需要定制私有开发环境，开发环境应具备代码高亮显示、自动完成等基本代码开发功能。支持算子运行空间维护、远程调试/测试、算子发布等；b)应支持在开发环境中操作工作空间中的各类文件，可直接使用数据集、算子等对象进行数据处理、模型开发和验证；c)应支持编码模型开发、低代码模型开发和无编码模型开发，如通过配置数据和目标实现拖拽式工作流开发和自动建模开发，支持不同开发模式下开发结果的转换；d)应提供预置算子并组装工作流，完成AI模型的构建。预置算子宜提供所有源代码。工作流开发应支持分步调试；e)应提供面向云开发资源的管理控制台，支持自助开通、释放资源；f)应提供面向开发库的管理控制台，支持自助调度及编排任务；g)可提供面向模型开发和训练管理的能力，包括深度学习库/框架、算法管理、建模数据管理、自动化建模等；h)可支持图形化方式配置开发模型，包括模型参数修改和快速构建等。开发任务管理开发任务管理的具体要求如下：a)可提供一个数据驱动的并行计算框架，兼容业界主流的多种编程模型；b)可提供并行任务调度能力，且具备高可扩展性；c)可支持分布式任务，可自动完成Hadoop、Spark的环境调用和任务分发执行；d)可支持团队不同角色（专家级数据科学家、数据分析师、编码人员、业务人员等）之间协同开发。6.3运营运维管理6.3.1监控管理监控管理的具体要求如下：a)应支持集群监控，包括监控集群内主机/云主机/容器的运行状态等；b)应支持对主机/云主机/容器的资源（包括CPU、存储、网络、内存等）进行监控，支持检测可视化；c)应支持实时监控或历史监控结果的可视化展现；d)应收集智能云基础设施设备、资源及服务的状态数据等，提供数据访问接口；e)应支持智能云基础设施的日志服务，统一管理日志采集、存储、导出等，兼容常用日志管理服务；f)宜支持基于业务规则的资源与服务使用情况分析，为资源与服务的规划、调整提供依据；g)宜支持监控数据的