T-ZSA 164-2023 人工智能应用创新智能云基础设施技术规范

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

35.240学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

77团 体 标 准

人工智能应用创新Artificial

intelligence

application

innovation—Technical

specification

of

intelligentcloud

computing

infrastructure2023-10-20

发布 中关村标准化协会 发布学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

II

6.1

6.2

10

10

10

11

12

13

14

156.3

16

16

16

17

17

17

176.4

17

17

17学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载 本文件按照GB/T

1.1—2020《标准化工作导则

第1部分：标准化文件的结构和起草规则》的规定II学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

GB

GB/T

20272—2019

JR/T

0166—2020

GB/T

3.1

artificial

intelligence

middle

end

3.2

[来源:GB/T

5271.28—2001,28.03.01]3.3

data

management[来源:GB/T

5271.1—2000,01.08.02]3.4

artificial

[来源:

GB/T

3.5学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

data

set[来源:

GB/T

3.6

availability

3.7

virtual

machine[来源:

3.8

pod3.9

service3.10

machine

learning[来源:

ISO/IEC

3.11

deep

learning[来源:

ISO/IEC

23053:2020

CD,3.13,有修改]3.12

native3.13

WebIDE学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载3.14

computation

API：应用程序编程接口（Application

Programming

ARM：微处理器（Advanced

RISC

ASIC：专用集成电路（Application

Specific

Integrated

CPU：中央处理器（Central

Processing

CV：计算机视觉（Computer

DHCP：动态主机配置协议（Dynamic

Host

Name

System）

Processing

Bus

Adapter）

Channel

Adapter）HDFS：Hadoop分布式文件系统（Hadoop

Distributed

File

H5：分层数据格式的第5代版本（The

Data

Format

Version

as

Service）IP：网际协议（Internet

JDBC：Java语言连接数据库（Java

Database

Object

MIG：多实例GPU（Multi-Instance

without

Interlocked

Stages）NFS：网络文件系统（Network

File

NLP：自然语言处理（Natural

Language

ONNX：开放神经网络交换（Open

Neural

Network

PMML：预测模型标记语言（Predictive

Markup

Development

Kit）SDN：软件定义网络（Software

Defined

Serial

VPC：虚拟私有云（Virtual

Private

VPN：虚拟专用网络（Virtual

Private

XML：可扩展标记语言（Extensible

Markup

5.1

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载图1

5.2

智能云资源层由基础资源整合模块、基础资源服务模块组成。该层利用云计算技术，将底层服务a)

础资源整模块应包计算资源、存储资池、网络源池。该块是实现础硬件设b)

础资源服模块应包云主机服、备份服、镜像服、弹性伸服务、裸属服务、

5.3

智能云中台层由部署管理模块、训练管理模块、推理管理模块、数据管理模块、算法管理模块、模型管理模块、开发管理模块组成。该层继承智能云资源层云化能力，向上提供

AI

数据服务和技术服a)

部署管理，应包括算力部署管理、AI

b)

c)

d)

e)

f)

型管理，包括模型义管理、型可回溯理、模型置项管理模型分类退管理、型校准管、模型可释性管理模型运行件管理、型偏差管、模型全命周期管g)

5.4

运营运维管理包括监控管理、告警管理、租户管理、服务目录管理、计量计费管理、配额管理。5.5

安全能力提供智能云基础设施各层的安全防护与安全加固的技术能力，保障智能云基础设施的安

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载6.1

a)

b)

GPU

c)

d)

CPU、内存、I/O

e)

f)

g)

h)

i)

j)

k)

1)

GB

2)

作系统基运行库或发环境向兼容，系版本应支以增升级包的式升级，3)

C、C++、Java、Python、Perl

l)

1)

qemu、libvirt、virt-manager

2)

支持虚拟的统一管，每个虚机拥有独的计算能、存资源、网吞吐能力3)

4)

5)

6)

m)

1)

podman、docker、isulad

2)

3)

4)

5)

6)

n)

1)

AI

2)

o)

p)

CPU、内存的配置，q)

r)

CPU

s)

t)

u)

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载a)

b)

0166—2020

c)

Raid

USB

d)

0166—2020

a)

0166—2020

b)

c)

支持链路合、负载衡技术，破单个网设备或节的性能瓶，满足业所需的网d)

1)

2)

HBA

卡、HCA

e)

宜支持基于国产芯片的服务器，组建网络虚拟化集群；f)

SDN

g)

器网络模型，包含但不限于

calico、flannel、OpenvSwitch；h)

宜支持基础网络和虚拟网络的互相通信；i)

VPC

j)

VPC

k)

a)

b)

应支持云主机的启动、重启、关闭、删除等；c)

a)

b)

c)

d)

a)

b)

a)

b)

c)

d)

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

a)

b)

c)

d)

e)

f)

g)

a)

1)

2)

应支持对容器组资源（CPU、内存）进行配置；3)

b)

1)

2)

c)

1)

应支持容器应用的部署、查询、更新、启动、停止、删除、自动扩缩容；2)

宜支持容器应用一键部署能力，包括服务的自动创建、IP

3)

4)

宜支持容器镜像仓库，实现容器镜像的统一管理；5)

a)

1)

2)

3)

4)

5)

b)

1)

2)

3)

c)

件存储服，宜支持件系统存管理，包文件系统创建、挂、删除、询、扩容

VPC

a)

类型、VPC

b)

应支持配置

VPC，包括自定义

IP

地址范围、网段、网关、DNS

服务器地址，创建子网，以及

DHCP

c)

IP

d)

支持创建拟私有网子网，包但不限于持指定虚私有网络网的名称可用区、

学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载e)

IP

IP

f)

g)

IP

a)

b)

c)

d)

e)

6.2

a)

CPU

1)

CPU；2)

GPU

3)

AI

加速芯片、加速卡资源、NPU、FPGA

4)

b)

CPU

GPU

AI

a)

支持智能中台组件裸金属服器、云服器、容器资源上进集群化部管理，同b)

AI

MXNet、Caffe

a)

b)

c)

在云边端算服务结后或根据源释放申，发送资释放通知云边端节，云边端d)

e)

a)

b)

c)

d)

e)

10学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

a)

支持

PaddlePaddle、MindSpore、Pytorch、TensorFlow、MXNet、Caffe

AI

架的b)

c)

d)

支持

PaddlePaddle、MindSpore、Pytorch、TensorFlow、MXNet、Caffe

AI

架的

IP

a)

b)

c)

TensorBoard

d)

e)

f)

g)

a)

1)

2)

3)

4)

5)

6)

7)

8)

9)

b)

1)

2)

3)

4)

5)

6)

c)

1)

2)

3)

4)

5)

6)

11学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

a)

b)

AI

PMML、PKL、H5、ONNX

c)

RESTful、gRPC

d)

e)

f)

应支持多种模型上线策略，包括一次性上线、灰度上线（如

A/B

test）、影子上线（复制已上线模型的全部流量）等；g)

h)

i)

j)

k)

l)

宜支持推理所需资源的细粒度切分，包括显存隔离等。

a)

b)

c)

d)

e)

f)

查询和展推理服务接口信息状态信息包括模型用次数、均响应时、成功率g)

a)

应支持接入和采集多种数据源（包括

NFS、HDFS、HIVE、JDBC

等数据源的数据以及通过本地

音频、视频等非结构化数据；JSON、XML

b)

a)

支持通过互式数据索数据基信息，在改变数据前提下了添加算子数据集产b)

洛伦兹曲、卡方校、相关系、协方差累计分布数、离散析、正态验、经验c)

12学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载a)

据清洗，支持缺失填充、无值处理、据去重、殊空字符理、列类校正、常b)

c)

d)

a)

b)

支持多种注方式，括但不限线框标注关键点标、线标注多边形标、分类标c)

d)

e)

f)

a)

b)

c)

支持在已数据集上行数据处并派生成数据集，持在外部据源变化自动更新

a)

b)

c)

d)

e)

f)

应支持异常特征检测功能，包括但不限于单特征异常值分析等；g)

1)

支持自动征筛选功，如通过用模型的式，基于征重性进行自化特征筛2)

支持自动征衍生功，支持对续型、类型、文本、时型、地理置（经纬3)

4)

支持自动阶段特征选，支持一阶段表较好的模进行阶段搜索重要特征5)

支持自动标签功能通过半监学习技术对测试集无标列进行标预测后，

a)

持多种预置公算法，包数据预处、特征工、模型训、模型评、模型对、模b)

c)

d)

13学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载e)

f)

g)

h)

i)

1)

2)

法评估与化管理，支持算法能的评估及算法性的优化评定，定规则可3)

j)

k)

l)

台算法封支持多语模式，允在同一个作流中调不同开发言算法，持工作流m)

n)

o)

p)

q)

r)

s)

t)

a)

b)

c)

d)

a)

b)

支持模型据可回溯建立模型谱关系图存储和保模型的创信息、修信息、引

a)

b)

14学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

a)

支持统一模型全生周期管理括在平台通过编码式训练的模型、基于工作流练的模型、自动建模训练的模型，以及第三方导入的模型；b)

c)

支持从模训练任务接收模型支持模型件校验、视化解释，支持将有最佳性d)

SDK，SDK

a)

Docker、Kubernetes

b)

CPU、GPU

c)

d)

e)

FPGA

f)

I/O

I/O

a)

CPU、GPU

b)

GPU

c)

GPU

d)

MIG

GPU

e)

CPU、GPU

a)

jupyter

b)

ssh

c)

d)

e)

VSCode、PyCharm

f)

AI

a)

应支持查看开发环境使用的运行设备、CPU、GPU、内存用量等资源配置信息；b)

c)

15学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载

1642023学兔兔ｗｗｗ．ｂｚｆｘｗ．ｃｏｍ标准下载d)

e)

a)

WebIDE间双向切。允许客根据自身要定制私开发环境开发环境具备代码亮显示、自动完成等基本代码开发功能。支持算子运行空间维护、远程调试/测试、算子发布等；b)

支持在开环境中操工作空间的各类文，可直接用数据集算子等对进行数据c)

支持编码型开发、代码模型发和无编模型开发如通过配数据和目实现拖拽d)

AI

e)

f)

g)

可提供面向模型开发和训练管理的能力，包括深度学习库/框架、算法管理、建模数据管理、h)

a)

b)

c)

d)

支持团队同角色（家级数据学家、数分析师、码人员、务人员等之间协同6.3

a)

应支持集群监控，包括监控集群内主机/云主机/容器的运行状态等；b)

c)

d)

e)

支持智能基础设施日志服务统一管理志采集、储、导出，兼容常日志管理f)

g)

h)

支持各种源监控的计报表展与导出，括但不限物理主机能统计报、云