智算中心建设方案

(一)建设规模Al大模型时代已经来临，人工智能技术的创新和变革，涌现出几何级增长的人工智能算力需求。根据OpenAl的数据，算力资源需求每3～4个月就要翻一倍。大模型增强了Al技术的通用性，助力普惠行业Al的实现，但是大模型在参数量上达到了数千亿级别，训练的数据集规模也高达TB级别，完成单个大模型的训练，一般来说即需要投入超过200PFlops以上的智能算力资源，而结合资源复用度和算力中心建设规模的收益边际效应，智能算力中心需要达到1000P或更大规模才能保证利用率和收益最优。结合项目建设必要性和需求分析，本项目建设计算规模按基于半精度浮点FP16运算的最大峰值约1000PFlops算力规划本项目拟建设1000PFlops规模智算中心，以及约5PB的对象存储和0.5PB的文件存储，以及配套的算力服务平台和其他软硬件设备。本项目建设内容包括：AI算力硬件基础设施(含计算、存储和网网络服务、Al开发平台和Al云管理平台)、信息安全体系和运营运维体系等。1.AI算力硬件基础设施国际领先的新一代TensorCoreGPU服务器，旨在提供强大的Al和高性能计算(HPC)能力，主要特点为：专为大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求而设计。每台GPU服务器系统配备八块高性能GPU算力卡，每张卡非稀疏算力989TFLOPS,卡间由高速数据链路连接，能够在新的FP8精度下达到32Petaflop的整机AI性能。支持Transformer引擎，使大型语言模型的训练速度提升高达9倍，推理速度提升30倍。另外该服务器内存配置高达80GB的HBM3内存，带宽达到3TB/s。本项目建设约1000PFLOPS需要的服务器数量约为128台，其中半精度FP16TensorCore的每张卡非稀疏算力989TFLOPS,折算算力2)AI存储资源为全面支持AI数据采集、标注、预处理、训练场景的分布式存序号1单易用支持标准S3对象存储协议，包含CLI、API、SDK等等2稳定可靠采用去中心化分布式存储架构，提供10全路径高可用机制保障，支持多副本和EC纠删码数据保护机制，数据可靠性达到12个9的持久性3高10性能引入NVME、RoCE高速网络等先进硬件，针对Al场景存储10特性进行大量优化，为海量小文件数据集提供高性能4高扩展性横向扩展能力5间的存储数据同步、迁移该系统采用业界主流分布式存储架构，支持冷热数据智能分层和3AZ数据冗余分布。DNS数据交换大集群，项目分布式存储系统的架构设计文件存储：(1)功能描述文件存储提供一个完全托管的共享文件存储，能够弹性伸缩至PB级规模，具备高可用性和持久性，为海量数据、高带宽型应用提供有力支持。适用于多种应用场景，包括容器存储、媒体处理、文件共享、内容管理和Web服务等。文件存储根据使用需求，业务不中断，按需扩容、性能容量可线性增长。性能随容量增加而提升，同时保障数据的高持久度，满足业务增长需求，文件存储提供统一命名空间的存储系统，多种业务的数据都存储在这个统一的存储空间中，包括文件，视频，图像等多种类型的业务数据存储。通过文件存储构建实现大容量并发的文件共享服务，可以解决日常办公的数据共享以及业务系统的数据共享问题。通过权限设置，针对不同用户设置不同的文件和目录访问权限，进行精细化的权限控制，保证数据的安全性。(2)组网方案文件存储前后端网络物理隔离，业务网络与管理网络分别使用不同的网络平面，组网结构如下所示，包括：前端业务网络用于文件存储与用户网络对接。后端存储网络用于文件存储内部节点间互联。在文件存储系统中，集群后端网络可以支持10GE、25GE、IB连的组网需求。无论哪种组网，文件存储系统的所有节点网络都是冗余的，任何单一网口故障或者单一交换机故障均不影响系统使用。文件存储系统前端和后端可以分别使用不同的物理网卡以达到系统支持多种类型节点混合部署，混合部署时相同类型相同配置的节点最少配置为3台；系统仅部署NAS存储时，最少需要部署3台节点；Ethernet组网描述：前后端均采用Ethernet交换机组网的典型配置方案如图所示。交换机文件存储系统结构组网说明：Ethernet交换网，后端网络使用内部Ethernet交换机。前后端交换机冗余配置。(3)容量设计根据大模型训练和推理对于文件存储的需求，xxxxP的计算算力配比0.5PB的文件存储。文件存储采用三副本高可用架构，0.5PB的文件存储需要18台文件存储服务器。文件存储服务器的配置测算：单台服务器有12块硬盘，每块硬盘容量(7.68T),采用纠删码4+2架构(0.66),考虑损耗(0.91)得出每台文件存储服务器提供的可用存储容量是：文件存储服务器数量约为：0.5PB÷55.2T=10(台)因此，共需10台服务器，可提供约0.5PB的文件存储可用容量。对象存储：(1)功能描述对象存储兼具块存储高速直接访问磁盘的特点及文件存储的分布式共享特点，是一种可存储文档、图片、影音视频等非结构化数据的云存储服务，提供海量、安全、高可靠、低成本的数据存储能力。主要应用场景为大数据分析、静态网站托管、在线视频点播、基因测序、智能视频监控等。提供多种语言的SDK,兼容主流的客户端工具，随时随地通过网络上传、下载、管理数据，应用通过调用相应的SDK进行应用开发，实现直接读取存储中的数据，为大并发高10应用提供有力保障。提供精细化权限控制，精准控制数据的访问权限，确保数据的安全可靠。(2)组网方案对象存储的组网包括业务平面和存储平面均采用10GE组网、业务平面采用GE组网同时存储平面采用10GE组网以及业务和存储平面均采用25GE组网三种方式。集群内组网方案：汇聚交换机汇聚交换机自后端交换机画结交换机集群内组网结构单个子网内的节点和交换机连线示意图，单个集群由若干个这样的子网组成。子网之间通过汇聚交换机互联。多区域组网方案：对象存储支持多区域组网，提供统一命名空间的对象存储服务。为满足组网和数据可靠性要求，需要支持多Region单AZ组网形网如下图所示。IAM为鉴权服务器，还支持Keystone鉴权、自有的POE鉴权，这里以IAM为例。EQ\*jc3\*hps25\o\al(\s\up8(AP),erf)自分布式存储多区域组网结构对接的组件包括IAM(IdentityandAccessManagement,认证和授权管理)或者使用POE(内部鉴权服务)、负载均衡集群，均需要在对象存储以外使用独立的服务器完成部署，详细说明如下：3.对象存储与IAM或者POE对接，完成统一认证鉴权。过存储平面交换机互联，流量不跨集群。(3)容量设计根据大模型训练和推理对于对象存储的需求，1000P的计算算力高可用架构，5PB的对象存储需要15台对象存储服务器。对象存储每台对象存储服务器提供的可用存储容量是：对象存储服务器数量约为：因此，共需16台服务器，可提供约5PB的对象存储可用容量。3)Al网络资源xxxx智算中心是开展人工智能研究和应用的基础，为大规模的数据分析、深度学习算法研究提供有力的计算能力、存储能力与通信能力，进而提高算法迭代速率。基于人工智能任务的发展特点，该智算中心将采用存算分离的集群架构，通过高速的数据/存储网络将多个计算子集群和存储子集群有效地连接起来。同时，通过解耦计算和存储子集群，可以快速地实现计算、存储资源的弹性扩展，按需分配，最终实现系统负载均衡调度更加灵活、有效。基于Al训练和推理的需求，设计的网络拓扑架构如下。存储模块存储模块原履存储模块存储网络数据网络业务网络IPMI网络存储网络数据网络业务网络IPM网络核心层交换机i计算模块计算模块日项目网络拓扑图如上图所示，本项目将会采用模块化设计，包含若干个计算模块和存储模块。在单一模块内，计算服务器或者存储服务器由不同类型的网络进行互连。集群内核心交换机负责不同模块之间的互连。为充分发挥分布式系统软硬件性能并保障效率，本项目采用多种网络方案来满足不同场景的节点互联需求。根据模块内外的网络流量类别，节点互联采用了五种不同的网络方案：基于以太网的业务网络、基于IPMI(智能平台管理接口)的管理网络、基于InfiniBand硬件实现的RDMA(远程直接内存访问)的训练网络、基于RoCE(基于以太网的RDMA技术)的高速以太网的数据网络和存储网络。运维管理或者络隔离需求。基于以太网的业务网络采用10Gbps的接入带宽，提供集群在控制面的任务分发、管理和集群与外部用户的互通。(2)IPMI网络：IPMI是一种服务器信息采集标准，可以用来基于IPMI的管理网络采用1Gbps的接入带宽和通用的以太网技术，承载服务器的监控和远程管理产生的流量。(3)训练网络：RDMA是一种绕过远程主机操作系统内核访问其内存中数据的技术，由于不经过操作系统，不仅节省了大量CPU资源，同样也提高了系统吞吐量，降低了网络通信延迟。在本项目中，集群内分布式训练产生的计算流量。在大规模分布式训练场景中，GPU服务器之间的通信流量称为训练流量。训练流量对网络的要求了InfiniBand网络和两层CLOS架构进行组网，以达成设计目标。在单一计算模块内，本项目根据GPU服务器的具体通信要求，采用了NDR400Gbps通信带宽或者HDR200Gbps通信带宽InfiniBand进行服务器之间的互联，并且所采用的Leaf-Spine组网可以保证GPU计算节点之间的无阻塞的RDMA通信。分布在不同模块的GPU服务器之间的RDMA通信由训练网络的Super-Spine层交换机承层交换机采用HDRInfiniBand交换机，并且可以动态添加交换机，以支持更高的通信性能。(4)存储网络：本项目包含独立的存储模块内服务器之间的数据同步由存储网络承担。存储流量要求高带宽和低延时，本项目根据存储软件的特性，采用了基于以太网的RDMA(RoCE)进行组网。在存储集群内，存储网络采用了两层CLOS网络架构，并支持无损网络以支持高性能的RDMA通信。RoCE(基于融合以太网的RDMA)是一个网络协议，允许在以太网上使用RDMA,在本项目中为集群服务器的存储网络提供100Gbps/25Gbps的接入带宽，用于存储服务器之间的数据同步。(5)数据网络：数据网络承担计算服务器读写远端存储服务器的流量。针对GPU服务器在模型训练过程中的10需求，在本项目中我们为计算服务器的数据网络提供25Gbps的接入带宽，为存储服务器的存储网络提供100Gbps的接入带宽。计算模块内的计算节点从独立存储模块读写数据读写数量产生的流量称为数据流量。本项目采用了Spine-Leaf以太网络架构承担这种流量，以便承载多路可用路由的数据传输场景，提升数据传输速度降低延时。计算集群可以根据实际10负载采用25G、100G或者更高的带宽接入数据网络的交换机。容量设计：依据xxxx智算中心建设规模，本项目建设共需2台核心交换机、38台以太网交换机、26台Infiniband交换机。具体需要配置如下网络设备：网络设备配置表网络节点名称交换机规划训练网络训练网交换机RDMA-Spine4训练网交换机RDMA-Leaf8训练网交换机IBNDR2业务网核心交换机2业务网汇聚交换机4业务网接入交换机8数据网数据网汇聚交换机4数据网接入交换机8存储网存储网汇聚交换机4存储网接入交换机8带外管理网带外核心交换机2带外网接入交换机8互联网出口区互联网接入区设备42.算力中心建设架构1)总体架构平台数据网络存储网络平台格运营运维体系安全管理安全运营增值服务运维服务安全策略运营服务技术支撑项目总体架构图xxXx智算中心主要是围绕Al算力软硬件基础设施开展建设及运营运维，当前主要包括基建设施、Al算力硬件基础设施、Al算力软件基础平台、Al能力软件平台和信息安全体系建设，以及运营运维和运营增值服务体系。建成后为当地提供算力服务，面向全省政企事业单位，赋能支撑自动驾驶、元宇宙、智慧科研、金融服务等各个行业领域创新发展和应用。经过前期摸排调研，首先本项目面向xX科技创新业务，同时也向政务亮点、智慧医疗、智能遥感等智慧城市及各个行业的应用赋能扩展，算力应用领域涉及Al大模型、AI4S、生成式AI、Web3.0、区块链数字化产业、元宇宙等战略创科产业领域。主要面向xx地市政府、高校院所、重点科创企业、Al和软件企业、智能化需求企业，在大模型应用、基础科研、生物医药、金融科技、智慧城市、智能制造、车联网、农业与食品加工、纺织服装鞋业等多个领域提供人工智能算力服务。通过xxxX智算中心与xx相关高校互联互通资源共享，强化产学研创新协同。(2)算力中心云平台AI计算服务：主要包括Al计算管理系统，提供高性能Al算力池、训练、推理等场景，提供容器、裸金属等多类型计算实例的全生命周期资源管理能力。高性能Al算力池主要打造的高性能、弹性扩展、安全稳定、智能调度的Al算力平台。通过算力池启动不同的工作负载进行Al相关训练、推理任务，智能调度系统能够提高资源的利用率，同时也可提高算力资源的利用率及Al应用的效率。在Al算力调度基础之上，为用户提供云容器、弹性裸金属服务器等。的存储服务。在Al存储基础之上，用户可根据需求，购买所需的文件存储和对象存储。网络VPC是云上隔离的私有网络空间，支持高速RDMA网络。弹性技术，满足租户私有网络(VPC)中的裸金属、开发机等各类资源提(3)算力中心软件基础平台AI能力软件平台包括Al模型管理和模型推理服务。面向大模型全新开发范式，提供模型的生命周期的管理，并覆盖大模型微调、推理、到部署应用的全栈式Al开发场景，帮助企业内部有效沉淀及共享模型资产，并提供公开算法库，助力用户快速开发定制业务模型。AI模型推理服务是基于人工智能技术的推理云服务，提供大语言模型等推理API,赋能开发者模型能力、大规模并发推理AI开发平台：基于云原生技术服务，为AI开发者提供专业灵活的开发环境及组件，链接Al开发全流程；Al开发平台以专业的研发工具，灵活的云计算资源，流畅的开发体验，稳定的访问服务，开放的配置方式，帮助Al开发者更高效、便捷地打造Al应用，助力产业智能化升级。(4)AI算力硬件基础设施算力的支持，因此xxxx智算中心底层除了通用CPU处理器之外，规根据大模型训练和推理对于存储的需求，配置相应的存储和网络设备。本项目采用模块化设计，包含若干个计算模块和存储模块。在单一模块内，计算服务器或者存储服务器由不同类型的网络进行互连。集群内核心交换机负责不同模块之间的互连。为充分发挥分布式系统软硬件性能并保障效率，采用多种网络方案来满足不同场景的节点互联需求。同时提供安全保障产品方案，严格参考等级保护的思路和标建成后的安全保障体系将充分符合国家等级保护标准，能够为xxxX智算中心稳定运行提供有力保障。(5)运营运维体系建设完善的运营体系和运维体系，保障项目后期正常运行。运营运维体系主要包括运营运维管理组织、运营运维规范制度的建设，并提供运营运维支持服务。(6)基建设施本项目采用机房改造方案，根据智算中心机房应用需求改造升智慧机房综合监控系统。2)整体技术路线从算力技术先进性、软件生态成熟度和大模型趋势等方面的综合考虑，并充分借鉴国内智算中心的建设和运营经验，综合考虑人工智能技术发展趋势和市场因素，本项目建议AI算力采用GPUH100处理器作为核心硬件设备，软件部分采用满足多元化高性能调度的异构Al云服务管理平台和Al平台。智算中心建设的技术路线涉及多个方面，包括硬件设备、软件架构和网络基础设施等。硬件设备选择：选择适用于智算中心的高性能计算设备，如服务器、超级计算机或图形处理器(GPU)。针对深度学习和人工智能任务，考虑采用专门的AI芯片来加速计算过程。这些芯片可以提供高效的矩阵计算和神经网络推理能力，从而加快模型训练和推断的速度。可以选择使用GPU、TPU(张量处理器)或其他定制的Al芯片。这些设备应具备高计算能力、大内存容量和高速数据传输能力，以支持处理大规模的智能应用。分布式计算架构：采用分布式计算架构将计算任务分配给多个计算节点进行并行处理。可以使用诸如Hadoop、Spark等开源分布式计算框架，或者自行设计分布式计算系统。这种架构可以充分利用集群中的计算资源，提高计算效率和吞吐量。云计算平台搭建：建立云计算平台，以提供虚拟化的计算资源和弹性的服务。选择适当的云计算技术栈，如OpenStack、Kubernetes等，来管理和调度计算资源。这样的平台可以根据应用需求动态分配计算资源，并提供灵活的服务模型，如laaS(基础设施即服务)、PaaS(平台即服务)和SaaS(软件即服务)。务器节点内多卡互联网络和多服务器节点间网络互连方案。其中，节节点间网络方案将基于RoCE的以太网络技术搭建，实现池化资源间总线级交互，保证数据访问的极低时延。数据管理和存储：建立适当的数据管理和存储系统，以管理和存储智算中心处理的大规模数据。可以使用分布式文件系统(如HDFS)或对象存储系统(如AmazonS3)等技术，确保数据的可靠性、高可用性和高性能访问。安全与隐私保护：为智算中心建设一个强大的安全架构，包括网络安全、身份认证、数据加密和访问控制等措施，可以考虑采用TLS/SSL、IPSec等安全技术以保证数据传输和交互的安全性。同时，要确保在处理敏感数据时遵守隐私保护的法规和规定，如合规性要求、数据去标识化等。综上所述，xxxx智算中心技术路线注重计算、存储、网络、安全和数据中心基础设施等方面的技术和方案，实现智能计算的快速发3.算力中心云平台建设1)统一云管平台(1)概述统一云管平台主要面向云平台资源的运营人员、财务人员及运维人员，为运营人员提供高效的租户管理、营销管理、业务运营等各类产品管理运营功能，为财务人员提供汇款管理、对账结算等费用管理服务，为运维人员提供资产管理、报表管理、日志审计等资产维护和(2)逻辑架构合同管理订阅统一云管平台逻辑架构统一的产品门户：统一承载IAAS及PAAS产品，为用户提供快速的资源获取方式和通用的管理配置策略，一站式完成Al研发。全面的企业业务支撑：面向企业管理者提供企业级租户管理工具、标准账务支撑能力，实现企业内部资源管理调配、财务分析及合规审计。高效的云平台运营管理：提供系统性的云平台运营管理体系，根据大企业或集成商客户的不同业务特性和管理需求特性，提供管理框架，使得Al算力、数据、算法成为可运营服务。(3)主要功能企业级租户管理：用户管理：采用主子账号管理模式，由主账号统一管理子账号使用生命周期。实现了管、控分离和权限下放。访问控制管理：使用业内经典的RBAC模型对平台内子账号进行统一的访问控制管理。方便用户快速使用和管理。管理组管理：为了提升资源的管理效率，根据用户企业部门组织相关信息组织资源，平台提供了“管理组”,方便用户按照企业管理的需要建立组织结构，在管理组层级为用户授权。订阅管理：订阅是用户进行计费和账单管理的单位，所购资源与订阅直接关联。订阅与计费账户关联。资源组管理：资源组是共享相同生命周期、权限和策略的资源的集合，是最基本的资源分组方式。每个资源实例必须且只能隶属于一个资源组。费用管理：费用管理包含账户余额管理、消费流水和趋势查询、订单管理、账单管理和合同包。帮助用户通过收入、支出分析系统的使用情况。订单管理：订单管理包括订单查询、续订管理和退订管理。支持用户对于各类资源生命周期的特殊逻辑管理。账单管理：账单管理包括账单概览和账单明细。方便客户从多个视角了解账单额度、使用趋势、余额使用分布。统一用户控制台：快速入口访问：最近访问入口提供快捷的产品与服务导航；自定义入口覆盖多类型入口收藏场景，为用户提供定制化入口管理需求。资源全局概览：支持对登录账号下的各类产品服务资源进行关键指标的用量统计和异常状态提醒。账户资金概览：支持账户可用余额、代金券及剩余延停额度概览，一键快速充值功能。待办事项提醒：为用户提供待续费、待支付订单数统计，支持一键跳转至订单管理页续费或支付订单。结构化帮助中心：提供完备的新手指引文档和详细的产品介绍文档，帮助用户快速上手云产品。多通道消息告警通知：提供即时、多类型产品公告及告警类通知以支持用户进行资产生命周期管理、维持服务正常运行。云平台运营运维管理划分、可用region限定、租户级别的平台偏好应用配置。资源运营：从已售资源、库存资源、硬件资源等多个层面，统计资源使用数据，根据水位状态，利用率、占用率等信息，辅助运营进行资源管理的策略选择。产品管理：根据系统售卖策略和营销内容，制定标准单元产品、可售卖产品、产品属性、收费模式、计价策略等内容，实现线上售卖体系的实时变更。财务管理：提供平台级的订单报表、账单报表、用户账户余额报表，辅助财务进行账务核算、帮助运营快速获悉租户的账务风险，及时与租户对接，减少客户因余额不足，系统停服的风险。账户管理：支持面向租户的线下余额汇款功能、合同包创建功能以及代金券发放功能，为各类营销场景提供可扩展的解决方案。2)云监控服务云监控是全方位的云资源监控平台，从基础设施、系统服务和运行任务等多种维度，提供全方位的监控、可视化和灵活告警等功能，助力客户全面了解资源使用情况和业务的运行状况，保障业务持久运行的同时降低运维成本。(2)主要功能云监控服务主要具备以下功能：云资源监控：支持对接多种云产品，可便捷地查看各目标资源的健康状态和其他指标信息，自定义监控指标更具灵活性，助力用户深入了解云产品资源状态。日志查询：支持采集多种类型日志信息，根据特定的语法规则进行查询，与其他云服务的监控功能结合丰富查询维度，形成完整的监控闭环，助力业务异常排查。快速告警：提供灵活告警规则的配置，在监控数据达到告警阈值时发送报警通知，用户及时获取异常通知，查询异常原因，并对异常进行处理。监控大盘：支持针对不同云产品创建专属监控大盘，提供丰富的配置指标和多样化的可视化形式，以清晰直观的方式掌握各云产品的资源情况。事件监控：事件监控具备了各云产品的故障和业务异常事件，可设置告警规则以便快速响应，详细记录助力关联云产品资源和排查复盘。3)容器镜像服务(1)概述容器镜像服务支持容器镜像全生命周期管理的安全托管平台，提供易用可靠的镜像管理功能。容器镜像服务是为容器镜像、HelmChart等符合OCI标准的云原生制品提供全生命周期管理的安全托管平台，提供易用但可靠的镜像管理能力，助力开发者以更灵活的方式进行Al任务的训练。(2)主要功能容器镜像服务主要具备以下功能：全生命周期管理：支持多种原生制品的推送、拉取和清理等全生命周期的托管能力，可为镜像添加Al特性标签以便分类管理。多维度安全保障：支持内外网访问控制，镜像安全扫描等功能，保障数据安全及访问合规。细粒度权限管控：提供容器镜像隔离能力，细粒度权限管理，支持为不同用户分配相应的访问权限。无缝对接云产品：无缝对接ACP、CCI和AICL等云产品，为Al训练和应用部署提供个性化能力支持。4.算力中心软件基础平台建设(1)概述基于云原生技术服务，为Al开发者提供专业灵活的开发环境及链接其他Al服务获取丰富的数据管理、模型可视化等服务。Al云开发机提供专业的研发工具，灵活的云计算资源发体验，稳定的访问服务，开放的配置方式，帮助Al开发者更高效、便捷地打造Al应用，助力产业智能化升级。(2)逻辑架构计算、存储、容器镜像、网络等基础设施WEB计算、存储、容器镜像、网络等基础设施WEBIDE/WebTerminalIDE客户端(如VSCode)云开发机AI算法组件CV算法NLP算法大模型算法第三方服务(如Al云发机逻辑架构AI云开发机作为用于给Al开发者的使用的开发环境，应考虑在基于底层Al基础设施上对资源的灵活使用，如以容器的方式进行系统性的管理，同时考虑与不同的依赖的存储、网络的可交互性，可拓展性。因设计目标为Al开发者使用，在Al云开发机的内部服务设以及相应的计算驱动库，并为开发者预置主流的Al训练框架、算法框架等内容，减少用户构建开发环境的时间。同时，Al开发平台也支持用户自定义镜像的方式支持caCQe、mxnet、paddlepaddle等主流深度学习框架。考虑到不同Al开发者的习惯不同，且开发工作较为复杂，使用者对开发机系统会要求较高的开放权限，使他们能够自定义地安装自己需要的组件和相应的版本依赖，并应能支持配合多种IDE、webide的形式，在线或远程登录访问使用开发机内的服务与资源，保障使用的流畅性和稳定性。此外，考虑到Al开发者已有多种成熟的分析工具使用，云开发机的系统设计，应有足够的开放性，能允许开发者去接入多种第三方的训练可视化、数据分析等服务。(3)主要功能根据Al研究员的不同业务需求和任务需要，灵活配置选择不同cpu、gpu数量、内存规格的云开发环境。预置Al研发过程中主流、高效的算法、训练框架和Al组件包，免去大量繁琐安装，实现随起随用。生命周期管理：支持对已创建的Al云开发机，进行多种操作，按需启用，随时停止，开发环境服务状态尽在掌握。云端编码调试：通过浏览器可快捷访问云端的原生IDE功能，进行代码编译调试，模型构建，无需繁琐基础设施、环境搭建。多种访问接入方式：可通过本地客户端、多种web端远程接入访问，同时享受本地稳定开发体验和云端丰富资源。打通Al计算集群可在云开发机内用少量资源完成代码调试，链接AI高性能算力池，发起大规模分布式训练任务，实现极致弹性算力使用。开放root权限：支持开发人员在Al云开发机内以root权限配置需要的环境以及安装相应的组件包，实现开发环境的自定义。支持开发人员在完成了开发环境的自定义配置以后，保存开发机的配置和镜像内容为镜像快照，用于后续的恢复，以及创建新的开发机时选择自定义镜像。Al云开发机详细功能列表序号主要功能点1创建Al云开发机的Al云开发机资源2开发机资源配置习惯等维度，对Al云开发机的各种规格进行配置3开发机镜像配置4Al云开发机打开支持以WebTerminal的形式，打开访问5Al云开发机信息查看6Al云开发机编辑支持用户对已创建的Al云开发机实例进进行查找和区分不同的Al云开发机实7Al云开发机启动支持将已停止的Al云开发机实例重新启动并占用计算资源，并将Al云开发机变8Al云开发机停止支持将正在运行中的Al云开发机停止运行，并释放相应计算资源，使Al云开发9Al云开发机资源监控支持监控查看Al云开发机正在使用的计和可视化展示支持私有镜像创建开发机权限的私有镜像来创建开发机支持私有镜像启动开发机支持开发机绑定多个EIP和DNAT规则支持用户对特定的开发机实例绑定多个EIP和DNAT网络规则，实现不同网络服务规则支持自定义镜像支持用户在开发机内根据自身需求安装支持开发机更换镜像择任意有权限的镜像进行启动开发机状态保存新拉起恢复，或用于其他Al云开发机的多种IDE支持根据不同用户习惯，支持多种主流IDE,包括CodeServer和存储卷挂载支持远程登录支持用户通过SSHKeys等主流的身份验证方式，通过TerminalSSH或本地VSCode客户端远程登录至开发机内，实现开放开发权限提供用户在开发机内的root权限，支持用户使用依赖root/sudo权限的命令完多种第三方服务访问包括用户配置TensorBoard、WanDB等第三方服务获取开发机内的训练日志和模型信息进行实验的分析和对比支持向计算集群提交训练任务支持用户在开发机内用少量资源完成代码调试，并使用CLI工具，向集群提交分布式的训练任务。(4)使用场景基于以上设计的AI云开发机的特性及产品功能，应满足以下几个常见应用场景的使用。数据分析处理：可基于开发机内置的组件，通过交互式编码对数据进行统计分析，格式转化，特征工程等数据预处理。Al算法构建：可基于开发机内置算法组件与模型，根据业务和落地需求，调整相关backbone,head,neck等网络部分，并进行调试。Al模型训练：基于开发机内置训练框架和算力资源，对构建的算法发起训练、调参，可链接Al训练池发起更大规模的任务。Al模型评测：可基于本地、在线导入的数据集，对已训练的模型，或开发机内置模型，发起模型的评测，调试测试代码。可对训练出的模型进行格式转化，根据目标部署的设备与架构，进行算子的编译和模型的量化、压缩。模型平台提供科学、系统的企业级模型平台，面向大模型全新开发范式，作为核心基站，打通模型的生命周期的管理，并覆盖大模型微调、推理、到部署应用的全栈式Al开发场景，帮助企业内部有效沉淀及共享模型资产，加速Al开发效率，并提供公开算法库，助力用户快速开发定制业务模型。(2)逻辑架构AI模型平台AI模型平台功能模块提供服务层封装模型算法支持任务类型支持顶层交互基础设施存储、网络、计算等基础设施存储、网络、计算等Al数据管理平台逻辑架构Al模型平台的系统设计，包含了模型与算法两大核心元素。在模型层面，针对开发者训练生产的模型，模型平台需提供系统的模型生命周期管理，帮助开发者进行模型资产的沉淀。另一方面，用于加速Al开发流程，Al模型平台应提供相应的主流公开模型、主流公开算法等，避免开发者从0开始工作的情况。此外，在模型与算法类型上，应考虑多种全面的Al任务类型和算法类型，包括NLP、CV、多模态、语音等常见AI任务，并提供主流的开发算法，如Llama,Pythia,Llama2等系列的微调算法，以快速支持相应的模型微调任务。该系统的整体使用，需综合考虑不同的使用场景和Al开发者的使用习惯，来通过包括web界面，cli工具，pythonsdk等多种形式，来满足在模型的获取、查看、使用、保存，算法的使用，支持多维度的交互形式。(3)主要功能Al模型平台的功能模块需要综合考虑用户产出的模型管理，以及平台内预置的公开模型、公开算法。模型管理：支持托管企业优质模型，以git方式组织模型文件，配合模型描述schema,实现标准化模型定义，高效版本管理。公开模型：提供业界先进、高精度的预训练模型，覆盖丰富的任务类型和算法类型，支持百亿、千亿参数量大模型。公开算法：提供微调算法库，覆盖llama、pythia等多种主流大模型类型，支持全量微调、lora微调等多种微调方法，提供大模型微调最佳实践，通过简单几行命令，即可快速启动微调任务。快速部署验证：支持用户在浏览检索私有&公开模型的同时，在目标模型详情页，快速发起该模型的推理服务部署操作，用于验证模型的实际落地效Al模型平台详细功能列表主要功能点1创建模型空间2模型空间扩缩容3模型空间续订4模型空间退订5模型空间管理6创建模型文件，创建后会自动初始化模型对应的git7模型权限配置支持将模型分享给模型空间下的其他用8模型管理主要功能点9模型检索模型筛选模型详情查看模型简介查看支持自动将模型仓库master分支下的README.md文件进行渲染，展示模型介绍信息、性能信息、训练数据集信息等。模型文件列表查看支持按照git文件组织方式查看模型文线查看，gitcommit信息查看，文件大小查模型版本管理支持按照git开发范式，切换branch/tag来查看和管理不同版本下的模型文件。工具支持通过git指令集操作模型仓库，实现模型文件push、pull等一系列操作，支持使用scoampcli工具查询、筛选模型列表。模型管理sdk工具支持通过pythonsdk获取模型文件列模型上传分片面向大模型场景，支持Ifs标记的大模型文件，自动分片上传。内置公开模型内置100+业界高质量的开源大模型，覆公开模型下载支持通过gitcli指令集在Al开发平台内公开模型收藏主要功能点公开模型管理公开模型筛选公开模型排序公开模型检索支持以关键词检索公开模型，支持按名称、ID、性能指标等信息进行模糊搜索。公开模型详情查看公开模型简介查看公开模型文件列表查看支持按照git文件组织方式查看模型文线查看，gitcommit信息查看，文件大小查密钥生成支持生成用于私有模型管理git指令认证，以及公开模型下载git指令认证所需密内置微调算法库微调算法库源代码查看branch/tag查看不同代码文件和gitcommit信息等，提供gitclone方法下载微调算法库。公开算法管理主要功能点公开算法收藏支持收藏业务所需公开算法，可按收藏筛公开算法筛选支持按照任务类型、算法类型、微调方法、收藏进行联合筛选。公开算法排序支持按照更新时间、收藏次数两个维度进公开算法检索支持以关键词检索公开算法，支持按名称公开算法解读支持查看公开算法的介绍，微调实例效公开算法微调实例查看支持查看公开算法对应不同参数量的模公开算法关联资产查看支持查看公开算法对应的预训练模型、预LlaMa微调支持提供LlaMa全量微调及lora微调方Pythia微调支持提供pythia全量微调及lora微调方法。(4)应用场景基于以上设计的Al模型平台的特性及产品功能，应满足以下几个常见应用场景的使用。根据业务需求、任务类型等多种维度，帮助用户快速找到合适的算法模型为基础，云端快速构建开发环境，随时基于已有算法进行模型训练、优化、迭代，告别从0开发。大模型开发范式落地：提供大模型开放平台，提供大模型自动分块、大文件自动跟踪等能力，配备多种开发工具，加速大模型行业应用落地。更新、汇集前沿、新潮Al算法，搭配相应开发环境、计算资源、验证脚本等核心要素，系统性提升Al算法落地、算法集成验证的效率，全面助力基于前沿算法的应用开发。沉淀用户Al模型资产，并提供系统性工具，协助用户管理不同算法、模型版本、适配环境、代码、数据集等核心Al要素，提升后续算法复用及迭代速度。Al模型推理服务是面向大模型的推理云服务，方便开发者将大模型部署到云端推理，快速高效地搭建推理服务，提供简洁易用的运维能力和高性价比高质量的大模型推理服务。(2)逻辑架构服务管理等网络等网关服务引擎硬件动态加载流量控制负载均衡内存模型推理逻辑架构整体模型推理的系统架构应考虑多方面的层级，包括底层的基础设施(硬件)的使用，以及在上面搭建的推理引擎，来实现对多种不同硬件的适配与加速，并可对多种不同类型的模型，只是模型的量化压缩和加速处理。因模型推理是对外提供Al应用服务的核心环节，在系统设计上，需要考虑业务调用时的峰谷情况，在能批量处理大量请求的同时，同时在服务层级，通过动态加载，灵活的算力调度，弹性的扩缩容等能力，加强对模型推理生成的在线服务的系统性管理。在模型推理的最上层，应有相应的网络层面的服务和设计，包括对不同网络请求的负载均衡、流量控制，模型推理相应的以及支持用户可根据实际Al业务需求配置白名单的能力。(3)主要功能模型推理平台能力应承接模型平台管理的自主模型和模型平台支持的公开模型，并按用户需求配置，持续提供在线服务，和主要功Al模型推理服务的创建针对Al开发者，提供快捷的Al模型推理发起服务，用户通过硬件资源的配置，选择需要的模型、镜像和推理参数配置，以及副本数量等信息，则可以快速自动创建，生成一个推理服务，使得Al开发者可以聚焦在Al模型算法的能力本身，享受便捷、快速的服务实现。Al推理服务的管理与使用针对已创建的推理服务，自动生成推理服务可用的API,并支持用户对服务进行鉴权配置管理，基于模型推理的暴露API,向上进一步搭建Al应用，并提供详细的在线服务的请求、性能、调用统计和分析等能力。AI推理服务的弹性伸缩考虑到终端用户使用AI推理服务，典型的AI应用服务会有访问的峰谷，推理服务在实现自动的服务化，以及允许用户配置更新的同时，支持用户配置根据服务状况和业务逻辑配置对在线服务中的Al推理服务自动扩缩容。模型推理服务详细功能列表主要功能点1推理服务创建支持创建多实例多副本推理服务，用于推理客户上传至模型平台的模型，以API的形式向客户提供推理能力。(实例允许跨区域算力，和训练算力互通)2支持多种模型来源创建推理服务用户上传模型：支持用户将自己模型上传至模型平台，然后用于创建推理服务。模型平台公开模型：模型平台有提供多种优秀的开源模型，可供用户创建推理服主要功能点调模型，并将微调后的模型创建推理服3支持多种推理镜像创建推理服务推理镜像上传至CCR,用于用于创建推理服务。商汤官方镜像：现在仅提供一种官方镜4推理服务更新推理服务进行模型更新或者扩缩容。5推理服务删除算力资源。6推理服务查看详情7推理服务搜索进行模糊搜索。8推理服务鉴权管理支持对推理服务进行鉴权管理，如创建APIKey,删除APIKey,更新APIKey名称等。9推理服务创建Key支持对每个推理服务最多创建10个API推理服务删除Key支持用户删除推理服务现有APIKey。推理服务更新Key名称支持用户更新推理服务现由APIKey的名查看推理服务日志信息。查看推理服务CPU使用情况七天的数据，时间颗粒度可调。查看推理服务内存主要功能点使用情况七天的数据，时间颗粒度可调。查看推理服务GPU使用情况七天的数据，时间颗粒度可调。使用情况七天的数据，时间颗粒度可调。查看推理服务QPS统计信息量统计信息支持用户查看推理服务的调用量统计信查看推理服务首Token延迟统计信息支持用户查看推理服务的首Token延迟统查看推理服务单Token耗时统计信息支持用户查看推理服务的单Tokne耗时统(4)应用场景基于以上设计的Al模型推理服务应满足以下几个常见应用场景的使用。前沿模型快速验证：通过模型推理暴露的API,用户可在上层封装为微应用，迅速搭建并验证前沿模型在具体业务场景上的落地效果和潜在交互形式。行业Al应用落地：根据行业应用需求，用户可配置业务需求依赖的模型的自动扩缩容逻辑，并基于模型推理的API,在上层封装需要落地的应用业务逻辑，持续为Al应用软件赋能。5.算力中心算力软硬件设备类型1)Al服务器选型Al服务器主要用于视频、图形处理，结合调研的业务场景、计算性能需求，在考虑先进性和效率性基础上，综合考虑计算密度、设备性价比、设备功耗等因素，建议采用H100GPU服务器。2)存储设备选型针对用户多、文件数量多、存储空间要求巨大、存储容量起步配置高等特点，优选分布式文件存储，与生俱来支持精简配置的功能，存储容量可以按照实际存储使用的情况按需增加存储节点，且优选具有和云平台联动的能力的分布式存储型号，可以服务化的形式让用户在平台上自主申请文件存储资源，且可以自动化地挂载到虚拟机或裸金属服务器上。文件存储推荐采用全对称分布式集群架构，采用全互联全冗余的组网机制，实现存储系统节点的全局统一命名空间，从而允许系统中任何节点并发访问整系统的任何文件；并且支持文件内的细粒度的全局锁，提供从多个节点并发访问相同文件的不同区域，实现高并发读写，最终达到高性能访问系统。分布式架构能够支持节点动态扩展，节点随需而定，而且节点扩最终给用户提供呈线性递增的带宽、并发数。同时支持支持NFS,CIFS,NDMP,FTP等多种接口，一个系统承在基础架构上加载不同的特性满足客户多方面需求，对同一基础架构上的不同应用之间的数据实现统一调度管理。2.对象存储选型对象存储兼具块存储高速直接访问磁盘的特点及文件存储的分布式共享特点，是一种可存储文档、图片、影音视频等非结构化数据的云存储服务，提供海量、安全、高可靠、低成本的数据存储能力。对象存储推荐采用分布式部署，对象存储接入节点以集群方式组网，任何服务请求都可以通过负荷分担机制由任一接入节点提供服务，不存在传统存储由于状态同步、锁定机制导致的接入节点数目扩展瓶颈，因此接入节点集群内的节点数目理论上可以无限扩展，支撑容量线性扩展不存在架构上的瓶颈。并且通过系统自动负载均衡、元数据多级缓存和特有的小对象聚合技术，使得对象存储的单桶支持免除了分桶改造的麻烦。分布式对象存储的扩展性具备如下特点：统可以快速达到负载均衡状态。(2)灵活的扩容方式：可以独立扩容计算节点、硬盘、存储节点，或者同时进行扩容。(3)性能线性增长：机头、存储带宽和Cache都均匀分布到各个节点上，系统TPS、吞吐量和Cache随着节点的扩容而线性增加。3)网络设备选型适用性与先进性相结合的原则，不同品牌的交换机产品价格差异较大，功能也不一样，因此选择时不能只看品牌或追求高价，也不能只看价钱低的，应该根据应用的实际情况，选择性能价格比高，既能满足目前需要，又能适应未来几年网络发展的交换机。选择市场主流产品的原则，选择交换机时，应选择在市场上有相当的份额，具有高性能、高可靠性、高安全性、高可扩展性、高可维护性的产品。安全可靠的原则，交换机的安全决定了网络系统的安全，选择交换机时这一点是非常重要的，交换机的安全主要表现在VLAN的划分、交换机的过滤技术等。6.配套基础设施建设方案1)机房建设总体要求(1)规范性原则投标机房在规划、设计、建设过程中，应符合国家标准《数据中(2)可靠性原则投标机房应具有抵御自然灾害如地震、火灾、水害、鼠虫害等的能力，应确保电力供应及空调运行的稳定性和连续性。投标机房整体可用性必须达到99.99%以上(即全年不可用时间不超过1.6小时)。(3)可扩展性原则考虑到租用期间不断发展的需要，在机房的场地面积及电力容量、空调容量、通讯能力等机房基础设施的各个方面都应预留足够的余量及可扩充的灵活性。(4)独立性原则保证所租用区域为本项目专用，与其他用户区或其他功能区物理隔离，避免相互影响。2)机房机柜具体规范要求(1)机柜技术要求序号内容1机柜数量柜2机柜电流每个机柜提供双路供电，两路供电均有UPS保3每个机柜提供两条PDU,每条包含国标/IEC10A插座≥20个、国标/IEC16A插座≥6个，并可根据采购人需求免费将10A插座改造为16A插4机柜尺寸机柜宽≥600mm,深≥1200mm,高5安全隔离行隔离。6布线方式机柜间布线方式均为上走线方式。7扩容机柜数量扩容(总量不超过100个)时，应保证8空柜(2)机房技术要求序号内容1机房资质投标机房参照《数据中心设计规范》(GB50174)建设，达到A级及以上标准，或者达到基础运营商集团五星级标准。具体可按项目实际规划要求2机房环境供配电防雷级别：接地电阻小于1Ω3动环监控机房需提供动环监控系统。4地理位置机房拟定位于xx,且距离项目建设单位距离不超过20千米。具体可按项目实际规划要求调整。5机房资质建议房机柜总数≥1000个机房环保：建议机房被列入工信部发布的国家绿互联网接入：建议机房是运营商骨干网核心节点机房6机房环境运输通道：专门的卸货区、货梯、坡道等专业设施，设备可无障碍直达机房，满足常规设备通过货梯出入条件，具备非标机柜出入条件。机房承重：≥1000KG/平米；。机房净高：≥4.5米。机房模块所在楼层位置：建议位于地上楼层。建议机房所在场地为独栋建筑，机房建筑内不含7电力保障供电等级10KV及以上，并提供不同上级变电站的2路市电。配置N+1或2N组柴油发电机组，在市电异常断电后，柴发必须在15分钟内提供备用电力，支持全部机房负荷在掉电期间持续运行。数据中心UPS系统支持2N模式为机房供电，单8动环监控机房出入口、通道应配有摄像机监控，录像保存时间不得少于90天；同时人员进出应设有相应的9网络保障机房总出口带宽不低于100G。支持接入基础运营商的互联网链路、专线、裸光纤网络。下送风或行机空调水平送风方式，应具备恒温、(3)机房服务要求序号内容1运维服务机房运维人员7×24×365小时值班，满足不少于2人同时现场值守。机房提供7×24×365小时电话热线和邮件报障，受机房运维管理制度及流程文档完整基础设施及电路检查与巡检：检查和巡检间隔不超过4小时，并有日志记录。提供应急预案：应对机房供电、空调、消防、网络安全等方面突发事件应急方案。应急演练：按应急预案每年进行1-2次演练。不少于3个调试工位具有可展示项目的大屏、场地及配套服务(4)网络线路要求所有线路均为独享带宽，保证网络通畅。能够支持多种专线(SDH、MSTP、光纤等),不能对线路规格、数量、容量、接入方式等进行限制(国家及地方的标准规范除外)(5)静态互联网链路要求序号指标项1线路带宽带宽≥500Mbps,速率上下行对等。2IP地址3IP地址线路需提供不少于：:/64位IPv6公网地址。4IP地址5双栈6线路质量时延小于等于50ms;3)机房总体需求机房用电需求：序号机架数量单机柜功率负载功率总需求E需求总功率蓄电池变压器油机101主+4备)组(40节/组，1280-3台(2主-1备)-2台(并机房其他设备需求：求总量12kw或等160个准优于GB50174-A,TierⅢI级电力需求满足2N电力冗余系统；配置UPS电源，后备时间不小于15分钟；制冷需求环境需求满足GB50174-A级标准要求网络路由运营商光缆接入路由，三线接入，不少于3个建设属性设计抗震烈度，不小于7度/丙类，抗震设防烈度满足本地抗震设防要求。建筑屋面防水等级，不低于一级。消防验收通过属地消防局认证、验收，手续齐全4)机房环境配套采购清单投资估算总表序号项目名称数量备注一工程费用主要设备材料费1高压配电部分2N架构，12面高压柜2变压器4台1600kVA变压器3低压柜部分2N架构4柴油发电机工程2台1600kW油机5UPS设备8台600kVA6UPS输出柜4组，每组3面7UPS蓄电池32组，每组408机柜工程DC舱及网络机柜9空调系统列间氟泵空调小母线按长度暂估动环监控按机柜负载功率装修工程按机房面积消防、报警及排烟按机房面积照明按机房面积电缆及母线按配电设备价格20%暂估(二)辅材及安装工程费按10%暂估二工程建设其它费工程费用×5%三预备费(工程费用+工程建设其它费)四投资合计工程费用+工程建设其它费+预备费(三)运营模式智算云(重庆)科技有限公司是一家由重庆市南岸区政府牵头，与商汤科技共同出资建立的合资公司。本公司依托商汤科技深厚的学术积累和全栈式人工智能能力，在南岸区重庆经开区建立了重庆人工智能计算中心，长期规划为政府、产业、高校、科研院所等提供最前沿的科技创新和行业应用孵化底座，助力实现财务数字化服务、生活智慧化运用、企业智能化升级和教育前瞻性培育。该项目由智算云进行运营，该智算中心建成后，将该智算中心纳入商汤全国算力一体调度网络，进行算力调度和使用。(一)建设智算中心，为医疗及大健康行业全面赋能建设智算中心对医疗及大健康领域的价值主要体现在以下几个1.提升医疗服务效率和质量：智算中心通过提供强大的算力支持，使得医疗健康数据的分析和处理更加高效，从而优化医疗资源配置，提升疾病预防、治疗和健康管理的能力。2.支持医疗智慧应用：智算中心支撑手术机器人、远程医疗、可穿戴设备、电子病历等智慧医疗应用的发展，通过处理海量数据，为医生和患者提供更准确、个性化的诊疗建议。3.促进医疗科研和药物研发：在生物医药领域，智算中心的算力提升促进了基因测序的精准性和新药研发的效率，加速了医疗科研和药物研发的进程。4.推动医疗数字化转型：智算中心作为核心驱动力，推动传统医疗行业经历数字化与智慧化转型，通过运用先进的算法和模型，从海量数据中提取有价值的信息。5.支持医共体建设：智算中心通过提供算力支持，帮助医共体实现数据共享、远程医疗服务、智能诊断等，提升基层医疗服务能力和水平。6.促进医疗Al的规模化应用：智算中心为医疗Al的训练和应用提供了丰富的场景和数据支撑，使得医疗Al能够快速规模化应用，提高医疗服务效率和质量。7.助力医保支付方式改革：智算中心支持医保支付方式的创新，如按人头付费、按病种付费等，提高医保基金的使用效率。智算中心的建设对医疗及大健康领域具有重要的推动作用，不仅能够提升医疗服务的质量和效率，还能够促进医疗科研和药物研发的进步，同时推动医疗行业的数字化转型。。(二)聚焦xx,辐射周边区域，带动区域整体Al产业发展1.推动区域经济发展：智算中心作为新型基础设施，有助于吸引高科技企业和人才，促进当地就业和产业升级，加速数字经济的发2.促进科技创新：智算中心提供的算力支持可以加速人工智能、大数据等技术的研发和应用，推动科技创新和产业转型。3.提升公共服务水平：智算中心可以为政府、企业和公众提供高效、智能的数据处理和分析服务，提高公共服务的质量和效率。4.加强区域协同发展：智算中心的建设有助于形成区域间的算力网络，促进资源共享和优势互补，加强区域间的经济和科技合作。5.支持绿色低碳发展：智算中心采用先进的节能技术和管理措施，有助于降低能耗和减少碳排放，支持可持续发展。6.增强区域竞争力：智算中心的建设和运营可以提升区域的科技实力和创新能力，增强在全球或全国范围内的竞争力。7.促进产业集群形成：智算中心可以吸引相关产业链上下游企业集聚，形成产业集群，推动区域经济的集约化和规模化发展。8.促进区域经济均衡发展：智算中心的建设和运营有助于促进区域经济的均衡发展，特别是在数据中心资源丰富的地区，可以带动当地经济的发展和就业。9.推动教育和人才培养：智算中心可以与周边高校和研究机构合作，提供实践平台和资源，促进教育创新和人才培养。10.加强区域品牌建设：智算中心的建设和运营有助于提升区域的知名度和影响力，加强区域品牌的建设。通过算力网络连接，带动整个区域的数字化转型和经济发展。智算中心的建设对云南、广西等周边区域的发展具有多方面的积极影响，有助于推动经济、科技、社会等多方面的进步。(三)依托区域算力中心能力，持续为其他产业提供算力服务1.推动工业AI化：智算中心通过提供必要的算力服务、数据服务和算法服务，为人工智能应用提供了基础支撑，推动了人工智能技术的工业的AI化转型。2.促进技术创新和研发：智算中心的算力支持能够加速科研和技术创新，特别是在需要大规模计算和数据处理的领域，如生物科学、设计制造等。3.支持智慧城市建设：智算中心能够为城市管理、公共安全、环境监测等领域提供强大的数据支持和智能分析，提升区域治理的智能化水平。4.赋能自动驾驶和智能交通：智算中心提供的算力对自动驾驶技术的研发和实施至关重要，有助于推动智能交通系统的发展。5.促进文娱创作和数字内容生产：智算中心可以支持Al在文娱创作领域的应用，如AIGC(人工智能生成内容),推动数字内容生产的创新和发展。6.提升政府治理能力：智算中心能够为政府提供决策支持和商业洞察，提升政府治理的现代化水平。智算中心将持续为智慧城市、工业、交通、文旅、建筑等行业提供算力服务。如果说人工智能是当今行业创新性发展的新驱动力，那么智算中心就是新基石。序号名称一、1GPU服务器CPU:2路CPU芯片，主频≥2.1GHz,核数8*989TFLOPS,显存≥8*80G内存：≥32*64GBDDR54800MHzRDIMM网络适配器1:1*≥10G双口网卡，光口网络适配器2:≥4*400GNDR单口，支持IBVPI卡，安装位置为平均分布于4个PCleSwitch下网络适配器3:≥1*100GbE/HDR100双Switch下的槽位硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥2*7.68TBPCle4.0NVMeSSD(U.2)外管理台2算力管理+IB网服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡网络适配器3:≥1*200G单口InfinibandVPI卡硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAIDO/1/10电源：冗余电源，支持热插拔2台3算力监控服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔3台4算力管理服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.04台RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔5负载均衡管理服务器CPU:2路CPU芯片，主频≥2.3GHz,核数内存：≥8*16GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥1*7.68TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔3台6理服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡6台硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥1*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔1代理机CPU:2路CPU芯片，主频≥2.3GHz,核数内存：≥16*16GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥1*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔2台2云开发务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，3台光口网络适配器2:≥1*100G双口InfinibandVPI卡硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔3务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥1*100G双口InfinibandVPI卡硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔6台4模型和推理服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHz网络适配器1:1*≥10G双口以太网卡，光口支持RDMA/RoCEv2硬盘1:≥8*960GB读取密集型SATASSD硬盘2:≥2*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔2台文件存储区1文件存储服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHzRDIMM硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥12*7.68TB读取密集型PCle网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口Infiniband台VPI卡，支持100GbE,光口电源：冗余电源，支持热插拔2服务器CPU:2路CPU芯片，主频≥2.3GHz,核数内存：≥8*16GBDDR43200MHzRDIMM硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥1*7.68TB读取密集型PCle4.0网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡，支持100GbE,光口RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔6台3储分析服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHzRDIMM网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡，支持100GbE,光口6台硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥8*3.84TB读取密集型PCle4.0RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔对象存储区1器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*16GBDDR43200MHzRDIMM硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥4*7.68TB读取密集型PCle4.0硬盘3:≥32*18TBSATAHDD网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡，支持100GbE,光口RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔台2储管理服务器CPU:2路CPU芯片，主频≥2.3GHz,核数内存：≥8*16GBDDR43200MHzRDIMM6台硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥1*7.68TB读取密集型PCle4.0网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡，支持100GbE,光口RAID卡：1块，支持RAIDO/1/10电源：冗余电源，支持热插拔3储分析服务器CPU:2路CPU芯片，主频≥2.6GHz,核数内存：≥16*32GBDDR43200MHzRDIMM网络适配器1:1*≥10G双口以太网卡，光口网络适配器2:≥2*100G双口InfinibandVPI卡，支持100GbE,光口硬盘1:≥2*960GB读取密集型SATASSD硬盘2:≥8*4TB或3.84TB读取密集型RAID卡：≥1块，支持RAID0/1/10电源：冗余电源，支持热插拔台1机端口数量：配置64InfinibandNDR端口(400Gbps),32OSFP端口总数据吞吐量：51.2Tb/s电源：1+1冗余和可热插拔电源2台2换机端口数量：≥64个400GQSFP-DD端口总数据吞吐量：≥51.2Tb/s交换带宽，≥10300Mpps包转发率网络：支持RDMA无