HCS-Pre-sales-华为FusionServer-G系列异构服务器培训(服务器)PPT课件.pptx

华为FusionServerG系列异构服务器产品售前培训 课程位接口人 陈星颖 chenxingying 部门 服务器MKT 色彩构成 该页颜色由以下七色构成 主色调公司灰 当页面中需要使用四种以上颜色时 建议一种色系颜色作为主色调 其它颜色仅作为点缀色小面积使用 内容简介 主要向合作伙伴介绍华为FusionServerG系列异构服务器产品课程面向对象 总经销商 一级经销商 金银牌的售前人员课程目标 了解服务器产品市场现状及发展趋势 掌握华为FusionServerG系列异构服务器的产品规格和主要亮点 掌握华为FusionServerG系列异构服务器与业界主流友商的规格对比 了解FusionServerG系列异构服务器的基本报价原则 具备基本报价能力版本信息 含发布 修改时间 发布时间 2018 02 06修改时间 2018 02 06 2020 3 25 1 1 ClicktoaddTitle 异构计算趋势和市场进展 ClicktoaddTitle 2 G系列异构服务器产品介绍 4 成功实践和应用案例 ClicktoaddTitle 3 应用场景和典型配置 目录 新兴技术的普及应用加剧计算力需求 异构计算 从 芯 开始 选择应用匹配的计算模式 主频高 核数有限逻辑控制 算术运算单元 大量缓存管理和调度任务 成千上万的计算核心多进程并发 数据并行大吞吐量的图形和矩阵计算 主频低但集成大量计算单元流水线并行和数据并行硬件编程和加速 特定应用IP核 CPU GPU FPGA ASIC 针对某一场景优化的专用处理单元硬件基本不可编程多个IP集成 高性价比和能效比 GoogleTPU IntelNervana 深度学习应用范围 深度学习 HPC加速异构计算发展 视觉计算 GPU超级计算集群 语音识别 HPCTOP500GPU规模增长率 深度神经网络 1 ClicktoaddTitle 异构计算趋势和市场进展 ClicktoaddTitle 2 G系列异构服务器产品介绍 4 成功实践和应用案例 ClicktoaddTitle 3 应用场景和典型配置 目录 华为FusionServerG系列异构服务器产品 FusionServer 2288 1288 5288 机架服务器 高密服务器 E9000 刀片服务器 X6000 X6800 X系列 E系列 G5500数据中心异构加速 G2500边缘视频智能分析 G系列 HPC AI训练 云服务 AI推理 G5500异构服务器 G2500视频智能分析服务器 New G5500产品图 FusionServerG5500产品规格 G5500 G560 前视图 G5500 G530V2 前视图 后视图 G560全宽异构计算节点前视图 支持8个全高全长GPU卡支持NVIDIATeslaP100 P40 V100CPU计算节点模块 2S 24DIMMs G560 6个2 5英寸U 2NVMeSSD硬盘2个2 5英寸SAS SATA SSD硬盘8个3 5英寸SAS SATA SSD硬盘支持RAID0 1 10 5 50 6 60 硬盘 2 3 1 9 5 6 4 10 11 12 13 14 15 8 7 产品图 G560节点 8 PCIex16 FHFLGPU 8 3 5 HDD G560异构计算模块 2 E5 2600v4CPUs 24DDR4DIMM 信号转接板 Raid卡 G560CPU计算模块 G560全宽异构计算节点内部图 5 2 1 7 4 8 6 9 10 11 支持16个半高半长GPU卡支持NVIDIATeslaP4CPU计算模块 2S 24DIMM G530V2 2个2 5英寸SAS SATA NVMe硬盘或支持4个M 2SATASSD支持RAID0 1 硬盘 G530V2半宽异构计算节点前视图 3 FusionServerG5500后视图 10 11 1 4 双管理模块 G560仅支持单模块 2个10GE光口 G560暂不支持 GE管理网口和串口 管理模块 4个铂金冗余电源 N N最大功耗2200W支持AC和240VHVDC 电源 6个热插拔风扇 N 1冗余免开箱在线维护 风扇 2 3 5 6 7 8 9 14 12 13 4个PCIeX16扩展插槽支持半高半长PCIe卡 接口模块 FusionServerG5500主打特性 一键切换异构拓扑AI HPC拓扑一键切换支持多样化应用 降低硬件投资 全模块化架构设计CPU和异构资源解耦设计 支持长期技术演进电源 硬盘和风扇模块化 简化运维和管理 人工智能 HPC 云GPU加速 卓越异构计算性能 适配集群规模部署 NVIDIA Tesla GPU加速卡 华为企业级FPGA加速卡 2017Q1上市 支持GPU MIC和FPGA多种类型异构计算 支持GPUDirect 技术 GPUDirectPeertoPeer加速单节点多GPU互联 GPUDirectRDMA加速集群的GPU节点互联 提升Multi GPU集群互联性能 AI HPC应用性能加速 数据来源于xx客户实测数据 线性度0 93 ImageNetwork InceptionV3 支持300WGPU 205WCPU 满规格配置独立OS盘支持硬RAID1 内置NVMe带宽达24GB s 满足AI训练和HPC高性能存储需求 内置80TB大容量 大幅降低外部存储成本IO扩展能力领先 支持双节点独立3平面组网 拓扑1 级联型 CPU GPU1 8 AI训练 拓扑2 均衡型 CPU GPU1 4 AI云加速 HPC G560支持AI HPC拓扑一键切换 切换功能电子开关化 iBMC界面一键操作 一键切换GPU拓扑 AI HPC应用灵活支持 Page16 灵活可编排 支持多样化应用场景 G530V2配置16GPU G560配置8GPU 拓扑1 2支持一键切换AI HPC拓扑 拓扑1 级联型 CPU GPU1 8 AI训练 拓扑2 均衡型 CPU GPU1 4 AI云加速 HPC CPU CPU PCIeSwitch PCIeSwitch NIC NIC CPU CPU PCIeSwitch PCIeSwitch NIC 拓扑5 CPU GPU1 8 AI推理 拓扑5支持AI推理拓扑 单框32GPU业界密度最高 节点1 节点2 Page17 G560 G530V2 CPU模块 异构模块 CPU和异构计算独立模块设计 风扇 电源 硬盘 IO卡 管理板全模块化 电源 风扇 IO卡模块 管理板 全模块化设计 支持灵活部署 简化运维 CPU 异构资源解耦 支持灵活配置 免下架维护 运维效率提升 简化运维 免下架维护 降低成本 缩短周期 支持PCIe4 0和200G网络技术演进 铜背板通流安全可靠 X 采用独立风道设计 散热更高效 传统设计 插框硬件设计支持长期演进能力 领先的工程化设计 支持高效散热和长期技术演进 满负载支持35度工作环境温度 硬件设计支持未来3 5年的技术演进 G2500产品图 前视图 后视图 FusionServerG2500产品规格 FusionServerG2500前视图 支持16个半高半长GPU卡支持NVIDIATeslaP4计算节点 2S 12DIMM G2500 24个3 5英寸SAS SATA SSD硬盘2个SATAM 22280接口 240GB硬RAID1Raid0 1 5 50 6 60可选电池或超级电容保护 硬盘 4 5 3 2 1 6 7 8 9 FusionServerG2500后视图 6 5 1 2 3 4 GE管理网口和VGA接口4个USB接口 两个前置 管理模块 4个白金冗余电源 2 2最大功耗1500W支持AC和240VHVDC 电源 8个热插拔风扇现场易更换 可在线维护 风扇 1个PCIex8LP扩展插槽2个10GE光口 4个GE网口 接口模块 7 FusionServerG2500视频智能分析服务器主打特性 超强智能 4U机箱支持16个NVIDIA Tesla P4提供256路人 车 物视频智能分析 超大存储 支持24块3 5 硬盘 容量可高达240TB满足海量存储需求 支持信息实时检索 边缘部署能力 支持55 C工作环境温度675mm深机框 支持短机柜安装要求 可信赖的智能边缘服务器 符合ECC 边缘计算联盟 标准NEBS电信级标准支持55度环温 稳定可靠 G2500服务器产品亮点 GPU GPU GPU GPU GPU GPU RAID卡 CPU0 CPU1 PCIeSW 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 3 5 SAS SATA 24 3 5 SAS SATA GPU GPU GPU GPU PCIeSW IO UPI GPU GPU GPU GPU GPU GPU 目录 ClicktoaddTitle 2 G系列异构服务器产品介绍 4 成功实践和应用案例 ClicktoaddTitle 3 应用场景和典型配置 1 ClicktoaddTitle 异构计算趋势和市场进展 FusionServerG系列异构服务器应用场景 数据中心训练 推理 HPC 边缘侧分局推理前端智能 FusionServerG5500数据中心异构服务器 FusionServerG2500视频智能分析服务器 识别 推理 解决问题非结构化数据处理回传实时准确响应 数据集训练图像 语音 视频结构化集群规模 大吞吐量 FusionServerG2200 2100规划中 2020 3 25 27 典型应用 视频智能分析 平安城市市局视频监控万路级视频训练和分析应用 进行结构化视频的检索和识别 图像智搜 人脸和车牌识别 轨迹分析等 对接边缘智能分析一体机 进行全网智能分析 交通监控视频分析存储一体机应用 包括人脸抓拍 建模入库 人脸比对 人脸检索和轨迹显示 客流统计 绊线和区域入侵 人员滞留 可疑物品遗留 乘客追逐监测 典型应用 1 中心局部署 市局 区 分局1 G5500G560支持单机或集群深度学习训练2 支持GPU增强数据库查询 百亿级记录秒级查询2 数据中心Inference 集群部署G530V2可支持512路视频智能分析 3 边缘InferenceG2500支持256路视频智能分析 特点 接入端 街道 加油站 中高NVR 16 24盘位8 64路规格15 30天存储 边缘侧 园区 景区 乡镇 智能分析 存储64 512路规格15 90天存储 中心局 市局 区 分局 视频云化DL训练 智能分析1W路以上规格 G5500G560 8 P100 P40 G5500G530V2 16 P4 G250016 P4 24 3 5 HDD 典型应用 AI人工智能 人工智能主要分为图像识别 语音识别 自然语言处理 机器学习等类型 应用在零售 医疗健康 农业 工业 金融等各领域 典型应用 1 数据中心Training 集群部署1 8 P100 P40 SingleRootComplex2 支持8卡之间P2P GPUDirectRDMA2 数据中心Inference 集群部署1 16 P4 node 整框32 P4 用于推演2 资源编排 无极扩展 适配不同推理算法 G5500G560 8 V100 P100 P40 G5500G530V2 16 P4 数据中心AITraining 数据中心AIInference 特点 典型应用 HPC异构计算加速 HPC主要场景 如CAE仿真 物理化学 生命科学 气象环境 是有勘探 动漫渲染 主要应用在科学研究 气象预报 计算模拟 CFD CAE 生物制药 基因测序 图像处理等 典型应用 1 卓越的异构计算性能 1 单机56T双精度浮点计算能力 V100PCIe 2 网卡与GPU共RC 支持GPUDirectP2P RDMA2 存储和接口性能高 1 内置带宽最高可达24GB s的NVMe盘 满足HPC高性能存储诉求 2 支持PCIe3 0 x16LP卡 满足InfiniBandEDR互连 特点 典型应用 云服务 GPU加速云服务器在深度学习 图形数据库 高性能数据库 计算流体动力学 计算金融 地震分析 分子建模和基因组学等应用 FPGA加速云服务器着眼于密集计算 高并发和高带宽领域 适用于视频处理 机器学习 基因组学研究和金融风险分析等领域 典型应用 1 弹性资源池 拓扑灵活可编排 1 基于CUDA接口 GPU资源不绑定VM 可以动态申请 释放和修改 2 一键式配置 实现CPU和GPU拓扑编排 3 可快速部署 自动故障检测2 存储和接口性能高 1 内置6pcsNVMe盘 带宽最高可达24GB s的NVMe盘 2 支持PCIe3 0 x16LP卡 满足InfiniBandEDR互连 P1 PI1 F1 HPC DL 金融计算 基因科学 加速搜索 图像处理 特点 8 P100 P40 8 VU9P 16 P4 1 ClicktoaddTitle 异构计算服务器市场定位和发展 ClicktoaddTitle 2 G系列服务器产品介绍 4 异构计算服务器应用案例 ClicktoaddTitle 3 应用场景和典型配置 目录 助力汇丰银行建设人脸出入系统 G2500视频分析服务器 华为人脸智能分析解决方案 人脸识别算法 华为和商汤联合发布业界密度最高的人脸识别解决方案 方案情况 1 G2500 16 P4 商汤人脸识别优化算法高性能地执行人脸检测 跟踪 关键点定位 特征提取等任务最大支持224路高清视频流的实时人脸识别分析适配场景 人脸分析 布控 抓拍库检索 图片存储安全 交通 企业 教育等行业 华为云GPU和FPGA服务化实例 8 P100 Bandwidth带宽 NVLink 预计2018Q2 P1 GPUCalculateAcceleratedCloudServer GPU计算加速云服务器 PI1 GPUInferenceAcceleratedCloudServer GPU推理加速云服务器 FP1 FPGAAcceleratedCloudServer FPGA加速云服务器 16 P4 INT8computingpowerINT8计算能力 16 22T 8 VU9P G5500 G5608 P100 G5500 双节点G530V216 P4 G5500 G5608 FPGA VU9P 助力上海科技大学开展电镜三维重构科研 华为提供基于IntelX86架构以及CUDA编程框架下的GPU高性能服务器构建的高性能混合计算集群 双精度理论峰值355 4TFlopsxx台G5500服务器 采用NVIDIATeslaGPU 双精度计算峰值235TFLOPS 单精度计算峰值368TFLOPS G5500vsInspurNF5288M5 AGX 2 Inspur NF5288M5 AGX 2 1 2U 8GPU PCIe和NVLink 不同扩展板 2 2P 16DIMM CPU支持Scalable 最大功耗165W3 6 2 5U 2 2 M 2PCIe SATAonboard4 2 PCIex16LP 前面板 4 PCIex16LP NVLink时后面板出 PCIe时无此接口 3 5 80风扇内置 或者10个单层风扇 4 2 3000W电源 1 15 环境温度 5 35 说明 1 电源模块在前面插拔 电源线从后面接入 Inspur NF5288M5 AGX 2 G5500vsSuperMicroSYS 4028GR TRT2 SuperMicro SYS 4028GR TRT2 GPU PCIex16 24 SAS SATA 2 10GE GE电口 4 2000W电源 主要规格 1 4U 8GPU2 2P 24DIMM 3 PCIex16 1 PCIeX8 24 SAS SATA2 5 硬盘3 8 92风扇内置4 4 2000W电