液冷 GPU 服务器助推生成式 AI 跑出加速度-坤前计算机技术中心总经理

液冷GPU服务器助推生成式AI跑出加速度人工智能产业规模据IDC数据，2022年全球人工智能收入同比增长美元，包括软件、硬件和服务。2023年ChatGPT的爆火更为AI市场带来全新的机遇和高并发的数据计算无处不在，GPU在训练负载中具杂环境的芯片将更受关注。人工智能应用层知识图谱计算机视觉人工智能应用层知识图谱计算机视觉语音识别自然语言处理机器学习人工智能用户层人工智能用户层城市公共事业企业级客户消费者AIAI＋泛安防AI＋金融AI＋泛互联网系统AI＋工业AI＋零售对话式AI人人工智能基础层AI训练框架商用版AI应用模型效率化生产平台AI开发平台人人工智能技术层硬件基础设施层硬件基础设施层数据存储设施物联网与微型传感器通信与信息网络生成式AI的兴起不同于区分式AI，生成式AI是一种利用算法自动生成、操纵或合成数据的技术，能够创造出原本不存在的事而训练生成式AI模型是一项复杂任务，一般分为四个步骤：数据收集数据预处理模型选择模型训练这个过程需要大量计算资源和时间，必将引爆新一轮的算力需求。生成式AI训练-生成工作流人脸生成图像修复风格迁移音乐创作小人脸生成图像修复风格迁移音乐创作小说创作新闻编辑知识科普剧情设计地图设计角色生成药物研发细胞结构预测编程教育图形图像图形图像戏开发育ServerProductSegment/UseCasesProcessorVGAGen3•NextGen全面升级支持rdGenIntelServerProductSegment/UseCasesProcessorVGAGen3•NextGen全面升级支持rdGenIntelFamily2路机塔换式4GPU优化•3rdGenerationIntel®Xeon®ScalableProcessors•••••2ndGenerationIntel®Xeon®ScalableProcessors8×3.5”drivesdual10GbE适用于面向对空间部署和高性能有要求的高性能计算、高端图形工作站等应用场景适用于图形渲染、深度学习、天体物理、化学分子计算、云计算和虚拟化、计算密集型行业或应用适用于面向对空间部署和高性能有要求的高性能计算、高端图形工作站等应用场景2路4U机架8GPU优化•••••2ndGenerationIntel®Xeon®ScalableProcessors24×2.5”/3.5”drivesdual10GbE2000W2+2/1200W冗余电源••3rdGenerationIntel®Xeon®ScalableProcessors全面升级支持Family2路塔式服务器••InDevelopmentShippingKey:人工智能研发路线图2022022202320212020FamilyFamilyPlanningPlanning/NextGen坤前训练/推理服务器••••KI2212-MK2服务器是一款为满足资源密集型应用开发的，基于新一代英特尔®至强®可扩展处理器平台设计开发的2U机架式服务器。模块化设计提高了产品的灵活性和易用性，适合更多弹性部署。•••••采用基于IntelC622系列芯片组的双路服务器，支持双路的英特尔®至强®可扩展系列处理器；处理器支持更多核心，支持AVX-512指令集处理器之间采用更多、更快的UPI总线，大幅提升CPU之间协作效率；最大支持16DIMM，大幅提高内存带宽，更加适合图形渲染、多媒体编辑等处理工作；最大支持12个3.5寸热插拔存储盘位，前置3.5寸盘可免工具安装；最大支持3个PCIe4.0×16Slots、3个PCIe4.0×8Slots；坤前模型训练服务器坤前KI4200G系列服务器是一款为满足对空间部署和高性能要求的高端图形工作站/服务器产品。基于英特尔®至强®可扩展处理器平台设计开发的4U双路机架式GPU服务器。在4U高度空间中可支持8片双宽或者20片单宽图形计算加速卡，该产品体现了性能、扩展性和密度的完美融合。••••••最大支持2颗新一代英特尔®至强®可扩展处理器，可提供强大的计算能力最大支持24DIMM，6TB3DSECCDIMM/LRDIMMDDR42933MHz内存，大幅提高内存带宽；最大支持24个3.5寸或者24个2.5寸热插拔存储盘位；最大支持8片双宽或者20片单宽业界主流专业GPU加速卡；GPU计算集群提供了高密度、高性能的节点平台，适合多种应用需求标配；2000W2＋2冗余电源；坤前AI图形工作站坤前KI4208G服务器是一款为满足对空间部署和高性能要求的高端图形工作站产品。基于英特尔®至强®可扩展处理器，以及澜起-津逮系列处理器平台设计开发的塔式GPU服务器。在塔式空间中支持4片双宽NVIDIA图形计算加速卡，该产品体现了性能、扩展性和密度的完美融合。•••••••采用IntelC621A芯片组设计，提供了强大的系统IO带宽；具备超强的专业显卡扩展能力，保证系统在高配置下的散热和稳定；最大支持双路英特尔®至强®可扩展处理器；最大支持16DIMM，使用最新高性能内存，显著提高内存读写速率；最大支持8个3.5寸热插拔存储盘位；可支持4片双宽业界主流NVIDIA或IntelPhi专业GPU图形计算加速卡；配合专业的机箱设计，保证系统在高配置下的散热和稳定的同时，可有效降低机器噪音。坤前边缘计算服务器u全新一代坤前KI2200E采用英特尔®新一代至强®可扩展处理器平台设计开发的2U双路超短机箱设计的边缘计算一体。u该机器采用异构计算架构，结合PCIe4.0高速协议，让用户体验异构计算与PCIe带宽，带来的高速计算效能，并实现客户的各种定制化需求•采用IntelC621A芯片组，支持两颗英特尔®第三代至强®可扩展系列处理器；•8DIMM内存插槽，采用ECCDDR4设计速度高达3200MT/s，提高内存读写速率；•采用PCI-E4.0协议，x16双向带宽达到了64GB/s，以更高的速度完成总线数据传输；•最大支持4片单宽半高业界主流的异构计算卡，实现对边缘端计算应用的需求；•550W1+1高能效比冗余电源；坤前边缘计算服务器坤前KI2204E是一款基于新一代英特尔至强可扩展处理器的双路2U计算服务器，采用智能散热系统，根据热关键器件温度综合调节风扇转速，节能的同时降低了噪音并提高风扇的可靠性.•最大支持2颗英特尔®至强®可扩展处理器，可提供强大的计算能力；•支持16DIMMDDR4内存插槽，最高可支持2933Mhz；•支持6个PCIE3.0扩展槽，性能更高，扩展性更强；•最大支持4片单宽半高业界主流的GPU计算加速卡，实现对边缘端计算应用的需求；•集成双千兆网络端口，支持链路汇聚以及绑定冗余功能，适合多种应用需求；•标配550W1＋1冗余电源；•超短机箱【450mm(长)×438mm(宽)×88mm(高)】坤前边缘计算服务器坤前KI4208E是一款基于新一代英特尔®至强®可扩展处理器，设计开发的双路高性能边缘计算产品。适用于面向智能制造、机器视觉的视觉分析、高端图形工作站等应用场景；例如：机器视觉、虚拟现•支持双路的英特尔®至强®可扩展系列处理器；支持更多核心，采用更多、更快的UPI总线，大幅提升CPU之间协作效率；•可选SASRAID卡，支持RAID0/1/5/6/50/60，支持Cache超级电容保护，提供RAID状态迁移、RAID配置记忆等功能；•最大8DIMM内存插槽，2TB3DSECCLRDIMM/RDIMMDDR43200MHz，使用最新高性能内存，显著提高内存读写速率；•提供4个PCIe4.0×16的扩展支持，最大支持2片双宽或4张单宽专业图形卡及计算加速卡；•集成双千兆RJ45网络端口，支持链路汇聚以及绑定冗余功能；坤前AI集群管理平台车牌识别身份证识别驾驶证识别车牌识别身份证识别驾驶证识别生产制造经营管理运维服务研发设计模型仿真模型设计数字化运营供应链管理车牌支付车流分析安全防范智能客服智能风控智能监控高性能计算智能催收智能营销ETCETC安全卸油预计20262021年2020年预计20262021年2020年数据中心耗能现状随着由ChatGPT开启的生成式AI技术和产品持续落更高的要求。实现绿色计算目标。PUE=数据中心总耗电/IT设备耗电大型及以上数据中心机架数量将达到802万个大型及以上数据中心机架数量达到498万个从风冷到液冷噪噪音水平降低25-30分贝 噪音水平噪音水平更低耗电量节省30%-50% 耗电量耗电耗能更省导热能力25倍 导热能力温度传递更快带走热量3000倍 带走热量热量带走更多效率，更低能耗，是当下应对生成式AI、超密度计算的高算力缺口和“功耗墙”后期维护较风冷而言更复杂全新液冷GPU服务器载下的稳定运行。18*18*DDR4IntelXeon12*3.5寸2*12*3.5寸4*PCIe4.0*167*USB3.02*PCle7*USB3.01*M.281*M.2(可选配1200W1+1)RAID0/1/5/6/50/60更好更快更环保量等●性能卓越稳定高效著图形渲染、多媒体编辑等处理工作更好更快更环保ü可实现第三代英特尔®至强®可扩展处理器平台250W以上的散热需求降低约25分贝与节能环保的完美融合灵活坤前助力某人工智能公司生成式AI开发性能、存储扩展性与节能环保的完美融合。法训练速度。Ø满足了飞速增长的训练算力需求，保障了客户项目的开发进度；坤前助力某研究院科研工作提质增效Ø科研工作需要更加智能化及快速的计算集群，硬件设备的提升迫在眉睫；需要搭配高扩展性的存储空间；系统反应速度；针对客户现阶段所面临的挑战，坤前选用液冷GPU服务器KI4200GLC构建核心算力集群，坤前KI4200GLC是专为计算密集型行业所设计，在提高了性能的同时，极大程度降低了数据中心的碳排放，可以高效为各类云端工作负载提供加速，强大的计算能力提供了卓越的性能输出。同时坤前选用4U存储服务器KI4236MS构建专业存储集群，坤前KI4236MS是一款灵活高效的企业级存储服务器，支持36个3.5寸热插拔硬盘，实现了最高576TB海量存储空间，将存储性能、可拓展性、易维护性完美融合。迈向工业4.0坤前助力客户智能化转型uu统建立数据中心，以产前端大量实时图像分析与残次品图片二次存储的需求；二次存储的