版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
高校智慧教育解决方案目录目录纲领性政策2021.07教育部等六部门联合发布《关于推进教育新型基础设施建设构建高质量教育支撑体系的指导意见》纲领性政策2023.10教育部等六部门联合发布《算力基础设施高质量发展行动计划》高等教育2021.03教育部《高等学校数字校园建设规范(试行)》职业教育云化、智能化是教育行业信息化发展趋势数字校园数字校园智慧校园1.0智慧校园2.0技术架构多样,解决方案基本类似用户管理+服务教学+管理科研+实训学习应用SaaS常见架构与技术栈计费管理PaaS常见架构与技术栈安全管理REST应用服务器分布式缓存服务管理IaaS常见架构与技术栈资源管理系统虚拟化分布式存储关系型数据库NoSQL平台计算治理采集教育省级平台教育大平台数据建模模型训练机器学习分布式文件系统/数据库数据仓数据湖数据清洗数据管理数据融合智能终端采集可视/代码埋点数据人工导入学院学院白板云原生应用应用能力开放架构不变云原生应用应用能力开放全域数据库、主题库资源统一管理、灵活调度实验环境种类多,搭建时间数小时到数天不等,后期维护困难学校或学生购置硬件成本高,计算资源利用率低公开数据集零散,数据集较大本地难以存储;行业数据集较难获取针对不同算法框架的模型,所需要考虑的部署问题和方法都有所不同顶会workshop、论文投稿deadline实验室计算资源紧张,短期算力需求暴增本地开发环境不便于多人协作,影响学习进度专属云传统自建商业模式软硬件Capex一次买断,初始投入大,灵活性较差部署速度快;业务通常只有分钟级别灵活性高;按需伸缩集群规模生态不具备同步公有云应用市场能力可用性专业运维团队提供更高服务的可靠性,支持业务容灾部署可用性取决于基础设施条件和运维团队水平,实现容灾需要更高的成本付出可靠性可靠性受限客户机房或托管机房本身能力国内高校校级超算中心平台现状ChatGPT国内高校校级超算中心平台现状ChatGPT等人工智能爆火,加剧全国高校算力荒1华中师大1000万亿次2017年2南京大学896万亿次2016年3郑州大学800万亿次2017年4北京大学411万亿次2017年5大连理工350万亿次2016年6上海交大265万亿次2013年7南方科大245万亿次2016年8清华大学215万亿次2016年9中科大158万亿次2016年复旦大学112万亿次2015年西交大110万亿次2015年一流高校(原985)一流学科建设高校(原211)0存储空间(TB)3数据来源赛尔网络调研报告已建设校级算力平台未建设校级算力平台253B士Allocate1bittoeitherSupportformult使使用GPU最多的应用计算化学、物理、材异构加速分子动力学等应用大内存需求胖节点CAE、基因拼接、蛋白质分析等应用□场景□场景学□场景力/建筑信息模型/三维建模渲染数据密集型高性能计算数据密集型高性能计算□场景目录智算云基于公有云技术底座能力,打造超算、智算平台。本方案架构主要包括AI智算集群、超算集群、高速网络、通基础设施数据处理模型部署数据处理模型部署模型训练模型管理自动建模模型训练模型管理调度策略资源监控调度策略资源监控编译器并行环境编译器自动化部署运运维监控平台云主机裸金属云硬盘镜像服务对象存储VPC平台安全平台安全硬件基础设施硬件基础设施超算智算中心系统组成典型超算智算中心核心系统单元包含通用计算子系统、智能计算(AI)子系统和高性能计算(HPC)子系统。●超算计算节点和智能计算节点分别通过IB/RoCE网络等高速网络交换子系统进行高速互连;●集成多层次、多协议、多种数据保护模式的全闪存存储系统和高性能并行文件存储系统,以及配套的信息安全子系统和超算中心融合管理子系统。信息安全子系统超算中心融合管理子系统信息安全子系统(包含统一门户)全闪存存储子系统高性能文件存储子系统全闪存存储子系统高性能文件存储子系统训练节点推理节点数量:100台数量:20台边缘节点大模型网络架构大模型网络架构边缘接入优化边缘接入优化数据面优化数据面优化技术:RoCEv2。核心功能:模型并行训练参数同步,确保高效分技术:NVMeoverFabrics。设备型号:曙光RDMA网关。性能指标:带宽100GB/s。核心功能:训练数据高速读取,提升数据传输效核心功能:无人机/传感器数据回传,满足边缘设备的数据传输需求。存储架构存储架构性能指标:热层2000万IOPS,温层500GB/s带宽,冷层10GB/s顺序读写,满足不同数据存储需求。存储层级:热层采用华为Dorado8000NVMeSSD,温层采用曙光ParaStor500KHDD,冷层采用阿里云OSS冷存储。数据类型:热层存储训练数据集和模型Checkpoint,温层存储历史巡检影像和SCADA数据,冷层存储归档模型和十年期数据。配置:1PBNVMeSSD。数据类型:训练数据集/模型Checkpoint。性能指标:2000万IOPS。应用场景:满足高频访问和快速读写需求。温层存储产品:曙光ParaStor500K。配置:5PBHDD。数据类型:历史巡检影像/SCADA数据。性能指标:500GB/s带宽。应用场景:存储中等访问频率的数据。性能指标:10GB/s顺序读写。应用场景:长期数据归档和备份。安全架构设计数据安全数据安全安全架构安全架构措施:训练数据溯源+模型水印(防篡改)。模型安全模型安全昇腾910B验证组件:昇腾910B。测试结果:-40℃~70℃稳定运行,满合规性合规性测试结果:TensorFlow模型迁移成功率95%,适配国产深度学习框架。麒麟OS验证测试结果:适配SCADA/EMS系统,确保操作系统与电力业务系统的兼容性。运维专网自自带外管理各服务器管理汇聚交换机带内管理管理节点宿主机宿主机交换机专线接入公网接入接入路由器*2接入路由器*2业务汇聚交换机业务汇聚交换机交换机存储leaf交换机leaf交换机整套网络分为超高速计算网络和业务网络、管理网络三部分。超算节点、智算节点以及并行文件存储均采用超高速网络。Fat-Tree(●可灵活配置为非阻塞线速或1/N线速超算平台详细组网架构设计说明交换机(10GE)以物理机形态提供,上层部署超算平台,由超算平台统一管理集群间采用单口100GRDMA高速无损网络互联,业务采用万兆双交换机(10GE)智算平台详细组网架构业务节点底层基于裸金属,单独配置管理节点(管理域)用于部署智算管理平台,另配置超算裸金属管理节点。每台裸金属均支持VPC+高速无损网络。通过2*25GE上联至裸金属TOR,作为业务网络。并行文件存储及对象存储组网架构●●混闪并行文件存储采用2*100GRDMA高速无损网卡上●全闪采用2*100GRDMA高速无损网卡上联,2*25GE上联存储交换机并接入存储小核心供昇腾910B使用。●对象存储及四层负载均衡设备均采用4*10GE上联至万兆业务交换机。●并行文件存储管理网采用两口千兆网卡上联至管理交换机。对象存储管理网采用千兆管理网。换机换(25GE换机●通用宿主机通过4*25GE(含计算、存储网)上联至计算TOR;●SDN管控节点2*25GE上联至计算TOR;DHCP节点2*25GE上联计算TOR,2*25GE上联至裸金属●块存储节点采用4*25GE上联至计算TOR;●块存储采用千兆管理网,其余管理网采用两口万兆网卡上联口通过软件管理系统来实现算力调度是高效利用算力资源的关键软件管理系统主要包含统一运营管理平台、HPC集群管理调度系统、AI平台调度系统、集群基础软件系统(操作系统、编译器、数学函数库),全方位支撑管理平台软硬件系统。的入口,使其可以方便访问各种资源和服务。实现用户、项●针对集群打造一体化集群操作系统平台,主要包含集群管理与作业调度系统、综合监控管理平台、调度资源管理、●基础AI研发平台,提供丰富的算力资源、训练数据、各种算法框架和研发工具,支持分布式训练和自动学习,打通高效易用的调度管理平台核心模块核心模块容器服务容器服务AI/HPC/通用行业用户弹性计算弹性计算AI+视频|自动驾驶|智慧医疗|元宇宙|多媒体渲染|大模型训练使能框架使能框架原生资源+组网AI使能平台智算运营智算运营智算运维AI开发框架智算适配层软件跨架构编译器算力抽象运行时裸金属实例容器实例裸金属实例容器实例块存储文件存储对象存储运营管理模块能力能力调度运维管理模块算力管理模块算力管理容器网络管理虚拟机算力管理容器网络管理IaaS:基础设施即服务PaaS:平台即服务MaaS:模型即服务[2]身,无需关心应用、平台、基础设高效、低成本的模型使用智算、超算平台配置示例备注学科科研算法自研、开源、商用Al智算平台AI模型研发、Al教学实训九天智算平台、行业生态伙伴调度平台集群管理调度系统算力平台GPU云主机/GPU裸金属务计算云容器引擎更加细粒度调度,需要应用支持容器化部署数据存储提供原始数据的归档存储,降低成本文件存储通用算力场景,更稳定并行文件存储计算+调度系统算力、集群调度部署开源调度引擎网络公网带宽/云专线算力之间互联、数据交互网络算力混合组网安全云安全中心按需九天大模型基于公有云技术底座能力,联合九天共同构建智算平台,提供从数据处理、模型训练到推理应用的一站式全流程AI开发服务,为大模型、数字人、智能质检、智能客服等AI能力及应用提供研发环境、工具和平台,助力人工智能技术与应用场景的深度融合。舆情身份票据识别核身视频视频视频平台模型训练模型训练推理平台推理平台硬件基础设施硬件基础设施九天智算平台:训练平台九天训练平台平台训练模块提供丰富的算力资源、训练数据、齐全的算法框架和研发工具,支持单机和分布式等多种训练模式。训练平台核心功能自定义铺像单机训练自定义铺像单机训练平台认证盖权平台运维训练集群华为昇腾/寒武纪MLU/海光DCU/训练集群华为昇腾/寒武纪MLU/海光DCU/…高速网络分布式存储九天智算平台:推理模块九天推理模块沉淀优秀共性的Al能力,研发测试双环境保障服务低成本迁移,可灵活组合形成复合A能力,提升AI应用的开发和部署效率。早早核心功能开放能力内容审核人验识别人体与行为分析云边协同边爆节点管理边爆节点管理边云消息指标监控云边协网云边协网节点认证注册节点安全管理边云消息处理终端设备工业制造终端终端设备工业制造终端零代码全流程可视化决策性分析诊断分析家宽推荐闭环服务预测性分析决策性分析诊断分析家宽推荐闭环服务预测性分析描述性分析探索性分析模型应用推理部署数据探索统计分析数据探索统计分析时序/地域分析聚类分析公有云数据本地数据数据转换云原生云原生模型训练模型训练算法组件超参自动调优模型可视化模型验证应用实验分享任务调度实验分享任务调度权限管理特征相关性特征编码特征衍生分布式存储分布式存储目录群、高性能存储集群、安全中心、云管平台、运维平台等●提供24.6PFLOPS单精度算力(FP32),9.1PFLOPS双精度算力(FP64),高速网络采用800Gbps带宽,并行文件存储达17.2PB。平台安全 物理机直管裸金属服务(异构纳管)通用 通用胖节点纳语2路CPU4路CPUA800DCU通用云计算节点关系 (1)实现算力统一门户。将超算能力与智算能力结合,实现数据模型训练到模型推理及验证的无缝衔接。(2)AI智算集群、超算集群、高速网络,组建高效科研环境。有效提升浙江大学科研实训效率,满足广大师生的数字化需求。建设方案建设方案存司共享POD共享POD计算POD目目录工平工平具具台文心大模型对话PLATO-XL搜索ERNIE-Search单序列蛋白质结构预测视觉处理视觉表征学习硬件教学实训考核教材资源AI对话文心一言支持数据处理、算法开发、模型训练、模型部署的全流程业务,提供Notebook、零代码可视化托拉拽、AutoML等多种建一站式应用开发生产平台选修改参数选Ancher尺度(cale)田田田田m自定义代码和参数修改因配置增件提供可视化建模功能,能降低模型研发门槛,支持快速实现模型搭建精确率mAPO(0.50.050.95)IOU考试认证服务师资培训服务考试认证服务师资培训服务竞赛游学服务竞赛游学服务就业推荐服务最全面、最落地的最开放,最安全的持续先进的一最全温A平一最全温A平血.不鸡楼心技术责献始开源区,同布开放,慕用安全的大自据平台.计算.办床,容器.同绝安全等基础产品.技术持续创新领先基于百度智能云产品、技术和企基于百度智能云产品、技术和企业案例,提供人工智能领域实战环境和课程,围绕教学、认证、实践、比赛、就业等环节,构建产教融合的人才培养体系,为中国智能经济和智能课程资源通用模型专有模型智能硬件智能硬件模型构建人工智能体系化课程人工智能体系化课程讯飞大模型基于公有云技术底座能力,联合科大讯飞共同构建超算智算平台。本方案架构主要包括底层算力集群、星火智算平台等。是面向运营商、高校、科研院所及企业等客户群体,提供通用AI训练、行业大模型训练及推理、开发服务为一体的通用人工智能“AI+讯飞大模型通用通用AI训练平台评测评测平台数据处理平台操作系统异构芯片异构计算框架异构芯片核心效果全面领先多个行业
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 购买大棚钢管合同
- 购买鱼类合同模板
- 购买液氧罐买卖合同
- 代办特种设备业务合同
- 配液系统购买合同
- 购买涂料材料合同
- 购买自建房套房合同
- 购买洒水车合同书
- 恒大商铺购买合同
- 煤炭购买定金合同
- 小儿柴胡退热颗粒课件
- 年产5万吨丙酸工艺设计
- 2025年picc置管与维护临床护理实践指南
- 文化赛事管理办法
- 2025年浙江省中考科学试题卷(含答案解析)
- 2025届广东省广州市荔湾区真光中学高一物理第二学期期末学业质量监测试题含解析
- 2025年高考真题-生物(四川卷) 含答案
- 检验表4.43 浆砌石、灌砌石挡墙浆砌体单元工程施工质量检验表
- 施工防洪防汛管理制度
- 白细胞瘀滞症诊疗研究进展
- 运动处方考试题库及答案
评论
0/150
提交评论