版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
智慧校园大数据平台建设和运营整体
解
决
方
案
目录
1、大数据平台方案概述...............................................1
1.1、建设现状.................................................2
1.2,发展趋势.................................................3
1.3,智慧校园.................................................5
1.4、运营服务.................................................8
2、需求分析........................................................11
3、大数据平台方案设计..............................................12
3.1建设原则..............................................12
3.2总体方案设计..........................................14
3.2.1自主可控的教育云技术架构.......................14
3.2.2数据中心总体架构规划...........................16
3.3云计算平台建设.......................................19
3.3.1计算资源池建设................................19
3.3.1.1项目需求...............................19
3.3.1.2X86虚拟化实现.........................20
3.3.1.3计算资源池分区建设.....................28
3.3.2基于物理机部署的业务大数据平台方案.............31
3.3.3数据库大数据平台方案建设.......................31
3.3.3.1项目需求................................31
3.3.3.2数据库大数据平台方案建设...............32
3.3.4存储资源池建设.................................34
3.3.4.1项目需求................................34
3.3.4.2存储分类................................35
3.3.4.3数据库存储大数据平台方案建设方案........36
3.3.5大数据平台方案设计.............................36
3.3.5.1基于虚拟化机头的存储虚拟化方案说明......36
3.3.5.2存储虚拟化工作原理和技术实现说明.......38
3.3.5.3虚拟化机头的基本概念....................39
3.3.5.4虚拟化机头的工作原理....................40
3.3.5.5虚拟化机头的可靠性、可用性..............45
3.3.6云管理平台建设.................................57
3.3.6.1项目需求................................57
3.3.6.2云管理平台架构设计.....................58
3.3.6.3云管理平台全方位的管理.................61
3.3.6.4云资源管理.............................61
3.3.6.5服务管理...............................61
3.3.6.7运维管理...............................62
3.3.6.8统一时钟...............................62
3.3.6.9云管理平台特性描述.....................62
3.4、智能电控系统............................................68
3.4.1、建设背景.........................................68
3.4.2、系统拓扑.........................................69
3.4.3、系统功能.........................................70
3.5、智能传感系统............................................73
3.5.1、建设背景.........................................73
3.5.2、设计原则.........................................74
3.5.3、系统功能.........................................76
3.6、教学督导系统............................................77
3.6.1、概要目标.........................................77
3.6.2、设计原则.........................................78
3.6.3、系统功能.........................................81
3.7、校园访客系统............................................84
3.7.1、建设背景.........................................84
3.7.2、设计原则.........................................85
3.7.3、系统功能.........................................86
3.7.4、系统效益.........................................89
3.8、校园安防系统............................................91
3.8.1、建设背景............................................91
3.8.2、设计原则.............................................92
3.8.3、系统功能.............................................94
3.9、云智慧校园综合管理平台......................................98
3.9.1、平台介绍.............................................98
3.9.2、设计原则............................................100
3.9.3、组成结构............................................103
3.9.4、功能框架............................................107
3.9.5、平台功能............................................108
3.9.5.1,平台配置.....................................108
3.9.5.2、组织用户.....................................110
3.9.5.3,设备管理.....................................112
3.9.5.4、报警管理.....................................116
3.9.5.5,地图管理.....................................118
3.9.5.6、服务运维.....................................119
3.9.5.7,数据挖掘......................................121
3.9,5.8、日常操作......................................122
3.9.5.9、日志统计......................................151
4、配置清单............................................................152
1、大数据平台方案概述
智慧校园大数据建设是信息技术背景下学校的一项基础
性、长期性和经常性的工作,是学校建设和人才培养的重要
组成部分。智慧校园大数据的建设水平是学校整体办学水平、
学校形象和地位的重要标志。基于云计算、大数据、HPC的
智慧校园大数据建设是为了配合学校的整体变革,提高学校
核心竞争力,以期达到从分散应用向集中应用转化,从固定
服务向个性化服务转化,从部门级应用向校级应用转化,从
信息管理向信息服务转化。
为了充分发挥xx市教育云平台教育信息管理、教育资源
共享、远程教育教学、服务家庭社区功能,在进行云平台整
体架构设计过程中依据云平台不同的功能层次,将架构
分为三大部分:云平台基础设施,云平台应用系统和云空间。
基础设施作为云平台的底层构建基础,包含教育城域网、
云数据中心与云平台支撑环境。为云平台上层应用提供计
算资源、存储资源与网络资源。
云平台应用系统作为各项教育教学和管理活动的载体,
为教育云平台的高效使用,教育教学数据的收集,智慧校园
大数据分析利用提供软件保障。
云空间面向个人,学校和区域三种主要角色提供集教学
应用、教学内容、教学工具、教学交流于一体的可定制可编
〜第1页〜
辑的个性化信息门户。
云平台基础设施,云平台应用系统和云空间作为有机的
整体,通过云平台基础设施对云平台应用系统和云空间提供
硬件和网
以“物联网”、“云计算”、“大数据”等技术为支撑,通过
3-5年的建设,搭建“一个中心、三张网络、四大体系”即:
一个中心一一权威可信的数据中心;三张网络一一有线网、
无线网、物联网;四大体系一一智能化的教学体系、高效灵
活的管理体系、以人为本的服务体系、稳定可靠的安全和保
障体系。使之成为促进我校教育内容、教学手段和方法的现
代化支柱,创新人才培养、科学研究和服务社会模式,推动
文化传承创新,促进教育教学质量全面提高。
1.1、建设现状
在XXX高校,校园建设经历了校园智能化硬件建设阶段,综合信
息系统(数字化)建设阶段,网络教学(含远程教学)实验阶段等初
期建设,在经过数字化、智能化校园建设已初具规模。但我们也应当
清醒地认识到,在数字化、智能化校园的建设过程中,尚存在着一些
观念和建设上的问题亟待解决。
智慧校园系统集成管理平台的建设是为了解决校园内各应用
系统数据标准不一、平台相互独立,校园的信息系统利用率低、操
作繁琐、管理维护困难等问题,实现校园内资源的有效配置和高效利
〜第2页〜
用,提高教学、科研、管理、服务等工作效率。智慧校园管理平台规
划以“统一的数据标准、统一的技术路线、统一的业务规范、统一的
组织管理”的原则进行设计。以“综合运维管理、统一信息门户、统
一身份认证、统一数据资源共享”四大内容开展详细设计,深度体现
校园高效的管理、科学的决策、智能的服务,满足校园信息化、智能
化、科学化的发展之路。
1.2、发展趋势
随着科学技术的进步,科技服务于人的宗旨是不会改变的,各行
各业都在技术的发展带动下发生了从流程与环节到服务与品质的巨
大变化,从以往的室外信息一体化,到如今的室内位置信息分析,都
在为校园的新业态发展指导着前进的方向,今后智慧化的校园体系必
将成为主流,完善的管理体系、安全的防护体系以及丰富的交流体系
会大大地增加人们对校园的信任与认可。
从数字校园到智慧校园的发展是以人为本理念在校园领域深入
实践和物联网等新技术在校园应用普及的必然结果,是校园信息化建
设的发展趋势,我们提出了智慧校园=数字校园+物联网+云计算的智
慧校园发展模式,势必将极大地推进“以数字为中心”的数字校园向
“以人为中心”的智慧校园的发展。
数据集中:建立统一的数据库/数据仓库,集中管理共享数据,
达到存储安全、信息集中、高效利用的目标。
应用和服务集成:统一身份认证,统一数据交换,统一开发规范,
〜第3页〜
基于统一应用构建平台快速配置业务系统。
开放性和标准化:为了满足系统所选用的技术和设备,遵循统一
的国际标准和工业标准,来保证系统的开发性和标准化,能够支持不
同厂商的产品互换。
可靠性:应用系统整合平台投入运行后,平台的可靠性和成熟度
至关重要,系统采用比较成熟而稳定的技术与合适的系统平台。
〜第4页〜
1.3、智慧校园
作为新世纪新型的学校模式,智慧校园是校园信息化和安全建设
的高级阶段。是以数字化的方式来体现我们的工作、学习、交流与管
理的校园生活,是一种全新的生活学习和管理模式。因此需要一种新
型的智慧校园系统,实现学生管理、校园监控、消费管理和教学管理
的无缝融合。
同时校园存在面积大、场地分散、管理人员少、校内人数多、学
生安全防范意识差等特点,学校中的教学楼、食堂、运动场、实验室
等公共场合都存在着不同程度的安全隐患。
由此可见,传统的学生入校管理、校园监控和应急方式难以适应
新形势下校园建设的需求,因此需要建设一种基于位置的、通过网络
的、紧密贴合校园教学管理需求的校园综合系统。
〜第5页〜
♦创新的交互体制
利用室内位置定位的技术,实现学校、老师与家长、学生远距离
交互,从学生乘坐校车至校园进门到教室,然后参加学习、活动、考
试,这些信息都通过交互的形式推送到各个平台以供学校、家长、老
师了解。
•缩短校内与校外的物理距离
•更贴心地关注形式
•对孩子校园生活信息的全面了解
•学校、老师与家长的交流突破时间与空间的约束
♦科学的分析与优化
通过收集到的详细实时信息,对校园展览的既定流程、计划安排、
设施的使用情况进行实时的数据展示,并根据所展示出的信息对流程、
计划和设施的使用安排作出科学的调整。
同时,利用信息收集分析所得到的结果,对校园内整体的客流情
况进行把控,及时做出相应调整,利用科学有效的数据进行管理及分
析工作。
•了解校园整体的人流情况
•掌握校园师生的动态
•了解学生参与活动的偏好与动态
•建立完善的学生资料库
〜第6页〜
♦有效服务
与提升服务相关的各种策略方法都使用过,行之有效的微乎其微,
主要的难点不是在于服务理念的不完善,更多的问题往往在于对于信
息的把控是否及时?服务的对象需求点是否明确?以及服务的内容
是否贴切被服务者当前的需求,而这往往都是滞后的。
•根据收集到的信息独立化提供服务
•完善服务、活动反馈机制,了解真实需求
•每一次服务、活动都进行记录,从数据中建立模式
♦详尽的了解问题所在
智慧校园所面对的各种问题,随着技术的不断完善,旧的问题不
断被解决,新的问题也逐渐出现,前进的脚步从未停止,只需不断前
行,让问题通过数据表达,再返回通过数据去分析解决。
•校内资源是否存在浪费?
・学生对校内生活是否满意?
•学生认为哪些活动又有意义又受欢迎?
♦对于未知也要尽在掌握
一个良好的智慧体系不仅仅要体现出对于现状的分析与把握,针
对未来的发展趋势也一定要作出科学的判断与预测,在面对未知时要
有根据以往数据得出趋势预判的能力。
•通过APP推送发布与实事、焦点、甚至季节相关联的新闻
・针对兴趣点推送未来更丰富的活动信息
•基于自愿原则的基础上提供搜人导航
〜第7页〜
1.4、运营服务
智慧校园解决方案,是利用技术的创造与革新,利用它可以更好
的改善管理层的管理压力,可以提供学生更安全更丰富的校园生活,
为校园以及学生老师家长提供更高效、更便捷、更愉快的沟通与交互,
实现在校园内外,线上线下,从管理、生活、教学和沟通的极致体验
和效率,可以让所有参与者享受更灵活更活跃的交流互动。
一个可靠、具弹性的智慧体系正常运营需要具备4个重要特性:
第一,系统的目的必须明确一一即对结果的智慧预想;
其次,系统中的要素要紧密联系,数据的交换很重要;
第三,管理人员对系统和关键组件的状态有持续、有力的掌握;
最后,系统必须能适应环境的变化。
解决方案针对不同需求体提供多样化服务:
♦校园综合管理
>绘制校园内电子地图(2D/3D)
>在校园环境内全部覆盖WiFi无线网络
>实时掌握、了解每个人、每幢楼的位置信息
>可视化显示校园内人群实时分布热点
>保障校内学生安全,对公交位置、学生乘坐情况实时监控实现校
门家门安全对接
>提供家长交流的平台,让家长知道学生更多在校情况
>结合线下到线上提供交互式体验,丰富校园生活
>提供无线校园与校园内部及各类设施线路导航
〜第8页〜
>实时、无线的智能考勤
>会议管理和智能签到
>远程控制电源开关
>家长短信互动交流
>各种信息统计和分析
>水电与实验室的监控,实现校园路灯控制、消防系统、中央空调节
能管理等,规范校园管理
♦校园安保管理
>安保巡逻路线、时间的智能监督
>人员、车辆和物件的移动轨迹查询
>资产的位置、状态的实时监控
>导向停车、车辆位置查询及智能防盗
>访客定位跟踪和异常报警
>异常情况的主动视频联动及录制
>限定区域使用的涉密U盘
>校园边界非法进入的智能监控
♦师生
>提供校园建筑导航、教室与公共设施引导
>发布教学、成绩查询、课程查询、作业提交与修改、考试阅卷等
>进行签到、考勤、逃学、逃课检测
>提供危险区域自动警报
>实现门禁、钥匙、学生证、图书证、饭卡等集一体于APP
〜第9页〜
>提供信息、宣传、重大活动、校园活动、社团活动的统一发布平
介
>基于特定位置的信息推送服务
>校园内停车位的双向导航
>对闲置教室、兴趣书籍的信息推送
>对于相同兴趣的学生个体提供交流平台
♦家长
>能查询孩子到校、离校、成绩、备忘录等信息
>能与老师通过APP进行沟通,及时了解孩子信息
>实时观察孩子在校园内的位置
•目标服务群体:
•教育行业管理人群
•校园整体决策者
•校园日常管理者
•老师
•学生
•家长
〜第10页〜
2、需求分析
1、建设适度超前的信息化基础设施,实现基础设施环保、
节能、智能化服务等高级功能
构建集多业务为一体的“云”校园网大数据平台方案。
基于“物联网”技术,对数据中心资产、设备、能源调度等
实现数字化、智能化的跟踪监控管理,实现全方位数据中心
机房内动态监视,机柜内智能监控并实现联网报警,并最终
统一到数据中心机群管理软件上,实现可视化数据跟踪和监
控管理。最终以基础架构。
2、搭建基础支撑平台,完善公共服务“云”平台
实现平台就是服务,通过统一WEB服务窗口,基础设施
即可实现计算资源、存储资源、应用大数据平台方案等资源
的全自动云计算技术智能化管理和一站式提供服务。
3、建立“HPC“高性能计算平台
以学校使用为主,满足当前物理、化学材料分析方面的
高性能计算服务,资源可通过统一云运营平台渠道可对外提
供收费计算服务。
4、建成高效节能的“云存储”数据中心
建设PB级并行云存储数据中心,服务与全院非结构化数
据、云计算数据、高性能计算数据集中统一存储、具有完善
的数据安全保障机制和数据恢复机制,为数据安全提供最后
〜第11页〜
一道安全防线,降低数据中心运维风险。以集中存储为基础,
为大数据分析挖掘做好数据准备,为学校“评估与决策”大
数据平台方案做好精细化数据管理服务。
5、建设统一身份认证平台
数据中心管理平台实现统一身份认证,云平台软件、高
性能平台、大数据平台、存储大数据平台方案需身份认证登
陆,实现平台使用的安全性。
6、建立大数据平台
以数据为支撑的评估与决策平台。建立好大数据软硬件
支撑平台,为实现信息管理向信息服务转化,利用深层次的
知识管理、大数据统计与分析、大数据挖掘等手段为评估与
决策服务,从整体上提升学校业务管理和行政决策的科学化
水平做好保障。
3、大数据平台方案设计
3.1建设原则
对高校教育信息化建设的总体部署和发展任务。从学校
发展的整体战略出发,与时俱进,满足师生对教学、科研、
管理、校园生活服务的需求,提升教育服务社会的职能。坚
持如下原则,实现我校信息化的可持续发展:
(1)坚持“统筹规划、分步实施”的原则。信息化建设
是一项跨部门、跨行业的综合性大数据平台方案工程,必须
〜第12页〜
坚持从学校全局的高度统一规划,各部门的相关业务和应用
大数据平台方案应统一部署,避免无序建设;要正确把握基
础设施与应用大数据平台方案、硬件与软件、专业数据与信
息共享、现实应用与扩展应用、成本与效益的关系。同时根
据实际情况分步、分期实施具体项目,保证规划的逐步落实。
(2)坚持“突出应用,注重实效”的原则。坚持以需求
为导向、大力推动信息技术在教学、科研、管理、校园生活
服务中的普遍运用,不断提高教育质量和教育管理服务水平。
同时避免全面铺开,要抓重点项目,提高有限建设资源的使
用效率。
(3)坚持“统一标准、资源共享”的原则。信息化建设
应参考国家及行业有关技术标准和管理规范,树立“开放、
共享、交互、协作”的信息化理念,坚持信息资源标准统一、
共建共享;建立信息资源共享交换体系和更新维护机制,确
保信息资源的规范性、时效性、准确性。
(4)坚持“面向服务、加深融合”的原则。树立以用户
为核心的服务理念,利用先进网络和信息技术,整合资源,
促进教育内容、教育手段和方法的现代化;促进人才培养、
科学研究、文化传承和社会服务模式创新,推进信息技术与
学校教育的深度融合。
〜第13页〜
3.2总体方案设计
3.2.1自主可控的教育云技术架构
智慧校园大数据一期工程的建设采用先进成熟的云计
算、虚拟化存储池等相关技术,建设新校区智慧校园大数据
的基础资源云平台,实现业务的统一管理、统一部署、自动
化运维等内容,为学校各业务大数据平台方案的运行提供良
好的信息化支撑能力。
基础
设施
X_____
基础资源云平台的总体技术架构设计如上图,整个架构
包括基础设施层、云基础架构层、业务应用平台和云服务层
等。其中:
基础设施层:云平台的物理环境主要包括服务器、网络
设备以及存储等设备,以便在此基础上采用虚拟化、分布式
存储等云计算技术,实现服务器、网络、存储的虚拟化,构
〜第14页〜
建计算资源池、存储资源池和网络资源池,实现基础设施等
服务。
云基础架构层:在云基础设施的基础上,为了实现动态
资源池的构建,通过虚拟化技术对基础设施(网络、服务器
和存储设备等)进行资源池化、弹性管理,通过自主可控的
云计算操作大数据平台方案,实现云平台的服务管理及业务
管理的统一管理,提高运维及运营的效率。
业务应用平台:通过建立统一的信息标准,构建统一的
信息门户、统一的身份认证大数据平台方案和安全可靠的公
共数据交换大数据平台方案,在此基础上建设先进实用的应
用支撑大数据平台方案(包括办公自动化、教务管理、科技
管理、学生综合管理、人力资源管理、资产设备管理、财务
管理、图书管理、学报管理、后勤服务管理、一卡通管理、
网络教学平台、实践教学信息平台、教学评估管理、研究生
管理、成教生管理与留学生管理等),实现各个应用大数据平
台方案之间的数据交换与数据共享,最终实现我校各项管理
工作的信息化。
云服务层:是云计算中心与最终用于交互的接口和平台,
通过该平台能够实现云计算中心统一对外提供服务,为用户
提供整体的云应用和服务。
运维和业务支撑服务:包括云平台的计费审计、资源监
控、生命周期管理、容量规划、报表分析等多项内容。
〜第15页〜
3.2.2数据中心总体架构规划
数据中心架构图
提应
[能耗监控|「菽园安全11智能教学I,智能办公HPC大数据111
统
云
资
一
源
运
统
维
一
管
管
理
理
平
台
平
数
台
据
存
储
层
本项目规划包含云计算平台、大数据处理硬件平台、高
性能计算硬件平台几大部分。其中,云计算平台包括业务云
平台、数据库集群大数据平台方案、物理机部署的应用大数
据平台方案以及后端支撑的存储资源池。
业务云平台主要支撑办公大数据平台方案、一卡通上层
应用大数据平台方案、学生管理大数据平台方案、0A、财务、
教务等教育相关的业务大数据平台方案。通过虚拟化等技术
提高业务的敏捷性,使得教育应用在资源利用上弹性可伸缩。
通过将业务与具体物理机解耦合,实现业务在计算资源池内
灵活迁移,不受具体物理机故障的影响。业务云的管理平台
让教育业务应用的部署更加方便快捷,管理更加方便,运维
工作也得到大大简化。
〜第16页〜
对于部分I/O密集型的关键数据库大数据平台方案,如
一卡通数据库、学校基础数据库大数据平台方案采用物理服
务器的方式进行部署。同时,为了保证关键数据库的高可用
性,数据库采用集群RAC的方式部署,服务器采用可靠性很
高的高端4路X86服务器。本项目规划的数据库集群包括一
卡通后端的数据库服务器、数字校园基础数据库大数据平台
方案以及二期考虑的教务大数据平台方案。
数据库大数据平台方案后端存储采用存储池化的方案,
实现后端数据的简易管理,统一使用,并实现关键业务数据
的高可用性。同时,部署虚拟带库备份大数据平台方案对这
些结构化数据进行备份,保证数据的安全性,并且采用物理
磁带库方式,提供对历史数据的归档保存,对于备份软件选
择,采用业绩成熟先进的统一备份软件,实现Lan-free备
份。
数据中心的非结构化存储资源池对智慧校园大数据中
的各类非结构化数据进行支撑,对非结构化数据按照其重要
性,采用分级保存的方法,对于包括校园内700个摄像头的
监控数据可存放30天的数据的存储空间采用大容量存储解
决方案,对于包括多媒体、一卡通、教务大数据平台方案、
图书馆、视频点播、HPC计算等需要的非结构化数据的存储
空间采用高性能非结构化存储空间解决方案。高性能非结构
化方案,采用集群文件大数据平台方案,提供统一的目录管
〜第17页〜
理,性能的负载均衡管理,集群支持横向扩展,当业务需要
的时候,可以在线的扩展集群。
〜第18页〜
3.3云计算平台建设
3.3.1计算资源池建设
3.3.1.1项目需求
计算资源池为教育各项业务应用提供灵活敏捷的计算
能力。由于业务云平台需要处理前端各类教育业务应用进
来的海量数据,因此需要大量的计算机节点。传统的计算
中心强调整体的计算能力,当前的互联网数据中心强调密
度、带宽等因素。而作为整个学校信息化大数据平台方案
后端处理中心的教育云中心需要的是强大的“处理能力”,
这个“处理能力”包含了计算能力、传输能力,甚至存储
能力。
同时,云计算的核心技术是虚拟化技术,CPU虚拟化技
术的原理是将核心的CPU运算资源基于时间分片进行切
分,CPU的选型就相当重要,因不同厂商的CPU之间是不能
做到一个虚拟化池的,因此整个平台如数据库4路平台,
和胖节点,及2路平台,建议采用一个厂商的CPU,并且考
虑到运行维护,以及采购来源,建议采用主流厂商,CPU厂
商建议采用在服务器市场占有率在70%以上的厂商。
其次,对云计算运营者来讲,在提供可靠服务的前提
下,通过大量先进技术降低总体拥有成本是云计算中心基
础架构建设的核心目标。因此,构建云计算中心的一个重
要标准就是利用标准化的、性价比高的通用部件或者产
〜第19页〜
品。因为,只有标准化、商品化的部件才有众多的采购来
源,并因为其具开放性,从而具有较低的运营成本。在虚
拟化服务器的选型上,既要考虑低部分的数据库类型需
求,和一般应用需求,所以少量的高端八路服务器作为云
资源池里面的胖节点,低端双路服务器相对成本较低适合
大量使用,项目建设应该权衡性价比、资源可扩展性、标
准化以及通用性等各项因素,因此,八路机架式服务器和
两路机架式服务器是作为虚拟化物理节点最好的选择,对
于OLTP数据库,需要很高的稳定性,建议采用模块化设计
的服务器,这样可以保证,任何部件损坏,可以快速维
修,并且主要板卡支持热插拔。
再次,云计算平台的重要特征之一是实现资源的抽象
和封装、构建动态化、弹性化的计算资源池,而虚拟化技
术和分层数据存储是实现并达到这一目标的重要手段。因
此,计算子大数据平台方案应该在虚拟化和分层数据存储
模型两个方面有较好的解决方案。
最后,除了具有通用性、标准化、资源池化等特征之外,
计算子大数据平台方案还应该具有易管理、低能耗的特征,
从而大大降低教育云中心的能耗、降低运维成本。
3.3.1.2X86虚拟化实现
X86服务器虚拟化,就是在硬件和操作大数据平台方案
之间引入虚拟化层,如下图。虚拟化层允许多个操作大数
〜第20页〜
据平台方案实例同时运行在一台物理服务器上,动态分区
和共享所有可用的物理资源,包括:CPU、内存、存储和
I/O设备。
随着服务器和台式机的计算能力急剧增加,虚拟化技
术应用广泛普及,很多用户已经在开发/测试、服务器整
合、数据中心优化和业务连续性方面证实了虚拟化的效
用。虚拟架构已经可以将操作大数据平台方案和应用从硬
件上分离出来,打包成独立的、可移动的虚拟机,从而带
来极大的灵活性。例如:可以通过虚拟架构,让服务器24
小时*365天运行,避免因为备份或服务器维护而带来的停
机。
对于X86虚拟化,有两种常见的架构:寄居架构和裸
金属架构。
1、寄居架构:将虚拟化层运行在操作大数据平台方案之
上,当作一个应用来运行,对硬件的支持很广泛。
2、裸金属架构:直接将虚拟化层运行在X86的硬件大数
据平台方案上,可以直接访问硬件资源,无需通过操作大
数据平台方案实现硬件访问,因此效率更高。
项目中建议采用性能更优的裸金属架构作为底层的虚拟化
架构。
3、虚拟化层
〜第21页〜
虚拟化层是运行在虚拟机监控器(VMM,Virtual
MachineMonitor)上面、负责管理所有虚拟机的软件。如
下图所示,虚拟化层就是Hypervisor(管理程序)直接运
行在硬件上,因此,Hypervisor的功能极大地取决于虚拟
化架构和实现。运行在Hypervisor(管理程序)上的每个
VMM进行了硬件抽取,负责运行传统的操作大数据平台方
案。每个VMM必须进行分区和CPU、内存和I/O设备的共
享,从而实现大数据平台方案的虚拟化。
图:Hypervisor通过VMM管理虚拟机
4、CPU虚拟化
根据最初设计,X86上的操作大数据平台方案需要直接
运行在裸机上,因此默认拥有和控制所有的硬件。如下图
所示,X86架构提供了四种特权级别Ring0、1、2和3,
通过这四种级别来控制和管理对硬件的访问。通常,用户
级的应用一般运行在Ring3级别,操作大数据平台方案需
要直接访问内存和硬件,需要在Ring0执行它的特权指
令。为了虚拟X86架构,需要在操作大数据平台方案下面
运行虚拟化层,由虚拟化层来创建和管理虚拟机,进行共
〜第22页〜
享资源分配。而有些敏感指令不能很好的进行虚拟化,它
们在Ring0以外级别执行时,会出现不同的结果。如何在
运行时捕获和翻译这些敏感指令成为X86虚拟化的一大挑
战,使得X86架构虚拟化最初难以实现。
Ring3
Ring2
直接执行
Ring1用户和操
作系统的
需求
Ring0
计算机系统硬件
图:X86架构虚拟化前的特权级别
到目前为止,有三种典型的技术来解决X86虚拟化的
难题:
5、完全虚拟化;
6、操作大数据平台方案帮助下的虚拟化,即半虚拟化;
7、硬件帮助的虚拟化。
8、完全虚拟化
完全虚拟化技术翻译核心指令来代替那些不能虚拟化
的指令,通过翻译后的指令直接访问虚拟硬件。同时,所
有用户级指令还是可以直接在CPU上执行来确保虚拟化的
性能。每个VMM为每个虚拟机提供完整的硬件支持服务,
包括虚拟BIOS、虚拟设备和虚拟内存管理。
〜第23页〜
完全虚拟化实现后,客户操作大数据平台方案可以通
过虚拟化层从物理硬件上完全抽取出来,客户操作大数据
平台方案感知不到是否发生虚拟化,完全不需进行修改。
完全虚拟化是迄今为止唯一不需硬件或操作大数据平台方
案协助来进行敏感和特权指令虚拟化的技术,Hypervisor
(管理程序)可以翻译所有的操作大数据平台方案特权指
令,并保存在缓存里备用,而用户级指令完全可以全速直
接执行。
完全虚拟化提供了最好的虚拟机隔离和安全性,简化
了客户操作大数据平台方案迁移和移植能力。
9、半虚拟化
半虚拟化需要修改操作大数据平台方案内核,替换掉
不能虚拟化的指令,通过超级调用(Hypercall)直接和底
层的虚拟化层Hypervisor来通讯,Hypervisor同时也提供
了超级调用接口来满足其他关键内核操作,比如内存管
理、中断和时间保持,如下图所示:
〜第24页〜
直接执
行用户
的请求
超级调用
虚拟化层
来替换不
可虚拟的
操作系统
指令
图:操作大数据平台方案协助的X86架构虚拟化
半虚拟化和全虚拟化不同,全虚拟化不需要修改上面
的操作大数据平台方案,敏感的操作大数据平台方案指令
可直接处理。半虚拟化的价值在于降低了虚拟化的损耗,
基于Xen的虚拟化是半虚拟化的代表,可通过修改Linux
的内核来实现CPU和内存的虚拟化,通过定制的操作大数
据平台方案驱动来实现I/O的虚拟化。
10、硬件辅助虚拟化
硬件厂商面对虚拟化投入了大量的精力来开发新的特
性用以简化虚拟化技术应用。第一代的虚拟化增强包括
IntelVirtualizationTechnology(VT-x)和AMD的AMD-
V,这两种技术都为CPU增加了新的执行模式root模式,
可以让VMM运行在root模式下,而root模式位于Ring0
的下面。如下图所示,特权和敏感指令自动在Hypervisor
上执行。客户操作大数据平台方案的状态保存在VT-x
(VirtualMachineControlStructure,虚拟机控制结
〜第25页〜
构)中或AMD-v(VirtualMachineControlBlock,虚拟机
控制块)。支持IntelVT和AMD-V的CPU从2006年开始推
向市场。
Ring3
非root模©收2
魏蔓Ringl'1
权指令
Ring0
root模式的
特权指令
计算机系统硬件
图:硬件辅助的X86架构虚拟化
11、内存虚拟化
除了CPU虚拟化,下一个关键是内存虚拟化,通过内
存虚拟化共享物理大数据平台方案内存,动态分配给虚拟
机。虚拟机的内存虚拟化很像现在的操作大数据平台方案
支持的虚拟内存方式,应用程序看到邻近的内存地址空
间,这个地址空间无需和下面的物理机器内存直接对应,
操作大数据平台方案保持着虚拟页到物理页的映射。现在
所有的X86CPU都包括了一个称为内存管理的模块MMU
(MemoryManagementUnit)和TLB(Translation
LookasideBuffer),通过MMU和TLB来优化虚拟内存的性
百台匕匕。
〜第26页〜
虚拟机1虚拟机2
图:内存虚拟化
为了在一台机器上运行多个虚拟机,需要增加一个新
的内存虚拟化层,也就是说,必须虚拟MMU来支持客户操
作大数据平台方案。客户操作大数据平台方案继续控制虚
拟地址到客户内存物理地址的映射,但是客户操作大数据
平台方案不能直接访问实际机器内存。VMM负责映射客户物
理内存到实际机器内存,它通过影子页表来加速映射。VMM
使用TLB硬件来映射虚拟内存直接到机器内存,从而避免
了每次访问进行两次翻译。当客户操作大数据平台方案更
改了虚拟内存到物理内存的映射表,VMM也会更新影子页表
来启动直接查询。MMU虚拟化引入了虚拟化损耗,第二代的
硬件辅助虚拟化将支持内存的虚拟化辅助,从而大大降低
因此而带来的虚拟化损耗,让内存虚拟化更高效。
12、设备和I/O虚拟化
最后一个模块是设备和I/O虚拟化,也就是如何管理
和路由物理设备和虚拟设备之间的I/O请求。
〜第27页〜
井口串口
SCSI控制器IDE控制器显标USB设备
图:设备和I/O虚拟化
基于软件的I/O虚拟化和管理为设备管理带来了新的特
性和功能,让设备的管理更容易。就拿网络为例,通过虚拟
网卡和交换机可以在一台物理机上不同虚拟机之间建立虚
拟网络,而这不会在物理网络上产生任何的流量;允许多个
物理网卡绑定成一个虚拟机网卡,提供了很好的容错能力,
同时保持了同一MAC地址。I/O虚拟化的关键是保持虚拟化
优势的同时,尽量降低虚拟化给CPU造成的负担。
Hypervisor虚拟化物理硬件,为每台虚拟机提供一套标
准的虚拟设备,如上图所示。这些虚拟设备高效模拟常见的
物理硬件,将虚拟机的请求发送到物理硬件。该硬件标准化
的过程也让虚拟机标准化,让虚拟机更容易在各种平台上自
由移动,而无需关心下面实际的物理硬件类型。
3.3.1.3计算资源池分区建设
云资源管理平台的底层虚拟化组件提供基础的虚拟化
〜第28页〜
功能,提供服务器、存储、网络的虚拟化功能,并向上对云
资源管理平台提供接口。一个物理集群中可以把多台服务器
划分成一个逻辑集群(又叫HA资源池),一个计算资源池有
相同的调度策略,为了使用热迁移相关的调度策略要求资源
池主机CPU同制。计算资源池不包括网络资源与存储资源。
一个物理集群中可以包含多个逻辑集群。
多个物理集群可以级联(多个云资源管理平台),由更上
层的云运营管理平台统一管理。
对于教育业务部门的主要业务应用大数据平台方案的
部署将采用全虚拟机部署方式,例如Web服务器、邮件服务
器等不同种应用服务器都建议采用虚拟化的部署方式。虚拟
化技术不仅可以提高资源的利用率,并且通过与X86平台计
算节点的配合,能够有效的降低总的投资成本,提高大数据
平台方案的安全性、可管理性,降低业务部署的复杂度和时
间需求。所以普通业务大数据平台方案推荐采用虚拟化与
X86平台的协同部署方式。
项目建设采用高端八路INTEL和低端2路多核心服务器
构建虚拟计算资源平台,实现高性能、高密度、可伸缩、按
需配置、方案灵活的产品设计要求,可满足虚拟化业务中多
样且动态变化的应用需求。这些服务器分为1个云资源管理
分区和1个业务应用分区。
1、业务应用分区
〜第29页〜
核心应用逻辑分区作为业务承载节点,用于部署虚拟化
平台,承载应用大数据平台方案。
业务节点为能承载更多的虚拟机并保证虚拟机性能,建
议配置多路处理器,每路处理器核心数尽可能多、主频尽可
能高,同时配置大容量内存。同时还考虑两方面:
1、高可用性:即承载某台虚拟机的物理节点如果出现
故障需要维护,那么需要进行虚拟机动态迁移,将故障节
点承载的虚拟机动态迁移到核心应用逻辑资源分区中其他
正常工作的物理节点上以实现高可用性,保证应用大数据
平台方案的不中断;
2、弹性扩展:即考虑到未来3-5年内部分部门会上新
的应用大数据平台方案,从而需要新的虚拟机资源,到时
核心应用逻辑资源分区还有资源可弹性分配给新的应用大
数据平台方案。
同时,按照云计算平台大项目建设经验,建议以1:3的
比例预留动态迁移及弹性可扩展虚拟机资源,即预留一部分
虚拟机资源。
业务节点放置在业务区的服务器中。为保证虚拟化动态
迁移时的大数据平台方案性能,建议业务区域内再按照业务
情况分为2〜3个逻辑分区。
3、云资源管理分区
云资源管理分区分为虚拟化管理节点和云运营管理节
〜第30页〜
点。虚拟化管理节点和云运营管理服务器都可采用虚拟机的
方式部署。
虚拟化管理节点:提供基本的虚拟机管理、监控、分配
和使用功能,提供资源静态分配及动态调度管理功能。每个
业务区域应该配置一套虚拟化管理平台,采用双机的模式形
成一套高可用大数据平台方案。
云运营管理节点:主要满足云计算中心管理需求,提供
对云资源管理节点的统一管理,同时提供审批管理、计费管
理、服务质量管理功能。云运营管理节点通常采用双机模式
构成高可用大数据平台方案,每组云运营管理节点可以管理
多组云资源管理节点。
3.3.2基于物理机部署的业务大数据平台方案
对于个别如多媒体、视频点播等这类业务大数据平台方
案,出于业务和项目需要,采用胖节点物理机来支撑。在教
育云中心规划一台高端八路服务器来部署此类应用。
3.3.3数据库大数据平台方案建设
3.3.3.1项目需求
本期项目中计划将一卡通数据库、数字校园基础数据库
部署在oracleRAC集群上,后期还将把教务大数据平台方
案的双机集群接入进来。为了保证数据库大数据平台方案的
高性能、高可靠性以及负载均衡,项目建设需要考虑如下因
素:
〜第31页〜
4、如何提高处理速度,实现数据库的负载均衡;
5、如何保证数据库的可用性、数据安全性,以及如何
实现数据集群可扩性。
6、数据库大数据平台方案对事务实时处理性要求比较
高,对于数据库服务器有性能上的要求,建议采用最新的
处理器型号,最新的UNIX服务器产品技术架构。
3.3.3.2数据库大数据平台方案建设
对于数据库的业务,教育云中心建议采用传统的物理服
务器架构来进行支持。一方面是由于物理数据库业务一般对
大数据平台方案和平台的限制,并非所有的数据库都可以移
植到像虚拟化这样的计算平台上,另一方面,由于数据库对
10的高要求,对于虚拟化的环境并不能提供充足的10支撑,
另外,数据库大数据平台方案的安全性要求很高,采用虚拟
化技术虽然可以提高大数据平台方案的灵活性,但是同物理
设备上的其他大数据平台方案会对数据库大数据平台方案
产生一定的影响,提高大数据平台方案的安全风险。所以综
合以上三方面的原因,数据库大数据平台方案在云计算中心
将采用物理设备集群的方式来部署。
为了使数据库实现高可用,满足高并发、高负载均衡的需
求,数据库节点采用数据库集群搭建,本项目采用实时应用
集群,能够实现多节点之间负载均衡,同时多个节点共享一
套存储大数据平台方案,能有效防止数据库单点故障;最后,
〜第32页〜
数据库集群架构具备动态添加数据库节点的功能,具有良好
的扩展性。
01TP服务器提供物理分区技术。
每机器至少提供3个物理分区,每分区提
供4个物理CPU,16个计算核心,128G内彳
提供50万TPCC处理能力
服务器为UNIX服务器
OLAP数据库服务器单机提供120计算核心
OLAP每台服务器提供2个物理分区技术
1.提供80口8G端口
2提供trunk聚合技术.san网络级联技术
3.存储虚拟化设备提供>80万10Ps能力,
提供48Gcache,提供写缓存技术
4.提供san网络400G的SSD分层容里
L存储虚概化单节点设备提供TO万
10Ps能力《最终落到磁盘的IOPS)
2.磁盘采用12G$AS3©技术,
3.采用高性能600GSAS磁盘
y
Disks
本期项目中计划将一卡通数据库、数字校园基础数据库
部署在oracleRAC集群上,后期还将把教务大数据平台方
案的双机集群接入进来。
为提供数据库大数据平台方案的高可用性,后端使用存
储控制器连接高性能光纤盘阵的存储资源池双活架构来支
撑,保证数据不会丢失,业务不受影响。最后,通过虚拟化
带库的备份大数据平台方案对数据库业务数据进行备份,提
高数据的安全性,对于历史数据,采用物理带库归档保存技
术。
〜第33页〜
3.3.4存储资源池建设
3.3.4.1项目需求
存储资源池是教育云平台的重要组成部分,根据教育数
据的不同类型应该有着相应的差异化的数据存储处理方式。
按照数据类型主要可以分为两类,即结构化数据和非结
构化数据。
结构化数据:即行数据,存储在数据库里,可以用二维
表结构来逻辑表达实现的数据。例如一卡通刷卡记录、学
校招生就业的信息、学生学籍信息、选课信息、图书馆馆
藏目录、图书借阅信息等。其中一卡通数据库大数据平台
方案的数据需求在100G左右,数字校园基础数据库大数据
平台方案的数据量也应该在100G以内,再加上二期可能加
入的教务大数据平台方案数据几百GB,这部分的数据量在
1T左右。
非结构化数据:相对于结构化数据而言,不方便用数据库
二维逻辑表来表现的数据即称为非结构化数据,包括所有格
式的办公文档、学生和老师的文本文件、电子图书、电子期
刊、各类报表、教学用的图像和音频/视频信息等。本期项目
中主要考虑校园视频监控数据以及虚拟机镜像数据等。校园
700个720P摄像头的监控数据存放30天的数据,700个头
需要的总容量及计算公式为:
〜第34页〜
256(码流)X3600(1小时)X24(1天)X30(1
个月)X700(路数)4-0.9(磁盘格式化损耗)”
0.6PBo
另外数据中心自己的业务大数据平台方案的空间使用,
包含多媒体、一卡通、教务大数据平台方案、图书馆、视
频点播、HPC计算等空间需求,保证L5PB的使用空间能满
足当前需求。
对于这两类数据,结构化数据的存储资源池可采用传统
的高性能磁盘阵列大数据平台方案支撑;非结构化数据存储
资源池采用底层SAN网络结构加上集群NAS机头,又能为用
户提供文件大数据平台方案的共享功能,是一个完全开放的、
共享的、跨平台的大数据平台方案,具有高性能、高可靠性、
使用维护简单、性能和容量可线性扩展的高端存储大数据平
台方案。差异化的存储方案利于保护投资,充分考虑今后的
可扩展性,最大限度的提升校园信息化服务的水平。
3.3.4.2存储分类
数据库存储:主要采用FCSAN存储模式,通过数据库集
群技术构建集中存储模式,按照不同的数据库实例的构建,
FCSAN还可以通过划分不同的LAN来支撑不同业务数据的
存储;通过存储虚拟化控制器实现性能的大幅度提升,以及
冷热数据的分层管理。
海量非结构化数据存储:我们根据业务属性不同,将非
〜第35页〜
结构化数据分为2个主要需求,和教学相关的教学类非结构
化存储,这样的存储需要双向读写访问,在教学高峰期,会
有较高的10访问,因此需要采用集群化的非结构数据解决
方案,在集群文件大数据平台方案选择上,需要选择成熟的,
商业化的集群文件大数据平台方案;对于安防数据的存储,
主要是考虑空间问题,这部分数据,以写入为主,基本上很
少会读访问,因此采用专用的NAS存储解决方案。
为了保证海量非结构化数据(校园视频监控、教学视频
等)存储和数据分析的需求,该部分数据采用专用NAS控制
器提供稳定可靠的10解决方案。
备份数据存储:备份数据包括结构化和非结构化数据,
备份源可以是数据库,也可以是操作大数据平台方案、文件
夹等。
虚拟机镜像数据存储:与非结构化数据共用一个存储空
间,也采用并行存储大数据平台方案构建,为虚拟机的迁移
提供支持。具体存储空间需根据虚拟机的个数和操作大数据
平台方案来划分。
3.3.4.3数据库存储大数据平台方案建设方案
3.3.5大数据平台方案设计
3.3.5.1基于虚拟化机头的存储虚拟化方案说明
生产中心存储虚拟化部署示意图
〜第36页〜
生产存储资源范
存储双活、数据跨存错造像
图示说明:
通过在SAN网络层面,部署1套存储虚拟化引擎(2个节
点、实现高可用集群),实现生产中心
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 医院采购进口产品制度
- 单位零星采购管理制度
- 上海视觉艺术学院《财务管理学》2025-2026学年期末试卷
- 山西老区职业技术学院《中医骨伤学》2025-2026学年期末试卷
- 石家庄幼儿师范高等专科学校《卫生人力资源管理》2025-2026学年期末试卷
- 山西医科大学《公司金融》2025-2026学年期末试卷
- 山西工程科技职业大学《马克思主义笔记》2025-2026学年期末试卷
- 上海兴伟学院《物业管理》2025-2026学年期末试卷
- 忻州师范学院《法学导论》2025-2026学年期末试卷
- 眼镜架制作工操作管理强化考核试卷含答案
- 微生物学沈萍课件
- 2025年江西省高职单招文化统考(数学)
- 固定资产管理盘点与维护计划表
- 2025-2030精酿啤酒品牌视觉识别系统研究及包装设计与消费者吸引力评估
- 基于STM32的智能垃圾桶优化设计与实现
- 黄鑫目诊课件
- 泰国知识产权培训课件
- 2025年贵州省六盘水市辅警考试真题及答案
- 多层板干货知识培训课件
- 子痫的课件教学课件
- 2025年四川成都市成华区智慧城市治理中心招聘5人笔试题库历年考点版附带答案详解
评论
0/150
提交评论