云计算-第10章 开源云计算系统介绍

第10章开源云计算系统介绍

ifelouS

【教学内容】

1.开源云计算系统Hadoop

2.开源云计算软件Eucalyptus

3.开源虚拟化云计算平台OpenStack

【教学要求】

1.掌握Hadoop的体系架构、技术原理和应用方案

2.掌握Eucalyptus的体系架构、技术原理和应用方案

3.掌握OpenStack的体系架构、技术原理和应用方案

【重点难点】

Hadoop的分布式计算框架MapReduce、OpenStack的核

心开源项目（Nova、Swift>Glance）

2

主要内容

・10.1开源云计算系统Hadoop

■10.2开源云计算软件Eucalyptus

■10.3开源虚拟化云计算平台OpenStack

■Hadoop召筋施磔醺;

Hadoop是有Apache软件基金会下的一个开源分布式计算平台。

Hadoop以分布式文件系统HDFS和MapReduce（GoogleMapReduce的开

源实现）为核心，为用户提供了系统底层细节透明的分布式基础架构。

・HDFS的高容错性、高伸缩性等优点允许

用户将Hadoop部署在低廉的硬件上，形

成分布式系统。

,MapReduce分布式编程模型允许用户在不

了解分布式系统底层细节的情况下开发

并行应用程序。

・Hadoop召

Hadoop目前除了社区版，还有众多厂商的发行版本，如华为发行版、

Intel发行版、Cloudera发行版（CDH）、Hortonworks发行版（HDP）、

M叩R等，所有这些发行版均是基于ApacheHadoop衍生出来的。

cloudera・最成型的发行版本，拥有最多的部署案例；提供强大的部

署、管理和监控工具。

•不拥有任何私有（非开源）修改地使用了100%开口感空现。

Hortonworks

源ApacheHadoop的唯一提供商。

■为了获取更好的性能和易用性而支持本地UNIX文

件系统而不是HDFS（使用非开源的组件）0

■Hadoop2.X的生态系统

Hadoop是一个能够对大量数据进行分布式处理的软件框架，具有

可靠、高效、可伸缩的特点。Hadoop的核心是HDFS和MapReduce

，在Hadoop2.X中还包括YARN。

Ambari

（安装部・工具）

Oozie

（作业流调度系统）

(

媒

」案

B

d团MapReduceSpark

3忘（离第十算）(DAG计（内存计算）

£

0我

0田

z会

)YARN

（分布式计算框勘

HDFS

（分布式存储系统

■Hadoop2.X的生态系统

•用于Hadoop的一个数据仓库系统，提供类

Hive（基于Hadoop的数据仓库）

似于SQL的查询语言。

•一种分布的、可伸缩的、大数据存储库，

Hbase（分布式列存数据库）

支持随机、实时读/写访问。

•分析大数据集的一个平台，由一种表达数据

Pig（基于Hadoop的数据流系统）分析程序的高级语言和对这些程序进行评估

的基础设施一起组成。

•为高效传输批量数据而设计的一种工具

（数据同步工具）

,用于ApacheHadoop和结构化数据存Sqoop

储库如关系型数据库之间的数据传输。

7

■Hadoop2.X的生态系统

•一种分布式的、可靠的、可用的服务，用于

Flume（日志收集工具）

高效搜集、汇总、移动大量日志数据。

•一种集中服务，用于维护配置信息、命名

Zookeeper（分布式协作服务）

、提供分布式同步以及提供分组^务。

・一种基于Hadoop的机器学习和数据挖掘的

Mahout（数据挖掘算法库）分布式计算框架算法集，实现了多种

MapReduce模式的数据挖掘算法。

・一个开源数据分析集群计算框架。与

Hadoop一样用于构建大规模、低延时的

数据分析应用。

■Hadoop2.X的生态系统

•属于流处理平台，多用于实时计算并更新数据库；也可以用于“

Storm连续计算”对数据流做连续查询；还可以用于“分布式RPC”，

以并行的方式运行大型的运算。

•即HiveonSpark,一个专门为Spark打造的大规模数据仓库

Shark

系统，兼容ApacheHive。无需修改现有的数据或者查询，

就可以用100倍的速度执行HiveQLo

■一个构建在ApacheHBase之上的SQL中间层，完全使用Java编

Phoenix写，提供了一个客户端可嵌入的JDBC驱动。Phoenix查询引擎会

将SQL查询转换为一个或多个HBasescan,并编排执行以生成标

准的JDBC结果集。

・HadooplA的生态播

■一个基于HadoopYARN之上的DAG计算框架。把Map/Reduce

过程拆分为若干个子过程，同时可以把多个Map/Reduce任务组

合成一个较大的DAG任务，减少Map/Reduce之间的文件存储。

■一个供应、管理和监视ApacheHadoop集群的开源框架，

Anibari

提供了一个直观的操作工具和一个健壮的HadoopAPI,可

以隐藏复杂的Hadoop操作，使集群操作大大简化。

•YetAnotherResourceNegotiator,另一种资源协调者，是一

YARN种新的Hadoop资源管理器，是一个通用资源管理系统，可为上

层应用提供统一的资源管理和调度。

10

■Hadoop分^^^计

MapReduce

MapReduce是Google开发的Java、PythonxC++编程模型，

它是一种简化的分布式编程模型和高效的任务调度模型，用于大规模

数据集（大于1TB）的并行计算。

MapReduce借鉴了Lisp等函数编程语言的思想，将要执行的问

题分解成Map（映射）和Reduce（归约）的方式：

■先通过M叩程序将数据切割成不相关的区块，分配（调度）给

大量计算机妪里，达到分布式运算的效果；

■再通过Reduce程序将结果汇总输出c

MapReduce中的Map和Reduce操作的抽象描述

・m^p:(kl;vl)f[(k2;v2)]

输入：键值对(k1;v1)表示的数据

处理：文档数据记录(如文本文件中的行，或数据表格中的行)将以“

键值对”形式传入map函数；map函数将处理这些键值对，并以

另一种键值对形式输出处理的一组键值对中间结果[(k2;v2)]

输出：键值对[(k2;v2)]表示的一组中间数据

12

MapReduce中的Map和Reduce操作的抽象描述

•reduce:(k2;[v2])~>[(k3;v3)]

输入：由map输出的一组键值对[(k2;v2)]将被进行合并处理将同样主

键下的不同数值合并到一个列表[v2]中，故reduce的输入为(k2;

[v2J)

处理：对传入的中间结果列表数据进行某种整理或进一步的处理，并

产生最终的某种形式的结果输出[(k3;v3)]o

输出：最终输出结果[(k3;v3)]

Map和Reduce为程序员提供了一个清晰的操作接口抽象描述。

MapReduce程序的具体执行过程

写中间文件

输入文件蚓）阶段（在木地）Reduce阶段输出文件

■Hadoop应用

在大数据背景下，ApacheHadoop已经逐渐成为一种标签性。随

着业界对这一开源分布式技术不断加深了解，Hadoop被广泛应用于

在线旅游、移动数据、电子商务、能源发现、能源节省、基础设施管

理、图像处理、欺诈检测、IT安全、医疗保健等不同领域。

Walmart*ebYVISA

夕幅强Bai&gg

15

全球最大超市业者Wa।-MartWalmart不

*Wal-Mart分析顾客商品搜索行为，找出超越竞争对手的商机

Wal-Mart决定采用Hadoop来分析顾客搜寻商品的行为以及用户透

过搜索引擎寻找到Wal-Mart网站的关键词，利用这些关键词的分析结果

发掘顾客需求，以规划下一季商品的促销策略。此外，Wal-Mart还尝试

分析顾客在Facebook、Twitter等社交网站上对商品的讨论，期望能比

竞争对手提前一步发现顾客需求。

例如，Wal-Mart能比父亲更快知道女儿

怀孕的消息，并且主动寄送相关商品的

促销邮件。

•16

全球最大拍卖网站eBayeb

*eBay用Hadoop拆解非结构性巨量数据，降低数据仓储负载

作为全球最大的拍卖网站，eBay具有庞大的用户数据，且这些数

据囊括了结构化的数据和非结构化的数据，如照片、影片、电子邮件

、用户的网站浏览Log记录等。

为了解决同时要分析大量结构化数据和非结构化的难题，eBay通

过Hadoop进行数据预先处理，将大块结构的非结构化数据拆解成小型

数据，再放入数据仓储系统的数据模型中分析，来加快分析速度，也

减轻对数据仓储系统的分析负载。

全球最大信用卡公司VisaVISA

率Visa快速发现可疑交易，1个月分析时间缩短成13分钟

虽然每笔交易的数据记录只有短短200

位，但每天VisaNet要处理全球上亿笔交

易，2年累积的资料多达36TB,原本分析5

亿个用户账号之间的关联，得等1个月。

Visa在2009年时导入了Hadoop,让分析

时间从1个月缩短到13分钟，更快速地找

出了可疑交易，也能更快对银行提出预警

，甚至能及时阻止诈骗交易。

•18

全球晏大的中文搜索引擎百度Baidu百度

百度的Hadoop集群为整个公司的数据团队、大搜索团队、社区产品团

队、广告团队，以及LBS团体提供统一的计算和存储服务，主要应用包括数

据挖掘与分析、日志分析平台、数据仓库系统、推荐引擎系统、用户行为分

析系统等。

同时，百度在Hadoop的AlgorithmDescriptionLayerSQL-likeRepreservationLayer

ComputingMocelComputingModel

基础上还开发了自己的日志ClassificationClustering

MapReduceDAG

分析平台、数据仓库系统，VectorRegression

以及统一的C++编程接口，SchedulingLayerSchedulingLayer

(HPCScheduler,Agent)(DCScheduler,Agent)

并对Hadoop进行深度改造，CommunicationIntensive-HPCData&ComputingIntensive-DC.

开发了HadoopC++扩展ComputingResourceManagementLayer

HCE系统。

19

全球领先的互联网公司阿里巴巴典黑?巴

阿里巴巴的Hadoop集群拥有150个用户组、4500个集群用户，为淘宝

、天猫、一淘、聚划算、CBU、支付宝提供底层的基础计算和存储服务，主

要应用包括数据平台系统、搜索支撑、广告系统、数据魔方、量子统计、淘

数据、推荐引擎系统、搜索排行榜等。为了便于开发，阿里巴巴还开发了

WebIDE继承开发环境，使用的相关系统包括Hive、Pig、Mahoutv

Hbase等。

•20

主要内容

・10.1开源云计算系统Hadoop

,10.2开源云计算软件Eucalyptus一

■10.3开源虚拟化云计算平台OpenStack

21

■Eucalyptus简介

|Eucalyptus:枝树

——加州大学圣巴巴拉分校建立的开源项目

——将程序连接到有用系统的弹性效能计算体系结构

ElasticUtilityComputingArchitectureforLinkingYour

ProgramstoUsefulSystems

功能：Eucalyptus全局掌控各种基于物理设施的虚拟设备,

实现对整个集群的计算能力的动态配置

■EucaIyptus简介e

开发目的

—为研究者提供模块化的试验平台

＞设计原则

——Eucalyptus必须能够在不受其设计者操控的软硬件环境中进

行部署和执行。

-Eucalyptus必须是模块化的，以便不同的研究者进行升级、

改造和替换，同时能够实现最大程度的可扩展性。

》设计目标

—可扩展性、非侵入性

EucaIyptus的AWS兼容性

Eucalyptus是AmazonEC2的一个开源实现，它与EC2的商业服务

接口兼容。EucaIyptus的AWS兼容性主要体现以下几个方面：

广泛AWS服务支持高度API兼容

应用迁移应用设计，工具和生态系统

•21

■Eucalyptus体系结构

Eucalyptus采用了分层的体系结构，包含五个主要组件：云控制器（

CLC）、持续性数据存储（WaIrus）.集群控制器（CC）、存储控制器（

SC）和节点控制器（NC）o它们能相互协作共同提供所需的云服务。

CLOUD

CLOUDCONTROLLERWALRUS

CLUSTERSTORAGEVMWARE

CLUSTERCONTROLLERCONTROLLERBROKER

(AVAILABILITYZONE)(CC)(SC)(OPTIONAL)

NODES

•25

•Eucalyptus体系结构

・在Eucalyplus云内，是主要的控制器组件，负责管理整个系

CloudController

统。它是所有用户和管理员进入EucaIyptus云的主要入口。

Walrus是一个与AmazonS3类似的存储服务。这个控制Walrus

器组件管理对EucaIyptus内的存储服务的访问。

・负责从所属的节点控制器收集节点的状态信息，并管理公共

ClusterController

和私有实例网络的配置。

实现Amazon的S3接口。与Walrus联合工作，用于存储和

StorageController

访问虚拟机映像、内核映像、RAM磁盘映像和用户数据。

NodeController・控制主机操作系统及相应的Hypervisor（Xen或KVM）。

•26

■EucaIyptus配置

一个Eucalyptus云安装可以聚合和管理来自一个或多个集群的资源。

一个集群是连接到相同LAN的一组机器。在一个集群中，可以有一个或多

个NC实例，每个实例管理虚拟实例的实例化和终止。

■在一个单一集群的安装中，将至

少包含两个机器：一个机器运行

CC、SC和CLC,另一个机器运行

NCo这种配置主要适合于试验的

目的以及快速配置的目的。

*27

■Eucalyptus配置

■在多集群安装中，可以将各个组件（CC、SC、NC和CLC）

放置在单独的机器上。多集群的结果是可用性的提高、负载

•28

■EucaIyptusf/^

EucaIyptus对企业数据中心和没有特殊硬件要求的需求，可以进行混合云

和私有云部署。

Eucalyptus可以安全的虚拟化服务器、网络和储存，从而降低成本，提高

维护便利性，并提供用户自助服务。

Eucalyptus的模块化设计为广泛的用户、不同的用户界面、虚拟化技术带

来了好处，并且为服务供应商提供了一个基于消费定价模式的运营平台。

Eucalyptus的核心架构，将继续保持开放源代码。它将利用全球开发社区

的智慧。

-I

•*29

主要内容

■10.1开源云计算系统Hadoop

■10.2开源云计算软件Eucalyptus

■10.3开源虚拟化云计算平台OpenStack

30

,OpenStack背景介绍Uopenstack

CLOUDSOFTWARE

OpenStack是一个由Rackspace公司和美国国家航空航天局（NASA

）共同开发的云计算平台项目，可以为共有云和私有云服务提供云计算基

础架构平台。OpenStack使用的开发语言是Python,采用Apache许可证

发布该项目源代码。OpenStack支持多种不同的Hypervisor。

OpenStack

+0

-----

为NASA的计算处Rackspace开发

理服务而开发的存储服务组件

•_______________________________________________________•31

■OpenStack背景介绍

OpenStack的作用是整合各种底层硬件硬件资源，为系统管理员提供

Web界面的控制面板以方便资源管理，为开发者的应用程序提供统一管理

接口，为终端用户提供无缝的透明的云计算服务。

OpenStack在云计算软硬件架构的主要作用域一个操作系统类似。

YniifAppliFfin

APOPENSTACK

OXH.UCHX>lTNC6Y$rLM

OpenStackDashboard

ComputeNetworkingStorage

SundardHardware

OpenStack架构

32

■OpenStnck背景介绍

OpenStack作为IaaS层的云操作系统，主要管理计算、网络和存储

三大类资源。

酸

计算资源管理存a储资源管理网络资源管理

可以规划并管理大量可以为云服务或云应用提供了插件式、可扩展

虚拟机，从而允许企提供所需的对象及块存、API驱动型的网络及

业或服务提供商按需储资源。IP管理。

提供计算资源。

OpenStack核心功能

KeystoreHorizon

ProvidesauthProvidesUI

34

OpenStack核心功能

我认说及务

Keystone

计,服务

Ceilometer

数据库服务Trove

•35

OpenStack的主要服务

OpenStack有三个核心开源项目：计算服务(Nova)、存储服务(

Swift)X镜像服务(GIance)

计算服务

(Nova)

通过API调用openStack宫里虚拟机

用户■

通过Glance

创建和管理

管理员镜像快照

对象存储组件

镜像管理组件

(Swift)

(Nova)

用标准的硬件进行PB级

通过Swift存储t夬照管理镜像

的安全、可靠的存储

•36

计算服务Nova

Nova是OpenStack云中的计算组织控制器

Nova处理OpenStack云中实例(instances)生命周期的所有活动

。这样使得Nova成为一个负责管理计算资源、网络、认证、所需可扩

展性的平台。

但是，Nova并不具有虚拟化能力，相反它使用LibvirtAPI来与被

支持的Hypervisors交互。Nova通过一个与AmazonWebServices(

AWS)EC2API兼容的WebServicesAPI来对外提供服务。

Nova主要组件

38

Nova组件介绍

l.APIServer(Nova-Api)

APIServer对外提供一个与云基础设施交互的接口，也是外部可用于

管理基础设施的唯一组件。

2.MessageQueue(RabbitMQServer)

OpenStack节点之间通过消息队列使用AMQP(AdvancedMessage

QueueProtocol)完成通信。

39

Nova组件介绍

3.ComputeWorker(Nova-Compute)

ComputeWorker管理实例生命周期，通过MessageQueue接收实例生

命周期管理的请求，并承担操作工作。

4.NetworkController(Nova-Network)

NetworkControlIer处理主机的网络配置，包括IP地址分配、为项目配

置VLAN、实现安全组、配置计算节点网络。

10

Nova组件介绍

5.VolumeWorkers(Nova-Volume)

VoIumeWorkers用来管理基于LVM(LogicalVoIumeManager)的实例

卷。VolumeWorkers有卷的相关功能，例如新建卷、删除卷、为实例

附加卷、为实例分离卷。

6.Scheduler(Nova-Scheduler)

调度器ScheduIer把Nova-API调用映射为OpenStack组件。调度器作为

一个Nova-ScheduIe守护进程运行，通过恰当的调度算法从可用资源池

获得一个计算服务。

~~随机算法~可用域算法~简单算法

11

Nova工作流程

Nova-API对外统一提供标准化接口，各子模块，如计算资源，存储

资源和网络资源子模块通过相应的API接口服务对外提供服务。

WSGI(nova-api)

computer-apinetwork-apischedule-apivolume-api

nova-computernova-networKnova-schedulernova-volume

Nova运行架构

42

Nova工作流程

以创建虚拟机为例，分析Nova的不同关键子模块之间的调用关系。

Compute-API通过RPC的

方式将创建虚拟机的基砒根据请求的虚拟资源，即

调用Compute-Api创建flavor而彳言息，法捽一台物理

信息封装成消息发送至消

虚拟机VM接口。

卷中间件指定消息队列，主机部署，如物理主机A

"Scheduler"o

Nova-Network接收到消息后

，从fixedIP表里拿出一个可物理机A上Nova-Compute守

用IP,并根据私网资源池，Nova-Compute调用护进程订阅消息队列

Network-API分配向

合DHCP,实现IP分配和"Compute物埋机A",接到

IPi也址绑定。rIPoq二:、后，根据虚拟机基本信

息刑能犍虚拟机。

Nova-Compute通过调用Volume-API实现存储划分,

最后调用底层虚拟化Hypervisor技术，部署虚拟机。

43

Nova物理部署方案

从功能上看，Nova平台中有两类节点：控制节点和计算节点，其角

色由安装的服务决定，控制节点包括网络控制Network、调度管理

Scheduler、Api服务、存储卷管理Nova-Volume等，计算节点主要提供

Nova-Compute服务。节点之间使用AMQP作为通讯总线。

由于使用了消息总线，因此服务之间是位置透明的，可以将所有服务

可以部署在同一台主机上，即AlI-in-One（一般用于测试），也可以根据

业务需要，将其分开部署在不同的主机上。

用在生产环境Nova平台配置一般有三种类型：

最简配置标准配置高级配置

41

最简配置

需要至少两个节点，除了Nova-Compute外所有服务都部署在一台

主机里，这台主机进行各种控制管理，即控制节点。

OpenStack双点架构

45

标准配置

控制节点的服务可以分开在多个节点，标准的生产环境推荐使用至少

4台主机来进一步细化职责。控制器、网络、卷和计算职责分别由一台主

机担任。

OpenStack多节点架构46

高级配置

很多情况下（比如为了高可用性），需要把各种管理服务分别部署在

不同主机（比如分别提供数据库集群服务、消息队列、镜像管理、网络控

制等），形成更复杂的架构。入

OpenStack高级架构47

对象存储服务Swift

Swift是OpenStack开源云计算项目的子项目之一，是一个可扩展的对

象存储系统。

扩展性冗余性持久性

Swift构筑在比较便宜的标准硬件存储基础设施之上，通过在软件层

面引入一致性散列技术和数据冗余性，牺牲一定程度的数据一致性来达

到高可用性和可伸缩性，支持多租户模式、容器和对象读写操作，适合

解决互联网的应用场景下非结构化数据存储问题。

48

Swift特性

数据的可靠性，是指数据存储到系统中后，到某一天数据

1.极高的数据持久性

丢失的可能性。

“对称”意味着Swift中各节点可以完全对等，能极大地降

2.完全对称的系统架构

低系统维护成本。

一是数据存储容量无限可扩展，二是Swift性能（如QPS、

3.无限的可扩展性

吞吐量等）可线性提升。

整个Swift集群中，也没有一个角色是单点的，并且在架构

4.无单点故障和设计上保证无单点业务是有效的。

简单体现在实现易懂、架构优美、代码整洁；可依赖是指

5.简单、可依赖Swift经测试、分析之后，可以放心大胆地将Swift用于最核

卜口的存储业务上。

•49

Swift主要组件

Swift系统架构

Swift采用完全对称、面

向资源的分布式系统架构设

计，所有组件都可扩展，避

免因单点失效而扩散并影响

整个系统运转；通信方式采

用非阻塞式I/O模式，提高了

系统吞吐和响应能力。

Swift主要组件

认证服务(AuthenticationServer)账户服务(AccountServer)

・验证访问用户的身份信息・提供账户元数据和统计信息

・获得一个对象访问令牌(Token)・维护所含容器列表的服务

・验证访问令牌的有效性・每个账户的信息被存储在一个

・缓存下来直至过期时间SQLite数据库中

代理服务(ProxyServer)缓存服务(CacheServer)

・对外提供对象服务API・缓存的内容包括对象服务令牌、账户和

•查找服务地址容器的存在信息

・转发用户请求至相应的账户、容器・缓存服务可采用Memcached集群，

或者对象服务Swift会使用一致性散列算法来分配缓

・进行横向扩展来均衡负载存地址

•51

Swift主要组件

对象^艮务(ObjectServer)更新服务(Updater)

・提供对象元数据和内容服务■任务将会被序列化到在本地文件系

・每个对象的内容会以文件的形式统中进行排队

存储在文件系统中•更新服务会在系统恢复正常后扫描

・元数据会作为文件属性来存储队列并进行相应的更新处理

容器服务(ContainerServer)复制服务(Replicator)

・提供容器元数据和统计信息•采用推式(Push)更新远程副本

・维护所含对象列表的服务•确保被标记删除的对象从文件系统中移

・每个容器的信息也存储在一个除

SQLite数据库中