云上运维及应用实践教程（第2版） 课件 05. 基础架构之负载均衡

05基础架构之负载均衡云上运维及应用实践5.2知识点讲解任务学习5.1场景导入

目录CONTENTS5.1场景导入单台ECS支撑的请求一定是有物理极限的，单纯靠升级配置是无法解决的，需要多台服务器进行协作。1.提出问题5.1场景导入在用户访问量不断增加的情况下，需要增加多台ECS以支撑不断增长的PV/UV（PageView/UniqueVistor），使用负载均衡可以通过流量分发扩展应用系统对外的服务能力，同时可以消除单点故障，提升应用系统的可用性。另外，在做系统升级时，可以在不影响用户访问的情况下，进行后端升级。2.解决方案5.1场景导入任务学习5.2知识点讲解 目录CONTENTS5.2.1负载均衡概述服务器负载均衡（ServerLoadBalancer，SLB）是对多台服务器进行流量分发，意思是将任务分摊到多个操作单元上进行执行，如Web服务器、FTP服务器、企业关键应用服务器和其他关键任务服务器等，从而共同完成工作任务。一台普通服务器的处理能力只能达到每秒几万个到几十万个请求，无法在一秒钟内处理上百万个甚至更多的请求。但若能将多台这样的服务器组成一个系统，并通过软件技术将所有请求平均分配给所有服务器，那么这个系统就完全拥有每秒钟处理几百万个甚至更多请求的能力。这就是负载均衡的基本设计思想。1.简介5.2.1负载均衡概述软件负载技术这是基于特定服务器软件的负载均衡。这种技术是利用网络协议的重定向功能来实现负载均衡的。例如，在HTTP协议中支持定位指令，接收到这个指令的浏览器将自动重定向到该指令指明的另一个URL上。由于和执行服务请求相比，发送定位指令对Web服务器的负载要小得多，因此可以根据这个功能来设计一种负载均衡的服务器。一旦Web服务器认为自己的负载较大，它就不再直接给浏览器发送返回的请求网页，而是送回一个定位指令，让浏览器去服务器集群中的其他服务器上获得所需要的网页。在这种方式下，服务器本身必须支持这种功能。2.负载均衡技术5.2.1负载均衡概述DNS负载技术这是基于DNS的负载均衡。DNS负载均衡技术是最早的负载均衡解决方案，它是通过DNS服务中的随机名字解析来实现的。在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中的一个地址。这种技术的优点是实现简单、实施容易、成本低，适用于大多数TCP/IP应用。其缺点也非常明显。首先这种方案不是真正意义上的负载均衡，DNS服务器将HTTP请求平均分配到后台的Web服务器上，而不考虑每个Web服务器当前的负载情况；其次未考虑容错，如果后台的某台Web服务器出现故障，DNS服务器仍然会把DNS请求分配到这台故障服务器上，导致不能响应客户端。2.负载均衡技术5.2.1负载均衡概述交换负载技术这是基于四层交换技术的负载均衡。第四层交换的含义，简单地说就是数据传输不仅仅依据MAC地址或IP地址，而且依据TCP/UDP应用端口号。它服从的协议有多种，有HTTP、FTP、NFS、Telnet或其他协议。在第四层交换机上设置Web服务的虚拟IP地址，这个虚拟IP地址是DNS服务器中解析到的Web服务器的IP地址，对客户端是可见的。当客户访问此Web应用时，客户端的HTTP请求会先被第四层交换机接收到，它将基于第四层交换技术实时检测后台Web服务器的负载，根据设定的算法进行快速交换。常见的算法有轮询、加权、最少连接、随机和响应时间等。2.负载均衡技术5.2.1负载均衡概述七层负载技术这是基于七层交换技术的负载均衡。基于第七层交换的负载均衡技术主要用于实现Web应用的负载平衡和服务质量保证。它与第四层交换机相比有许多优势：第七层交换机不仅能检查TCP/IP数据包的TCP和UDP端口号，从而转发给后台的某台服务器来处理，而且能从会话层以上来分析HTTP请求的URL，根据URL的不同将不同的HTTP请求交给不同的服务器来处理（可以具体到某一类文件，直至某一个文件），甚至同一个URL请求可以让多个服务器来响应以分担负载（当客户访问某一个URL，发起HTTP请求时，它实际上要与服务器建立多个会话连接，得到多个对象，例如.txt/.gif/.jpg文档，当这些对象都下载到本地后，才组成一个完整的页面）。2.负载均衡技术5.2.2阿里云负载均衡服务器负载均衡是对多台云服务器进行流量分发的负载均衡服务。负载均衡可以通过流量分发扩展应用系统对外的服务能力，通过消除单点故障提升应用系统的可用性。负载均衡服务通过设置虚拟服务地址（IP），将位于同一地域（Region）的多台云服务器ECS资源虚拟成一个高性能、高可用的应用服务池；根据应用指定的方式，将来自客户端的网络请求分发到云服务器池中。负载均衡服务会检查云服务器池中ECS的健康状态，自动隔离异常状态的ECS，从而解决了单台ECS的单点故障问题，同时提高了应用的整体服务能力。在标准的负载均衡功能之外，负载均衡服务还具备TCP与HTTP抗DDoS攻击的特性，增强了应用服务器的防护能力。负载均衡服务是ECS面向多机方案的一个配套服务，需要同ECS结合使用。1.概要5.2.2阿里云负载均衡2.相关术语术语中文说明ServerLoadBalancer负载均衡服务阿里云计算提供的一种网络负载均衡服务，可以结合阿里云提供的ECS服务为用户提供基于ECS实例的TCP与HTTP负载均衡服务LoadBalancer负载均衡服务实例负载均衡实例可以理解为负载均衡服务的一个运行实例，用户要使用负载均衡服务，就必须先创建一个负载均衡实例，LoadBalancerId是识别用户负载均衡实例的唯一标识Listener负载均衡服务监听负载均衡服务监听，包括监听端口、负载均衡策略和健康检查配置等，每个监听对应后端的一个应用服务BackendServer后端服务器接受负载均衡分发请求的一组ECS，负载均衡服务将外部的访问请求按照用户设定的规则转发到这一组后端ECS上进行处理Address服务地址系统分配的服务地址，当前为IP地址。用户可以选择该服务地址是否对外公开，来分别创建公网和私网类型的负载均衡服务Certificate证书用于HTTPS协议。用户将证书上传到负载均衡中，在创建HTTPS协议监听的时候绑定证书，提供HTTPS服务5.2.2阿里云负载均衡负载均衡服务主要由以下3个基本概念组成：LoadBalancer代表一个负载均衡实例Listener代表用户定制的负载均衡策略和转发规则BackendServer是后端的一组ECS来自外部的访问请求，通过负载均衡实例并根据相关的策略和转发规则分发到后端ECS进行处理。负载均衡核心概念如图所示。3.功能概述5.2.2阿里云负载均衡可以对后端ECS进行健康检查，自动屏蔽异常状态的ECS，待该ECS恢复正常后自动解除屏蔽。提供会话保持功能，在Session的生命周期内，可以将同一客户端请求转发到同一台后端ECS上。支持加权轮询（WRR）、加权最小连接数（WLC）转发方式。WRR方式将外部请求依序分发到后端ECS上，WLC方式将外部请求分发到当前连接数最小的后端ECS上，后端ECS权重越高被分发的概率也越大。支持针对监听来分配其对应服务所能达到的带宽峰值。3.阿里云提供四层和七层的负载均衡服务特点5.2.2阿里云负载均衡可以支持公网或私网类型的负载均衡服务。提供丰富的监控数据，实时了解负载均衡运行状态。结合云盾，提供WAF及防DDoS攻击能力，包括CC、SYNFlood等。支持同一地域（Region）跨数据中心容灾，结合DNS还可以支持跨地域容灾。针对HTTPS协议，提供统一的证书管理服务，证书无须上传后端ECS，解密处理在负载均衡上进行，降低后端ECS的CPU开销。提供控制台、API、SDK多种管理方式。3.阿里云提供四层和七层的负载均衡服务特点5.2.2阿里云负载均衡提供四层和七层上的负载均衡服务。四层采用开源软件LVS+Keepalived实现负载均衡。七层采用Tengine实现负载均衡。负载均衡采用集群部署，可实现会话同步，以消除服务器单点故障，提升冗余，保证服务稳定。可在某些地域部署两个机房，以实现同城容灾。4.基础架构5.2.2阿里云负载均衡负载均衡适合作为程序的流量入口，横向扩展应用系统的服务能力，适用于各种WebServer和AppServer，可消除应用系统的单点故障。如图所示的负载均衡架构中，SLB自动选择最佳路径访问RDS和OSS，实现ECS的协同工作，并且方便扩展，消除单个节点故障的干扰。5.使用场景5.2.2阿里云负载均衡横向扩展应用系统的服务能力，适用于各种WebServer和AppServer。消除应用系统的单点故障，当其中一部分ECS宕机后，应用系统仍能正常工作。5.使用场景5.1场景导入5.2知识点讲解任务学习目录CONTENTS任务学习本书旨在让学生通过完成一系列的操作任务进行实际操作的学习，书中将一个完整的项目工程案例细化成相对独立的任务，本书使用“慕课云”MOOC平台作为项目案例。书中相关资源可以从下载，包含“慕课云”案例的源代码以及网站发布包。注：配套提供的安全代码仅供参考，也仅限于本书案例学习使用。云平台界面更新变化快，教材用图跟实际平台有出入，请以官网云平台操作界面为准。任务5.1使用SLB提高应用系统稳定性“慕课云”系统面向全国的用户，所以我们要通过SLB将资源较为均衡地分配给全国不同地区的用户，充分考虑各个地区用户在使用中对网速的要求。1.任务描述任务5.1使用SLB提高应用系统稳定性掌握阿里云负载均衡服务的配置和使用。2.任务目标任务5.1使用SLB提高应用系统稳定性【准备】已创建并配置“慕课云”ECS实例。3.任务实施任务5.1使用SLB提高应用系统稳定性【步骤】（1）开通SLB。（2）配置负载均衡实例监听。（3）配置负载均衡后端服务器。（4）验证负载均衡效