PIOLINK服务器负载均衡解决方案说明书

1、PIOLINKPIOLINK 服务器负载均衡解决方案服务器负载均衡解决方案 派凌（上海）网络科技有限公司 目目 录录 前言.2 1.用户现状分析 .3 1.1 用户基本情况.3 1.2 存在问题.3 2.用户需求分析 .5 2.1 总体需求.5 2.2 功能需求.5 2.3 性能需求.6 2.4 安全性需求.6 2.5 可管理性需求.6 3.解决方案设计 .8 3.1 系统设计的基本原则.8 3.2 系统解决方案设计.9 3.2.1 旁路部署模式.9 3.2.2 旁路部署模式（HA）.12 3.2.3 串行部署模式.15 3.2.4 串行部署模式（HA）.18 3.3 解决方案价值体现.20

2、4.PIOLINK负载均衡技术特色和优势 .22 4.1 服务器负载均衡功能描述.22 4.2 服务器负载均衡算法.24 4.3 服务器负载均衡会话保持技术.25 4.4 智能优化加速技术.28 4.5 虚拟化技术.30 5.派凌科技公司及产品介绍 .32 5.1 公司介绍.32 5.2 系列产品介绍.33 前言前言 随着互联网的飞速发展，越来越多的商务活动通过互联网完成，网络性能却越来越不能满足日益增 多互联网需求。随着因特网用户的急剧增多，用户越来越感受到应答时间延迟和带宽的不足。为了解决 这些问题，用户为优化网络环境投入了大量的资金，但结果并未达到预期的效果。用户迫切需一套改善 网络系统

3、4S-Stability（安定性）、Scalability（扩展性）、Speed（高速性）、Security（安全性） 的最佳解决方案。 PIOLINK公司作为应用交付领域的领导厂商，一直致力于开发新的Internet应用服务和工具，以便为 用户提供创新性的解决方案，其开发的PAS-K和PAS负载均衡系列产品，能够完全满足用户网络“高速、 安全、可运营、易管理”的需求，并获得了业内的一致好评。 PIOLINK负载均衡解决方案有两方面的含义：首先，大量的并发访问或数据流量分担到多台节点设备 上分别处理，减少用户等待响应的时间；其次，单个重负载的运算分担到多台节点设备上做并行处理， 每个节点设备处

4、理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高，主要实现功能要 求如下： 确保优化内部服务器集群的访问流量，即通过智能算法均衡外部链路对内部服务器集群的访 问流量。 实时监控内部服务器状态，确保用户访问帮智能的分摊到服务器集群中的每台设备。 架构同时提供安全防护、故障恢复和负载均衡的健壮网络。 保证优化所有的ISP链路，即通过智能负载均衡所有通过可用链路的流量。 使用”智能路由选择算法”来选择输出流量的最佳ISP,以解决南北互通问题。 确保多ISP链路同时应用与交叉备份，保证Internet连接的724小时畅通。 使用“全路径健康检查”来确保选择可以提供最稳定服务的ISP。 PI

5、OLINK通过本解决方案提供了满足所需的服务器负载均衡应用需求的服务。此架构是建立在 PIOLIN K先进的应用交换平台上的，因此可以提供最高级的性能、扩展性、健壮性和安全性。 1.1. 用户现状分析用户现状分析 1.11.1 用户基本情况用户基本情况 用户为XXX行业客户，用户的服务器数量有XXX台，吞吐量预计能达到XXGbps。用户希望通过使用PIO LINK的负载均衡设备对现有IDC机房的应用系统服务器实现负载均衡，使Inbound流量得以合理分配，从 而提高该应用系统的整体性能。 1.21.2 存在问题存在问题 随着互联网的高速增长以及信息技术的快速发展，用户的日常工作的正常开展也越来

6、越多的依赖用 户信息系统的高可靠运行，尤其是用户数据中心关键业务应用系统的高可用性，IT管理部门也越来越关 注如何在最大节省IT成本的情况下维持关键应用724小时工作，保证业务的连续性和用户的满意度，然 而信息系统的快速发展已经使信息系统数据中心服务器面对的访问数量大大增加,并且更加不可预知。如 今，服务器必须具备提供大量并发访问服务的能力，其处理能力和I/O能力已经成为提供服务的瓶颈。如 果客户的增多导致通信量超出了服务器能承受的范围，那么其结果必然是宕机。在这种情况用户必须升 级服务器,但是，单台服务器有限的性能可能解决不了这个问题，一台普通服务器的处理能力只能达到每 秒几万个到几十万个请

7、求，无法在一秒钟内处理上百万个甚至更多的请求；同时单台服务器始终存在的 单点故障的隐患也犹如一颗定时炸弹般时时悬挂在用户的信息系统中，一旦某个关键业务应用系统服务 器因硬件或者软件故障发生宕机事件，造成该核心应用系统服务中断将会给用户带来极大的损失，这种 损失有可能性是灾难性的，因此对用户来的数据中心应用系统服务器来说，急需要解决以下问题： 1.如何能将多台相同应用系统的服务器组成一个系统，并通过相应的技术将所有请求平均分配给所 有服务器，那么这个系统就完全拥有每秒钟处理几百万个甚至更多请求的能力,极大的提升系统 的响应速度，从而提高应用系统的整体响应能力； 2. 在有多台服务器提供同一应用服

8、务的同时，一旦当某一台服务器发生软硬件故障的时候，如何 能够快速的检测并将用户的所有流量导向至正常工作的服务器，并向IT管理员告警，通知即刻 进行服务器的故障处理，解决服务器的单点故障问题，提高应用系统的高可用性； 3.采用多台服 务器协同工作在提高计算机系统的处理能力和计算强度的同时，如何在完成同 样功能的多个网络服务器之间实现合理的业务量分配，使之不 会出现一台设备过忙、而其 他的设备却没有充分发挥处理能力的情 况。 为了解决以上问题，负载均衡技术应运而生，负载均衡技术是建立在现有网络结构之上，提供一种廉 价有效透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网

9、络的灵 活性和可用性，当前很多用户一般采取一些软件方式来实现服务器的集群方式的负载均衡。软件负载均 衡解决方案是指在一台或多台服务器相应的操作系统上安装一个或多个附加软件来实现负载均衡，软件 解决方案缺点较多，因为每台服务器上安装额外的软件运行会消耗系统不定量的资源，越是功能强大的 模块，消耗得越多，所以当连接请求特别大的时候，软件本身会成为服务器工作成败的一个关键；软件 可扩展性并不是很好，受到操作系统的限制；由于操作系统本身的Bug，往往会引起安全问题。 因此，为了解决以上的几个不足，PIOLINK提出了能够完全满足用户需求的智能化的服务器负载均衡 解决方案。 2.2. 用户需求分析用户需

10、求分析 2.12.1 总体需求总体需求 通过同XXX用户进行沟通，总结用户现有网络拓扑环境中存在以下几个方面的总体需求。 1） 高性能：采用丰富的负载均衡算法对多应用系统服务器进行负载均衡，使流量得以合理分配，从而 保证系统的整体性能得以大幅度提升。 2） 高可靠性：保证系统运行稳定，单一设备故障不能影响系统的正常运行。 3） 高安全性：构建安全防御体系，防御网络攻击。 4） 良好的系统扩充能力，随着访问量的增加能够满足系统不断扩充的需求。 5） 系统具有良好的可管理性。 6） 丰富的会话保持策略能够满足灵活多样的动态调整。 7） 通过中文的监管平台，方便直观地管理与监视应用的状态及健康状况。

11、 2.22.2 功能需求功能需求 作为服务系统的核心，负载均衡系统必须满足以下业务需求： 1） 冗余的系统实施方案，任何单点故障不影响系统的正常运营 在接入系统的设计中，对于所有的设备，均采用冗余设计和实施，充分考虑到各种设备和线路的中断或 故障情况，在发生故障时系统能迅速切换，保证系统的正常运营。 2） 服务器的负载均衡： 采用丰富的负载均衡算法对多台服务器进行负载均衡，使流量得以合理分配，并且需要处理因服务器负 载均衡所带来的会话保持问题。某台服务器发生故障时由负载均衡产品自动检查到，并且将其从服务器 群组中排除，透明的容错，从而保证服务器的整体性能得以大幅度提升。 3） 流量的智能优化和

12、加速 提供智能的HTTP压缩和基于内存的Cache以及SSL卸载功能，HTTP压缩能够节约带宽，缩短用户浏览和下 载的时间；内存Cache则能够在减小后台服务器负载的同时，提高了对用户的响应速度和整体网站的处理 能力，从而实现流量的智能优化和加速；SSL卸载功能则能够卸载服务器的SSL处理，以提高其性能，同 时大幅度缩短响应时间并增强客户交易流量的管理。 4） 设备自身的高可用性 设备自身需要具备高可用性，能够在双机冗余模式下工作，冗余切换迅速。 5） 升级能力 负载均衡产品应当具有良好的系统和软件升级能力。 2.32.3 性能需求性能需求 系统的整体系统响应时间、整体系统性能和故障切换能力应

13、达到或高于以下要求： 1） 能够在一定的访问压力下提供正常服务。 2） 单台设备出现故障后，冗余设备能达到毫秒级切换。 3） 系统稳定性强，系统响应时间（例如服务器故障后负载均衡对故障的反映）短（几秒钟之内）。 2.42.4 安全性需求安全性需求 1） 负载均衡产品本身具有良好的系统安全性，不存在安全漏洞； 2） 产品提供安全的访问管理环境； 3） 具有一定的安全防护能力，防御网络常见攻击，提高系统整体的安全防护能力。 2.52.5 可管理性需求可管理性需求 在可管理性方面，需要具备以下几点： 1） 能够提供全中文的基于GUI的良好的维护界面和日常维护方案； 2） 提供有效的关于用户、流量等的

14、报表、统计工具； 3） 提供有效的备份恢复手段； 4） 提供有效的故障报警手段； 5） 提供有效的系统监控手段并为通用的监控工具提供接口； 6） 系统的配置管理方便，系统报告的可用性强，能提供完善的访问统计和流量管理； 7） 加密通讯，保证安全的设备管理； 8） 机架式机箱； 3.3. 解决方案设计解决方案设计 3.13.1 系统设计系统设计的基本原则的基本原则 实用、先进、安全、可扩展是本系统设计的基本原则实用、先进、安全、可扩展是本系统设计的基本原则 本建议书首先是满足现有和可预见未来几年内的应用要求；其次是考虑在投资增加很少的前提下， 选择目前可以提供最先进技术手段的设备和系统方案；最后

15、要考虑实现的安全系统面对应用要有长远发 展的能力。 稳定性和可靠性稳定性和可靠性 对于业务系统的底层传输平台的网络系统必须要保证其工作的可靠性和稳定性，保证常年的不间断 运行，这样才能提供及时、准确、可靠的信息支持。 安全性安全性 安全性是信息系统建设所必须优先解决的问题，否则可能产生无法预计的严重后果。计算机系统具 有攻破一点就可使全系统暴露的特殊性，因此一个完备的安全系统需要从网络、主机、操作系统、应用 软件直到底层硬件平台进行完整的安全设计，从而提供多层次、多角度的网络安全保障。 技术的先进性技术的先进性 技术上应达到相当的先进性，性能上应能适应现在日新月异发展的网络应用，必须保证一个具

16、有广 泛适应能力、对各种业务都具有最佳传输效能的网络平台，从而使上层的应用能够顺畅的运行。 很好的系统开放性和升级扩展能力很好的系统开放性和升级扩展能力 网络应具有优异的开放性和升级扩展能力，支持多协议、多接口和开放式的结构，易于对外互连， 给信息系统今后的应用和发展留有充分的扩展余地。 易于维护、易于管理易于维护、易于管理 网络的可维护性和可管理性是确保网络长期稳定运行的关键因素，易于维护易于管理的网络不仅能 够节省用户的大量时间、精力和运行成本，还是以上所提到的各种网络可靠性、安全性、先进性、扩展 性等特性得以充分的发挥的有力保证。 实用性实用性 既考虑节省投资，又保证产品的先进性和可用性

17、。在涉及到与旧有设备的互操作和业务平滑过渡等 问题上，在实现最新的优秀网络特性的同时用户也可得到最大限度的投资保护。要充分利用现有网络资 源及通信资源。 3.23.2 系统解决方案设计系统解决方案设计 .1 旁路部署模式旁路部署模式 解决方案拓扑图 旁路部署的优势是可以维持用户现有网络环境不变，设备上线和部署时，几乎对现网的业务不产生 任何影响。下图为PIOLINK负载均衡设备PAS-K采用旁路部署方式的拓扑结构。 解决方案描述 如上图所示，我们对整个网络的构建如下： 1、 对于一个每天都在增长的网络，内部服务器数目的增长是非常之快，为了能够平滑

18、稳定的扩展 内部网络，以及增加服务器集群，我们在数据中心服务器群旁路部署PIOLINK PAS-K负载均衡设 备，PIOLINK公司的PAS-K采用具有自主专利技术的MPA(Multi-Proxy 架构)，性能强大，而且可 靠性高，同时结合PIOLINK PLOS专用操作系统，用户可根据自己的需求选择PAS-K的多种附加增 值功能，扩展性强。 2、 在PAS-K上设置SLB服务器负载均衡功能，PAS-K将针对内部的服务器群做服务器的负载均衡。通 过设置SLB功能，我们可以对外部访问内部的服务器流量进行流量均衡，将其分摊到对应服务器 集群的主机上，从而使得应用交换保证最佳服务。根据客户的应用环境

19、，PAS-K将根据最优算法 将访问请求分配到最快的响应服务器，保证用户实时快速不间断的访问应用，同时PAS-K能够平 滑稳定的扩展内部网络，以及增加服务器集群，当数据中心以后想增加服务器的时候，仅需要 在PAS-K上简单添加服务器IP的操作就可以完成。 3、 在PAS-K设备上通过配置服务器健康检查功能，以保证数据中心应用系统的可用性。健康检查包 括多种检测手段，如：ICMP、DNS、HTTP页面检测等多种方式。当PAS-K检测到某台服务器处于 不可用时，将用户请求自动转到当前正常工作的服务器上，保证了用户访问的不间断性。 4、 在PAS-K上启用智能优化和加速功能，采用标准的协议对用户访问的

20、HTTP流量进行智能的压缩， 在给用户提供很高的通信质量的同时，还能够极大的节约网站互联网接入带宽消耗，最大化的 提高网络用户访问服务器内容的速度；PAS-K系列产品能够在内存中以数据包的形式Cache住网 站页面中所有可以被Cache住的内容。当用户访问请求发送到PAS-K时，如果Cache中的内容能够 匹配用户的访问请求则直接由PAS-K来响应用户的访问，从而避免了对后台服务器的负载压力， 同时提高用户的访问速度；而SSL卸载功能则能显著减轻服务器的负担，提高服务器的工作效率 和可靠性。 5、 PAS-K设备支持网络安全防护、QOS带宽管理等附加功能，对内部的用户群组和服务器群组来说 ，P

21、AS-K可以通过启用安全防御模块，成为外网区和内网区之间的又一个安全枢纽，从而更加安 全的保护内网；QOS带宽管理则可以按照源和目标IP地址或者地址组、应用程序、端口、内容/U RL 和 cookies 对流量进行分级。 方案实现功能 通过 PAS-K 的 SLB 服务器负载均衡功能，PAS-K 可对内部的服务器集群进行智能的服务器负载均衡， 当客户端访问时，PAS-K 会截获需要做负载均衡的访问流量，通过设定的负载均衡策略，流量会智能分配 到后端的各个真实服务器上，从而能使得应用交换得到最佳服务保证。 通过PAS-K的强大的流量智能优化和加速功能，PAS-K可对客户端访问后端

22、服务器群的流量采用压缩、 缓存以及SSL卸载技术做进一步的优化处理，以节约用户带宽，降低网络延迟，同时减轻服务器的负担， 最大化的提高网络用户访问服务器内容的速度。 通过PAS-K的安全防御模块和QOS带宽管理功能，不但可以为内网区再增加一道安全防护门，从而确 保网络数据中心的安全，而且可以确保服务质量，保证关键应用的高性能,可以根据具体参数对流量类型 进行区分，并确定如何恰当地处理流量类型，从而对内部的用户进行高效的管理。 .2 旁路部署模式（旁路部署模式（HAHA） 解决方案拓扑图 旁路部署的优势是可以维持用户现有网络环境不变，设备上线和部署时，几乎对现网的

23、业务不产生 任何影响。下图为PIOLINK负载均衡设备PAS-K采用旁路（HA）部署方式的拓扑结构。 解决方案描述 如上图所示，我们对整个网络的构建如下： 1、 对于一个每天都在增长的网络，内部服务器数目的增长是非常之快，为了能够平滑稳定的扩展 内部网络，以及增加服务器集群，我们在数据中心服务器群旁路部署PIOLINK PAS-K负载均衡设 备，PIOLINK公司的PAS-K采用具有自主专利技术的MPA(Multi-Proxy 架构)，性能强大，而且可 靠性高，同时结合PIOLINK PLOS专用操作系统，用户可根据自己的需求选择PAS-K的多种附加增 值功能，扩展性强。 2、

24、 在PAS-K上设置SLB服务器负载均衡功能，PAS-K将针对内部的服务器群做服务器的负载均衡。通 过设置SLB功能，我们可以对外部访问内部的服务器流量进行流量均衡，将其分摊到对应服务器 集群的主机上，从而使得应用交换保证最佳服务。根据客户的应用环境，PAS-K将根据最优算法 将访问请求分配到最快的响应服务器，保证用户实时快速不间断的访问应用，同时PAS-K能够平 滑稳定的扩展内部网络，以及增加服务器集群，当数据中心以后想增加服务器的时候，仅需要 在PAS-K上简单添加服务器IP的操作就可以完成。 3、 在PAS-K设备上通过配置服务器健康检查功能，以保证数据中心应用系统的可用性。健康检查包

25、括多种检测手段，如：ICMP、DNS、HTTP页面检测等多种方式。当PAS-K检测到某台服务器处于 不可用时，将用户请求自动转到当前正常工作的服务器上，保证了用户访问的不间断性。 4、 PIOLINK负载均衡设备支持HA双机热备。方案中的两台PAS-K我们设置为Active-Standby的冗余( 也可以设成都是Active),平时一台处于Active工作状态，另一台处于standby的备份状态。备机 会时时备份主设备上的所有会话和状态，这样如果主设备出现问题或故障，根据冗余协议的设 置，备份PAS-K会及时接管主设备的所有会话，用户当前的应用不会受到影响，从而使得用户的 关键业务不会造成中断

26、，实现了高可用性。 5、 在PAS-K上启用智能优化和加速功能，采用标准的协议对用户访问的HTTP流量进行智能的压缩， 在给用户提供很高的通信质量的同时，还能够极大的节约网站互联网接入带宽消耗，最大化的 提高网络用户访问服务器内容的速度；PAS-K系列产品能够在内存中以数据包的形式Cache住网 站页面中所有可以被Cache住的内容。当用户访问请求发送到PAS-K时，如果Cache中的内容能够 匹配用户的访问请求则直接由PAS-K来响应用户的访问，从而避免了对后台服务器的负载压力， 同时提高用户的访问速度；而SSL卸载功能则能显著减轻服务器的负担，提高服务器的工作效率 和可靠性。 6、 PAS

27、-K设备支持网络安全防护、QOS带宽管理等附加功能，对内部的用户群组和服务器群组来说 ，PAS-K可以通过启用安全防御模块，成为外网区和内网区之间的又一个安全枢纽，从而更加安 全的保护内网；QOS带宽管理则可以按照源和目标IP地址或者地址组、应用程序、端口、内容/U RL 和 cookies 对流量进行分级。 方案实现功能 通过 PAS-K 的 SLB 服务器负载均衡功能，PAS-K 可对内部的服务器集群进行智能的服务器负载均衡， 当客户端访问时，PAS-K 会截获需要做负载均衡的访问流量，通过设定的负载均衡策略，流量会智能分配 到后端的各个真实服务器上，从而能使得应用交换得到

28、最佳服务保证。 通过PAS-K的强大的流量智能优化和加速功能，PAS-K可对客户端访问后端服务器群的流量采用压缩、 缓存以及SSL卸载技术做进一步的优化处理，以节约用户带宽，降低网络延迟，同时减轻服务器的负担， 最大化的提高网络用户访问服务器内容的速度。 通过PAS-K的安全防御模块和QOS带宽管理功能，不但可以为内网区再增加一道安全防护门，从而确 保网络数据中心的安全，而且可以确保服务质量，保证关键应用的高性能,可以根据具体参数对流量类型 进行区分，并确定如何恰当地处理流量类型，从而对内部的用户进行高效的管理。 .3 串行部署模式串行部署模式 解决方案拓扑图

29、下图为PIOLINK负载均衡设备PAS-K采用串行部署方式的拓扑结构。 解决方案描述 如上图所示，我们对整个网络的构建如下： 1、 对于一个每天都在增长的网络，内部服务器数目的增长是非常之快，为了能够平滑稳定的扩展 内部网络，以及增加服务器集群，我们在数据中心服务器群串行部署PIOLINK PAS-K负载均衡设 备，PIOLINK公司的PAS-K采用具有自主专利技术的MPA(Multi-Proxy 架构)，性能强大，而且可 靠性高，同时结合PIOLINK PLOS专用操作系统，用户可根据自己的需求选择PAS-K的多种附加增 值功能，扩展性强。 2、 在PAS-K上设置SLB服务

30、器负载均衡功能，PAS-K将针对内部的服务器群做服务器的负载均衡。通 过设置SLB功能，我们可以对外部访问内部的服务器流量进行流量均衡，将其分摊到对应服务器 集群的主机上，从而使得应用交换保证最佳服务。根据客户的应用环境，PAS-K将根据最优算法 将访问请求分配到最快的响应服务器，保证用户实时快速不间断的访问应用，同时PAS-K能够平 滑稳定的扩展内部网络，以及增加服务器集群，当数据中心以后想增加服务器的时候，仅需要 在PAS-K上简单添加服务器IP的操作就可以完成。 3、 在PAS-K设备上通过配置服务器健康检查功能，以保证数据中心应用系统的可用性。健康检查包 括多种检测手段，如：ICMP、

31、DNS、HTTP页面检测等多种方式。当PAS-K检测到某台服务器处于 不可用时，将用户请求自动转到当前正常工作的服务器上，保证了用户访问的不间断性。 4、 在PAS-K上启用智能优化和加速功能，采用标准的协议对用户访问的HTTP流量进行智能的压缩， 在给用户提供很高的通信质量的同时，还能够极大的节约网站互联网接入带宽消耗，最大化的 提高网络用户访问服务器内容的速度；PAS-K系列产品能够在内存中以数据包的形式Cache住网 站页面中所有可以被Cache住的内容。当用户访问请求发送到PAS-K时，如果Cache中的内容能够 匹配用户的访问请求则直接由PAS-K来响应用户的访问，从而避免了对后台服

32、务器的负载压力， 同时提高用户的访问速度；而SSL卸载功能则能显著减轻服务器的负担，提高服务器的工作效率 和可靠性。 5、 PAS-K设备支持网络安全防护、QOS带宽管理等附加功能，对内部的用户群组和服务器群组来说 ，PAS-K可以通过启用安全防御模块，成为外网区和内网区之间的又一个安全枢纽，从而更加安 全的保护内网；QOS带宽管理则可以按照源和目标IP地址或者地址组、应用程序、端口、内容/U RL 和 cookies 对流量进行分级。 方案实现功能 通过 PAS-K 的 SLB 服务器负载均衡功能，PAS-K 可对内部的服务器集群进行智能的服务器负载均衡， 当客户端访问时，P

33、AS-K 会截获需要做负载均衡的访问流量，通过设定的负载均衡策略，流量会智能分配 到后端的各个真实服务器上，从而能使得应用交换得到最佳服务保证。 通过PAS-K的强大的流量智能优化和加速功能，PAS-K可对客户端访问后端服务器群的流量采用压缩、 缓存以及SSL卸载技术做进一步的优化处理，以节约用户带宽，降低网络延迟，同时减轻服务器的负担， 最大化的提高网络用户访问服务器内容的速度。 通过PAS-K的安全防御模块和QOS带宽管理功能，不但可以为内网区再增加一道安全防护门，从而确 保网络数据中心的安全，而且可以确保服务质量，保证关键应用的高性能,可以根据具体参数对流量类型 进行区分，并确定如何恰当

34、地处理流量类型，从而对内部的用户进行高效的管理。 .4 串行部署模式（串行部署模式（HAHA） 解决方案拓扑图 下图为PIOLINK负载均衡设备PAS-K采用串行（HA）部署方式的拓扑结构。 解决方案描述 如上图所示，我们对整个网络的构建如下： 1、 对于一个每天都在增长的网络，内部服务器数目的增长是非常之快，为了能够平滑稳定的扩展 内部网络，以及增加服务器集群，我们在数据中心服务器群旁路部署PIOLINK PAS-K负载均衡设 备，PIOLINK公司的PAS-K采用具有自主专利技术的MPA(Multi-Proxy 架构)，性能强大，而且可 靠性

35、高，同时结合PIOLINK PLOS专用操作系统，用户可根据自己的需求选择PAS-K的多种附加增 值功能，扩展性强。 2、 在PAS-K上设置SLB服务器负载均衡功能，PAS-K将针对内部的服务器群做服务器的负载均衡。通 过设置SLB功能，我们可以对外部访问内部的服务器流量进行流量均衡，将其分摊到对应服务器 集群的主机上，从而使得应用交换保证最佳服务。根据客户的应用环境，PAS-K将根据最优算法 将访问请求分配到最快的响应服务器，保证用户实时快速不间断的访问应用，同时PAS-K能够平 滑稳定的扩展内部网络，以及增加服务器集群，当数据中心以后想增加服务器的时候，仅需要 在PAS-K上简单添加服务

36、器IP的操作就可以完成。 3、 在PAS-K设备上通过配置服务器健康检查功能，以保证数据中心应用系统的可用性。健康检查包 括多种检测手段，如：ICMP、DNS、HTTP页面检测等多种方式。当PAS-K检测到某台服务器处于 不可用时，将用户请求自动转到当前正常工作的服务器上，保证了用户访问的不间断性。 4、 PIOLINK负载均衡设备支持HA双机热备。方案中的两台PAS-K我们设置为Active-Standby的冗余( 也可以设成都是Active),平时一台处于Active工作状态，另一台处于standby的备份状态。备机 会时时备份主设备上的所有会话和状态，这样如果主设备出现问题或故障，根据冗

37、余协议的设 置，备份PAS-K会及时接管主设备的所有会话，用户当前的应用不会受到影响，从而使得用户的 关键业务不会造成中断，实现了高可用性。 5、 在PAS-K上启用智能优化和加速功能，采用标准的协议对用户访问的HTTP流量进行智能的压缩， 在给用户提供很高的通信质量的同时，还能够极大的节约网站互联网接入带宽消耗，最大化的 提高网络用户访问服务器内容的速度；PAS-K系列产品能够在内存中以数据包的形式Cache住网 站页面中所有可以被Cache住的内容。当用户访问请求发送到PAS-K时，如果Cache中的内容能够 匹配用户的访问请求则直接由PAS-K来响应用户的访问，从而避免了对后台服务器的负

38、载压力， 同时提高用户的访问速度；而SSL卸载功能则能显著减轻服务器的负担，提高服务器的工作效率 和可靠性。 6、 PAS-K设备支持网络安全防护、QOS带宽管理等附加功能，对内部的用户群组和服务器群组来说 ，PAS-K可以通过启用安全防御模块，成为外网区和内网区之间的又一个安全枢纽，从而更加安 全的保护内网；QOS带宽管理则可以按照源和目标IP地址或者地址组、应用程序、端口、内容/U RL 和 cookies 对流量进行分级。 方案实现功能 通过 PAS-K 的 SLB 服务器负载均衡功能，PAS-K 可对内部的服务器集群进行智能的服务器负载均衡， 当客户端访问时，PAS-K

39、 会截获需要做负载均衡的访问流量，通过设定的负载均衡策略，流量会智能分配 到后端的各个真实服务器上，从而能使得应用交换得到最佳服务保证。 通过PAS-K的强大的流量智能优化和加速功能，PAS-K可对客户端访问后端服务器群的流量采用压缩、 缓存以及SSL卸载技术做进一步的优化处理，以节约用户带宽，降低网络延迟，同时减轻服务器的负担， 最大化的提高网络用户访问服务器内容的速度。 通过PAS-K的安全防御模块和QOS带宽管理功能，不但可以为内网区再增加一道安全防护门，从而确 保网络数据中心的安全，而且可以确保服务质量，保证关键应用的高性能,可以根据具体参数对流量类型 进行区分，并确定如何恰当地处理流

40、量类型，从而对内部的用户进行高效的管理。 3.33.3 解决方案价值体现解决方案价值体现 通过采用PIOLINK PAS-K服务器负载均衡解决方案，用户数据中心应用系统将实现如下收益： 提升了应用系统的整体响应能力提升了应用系统的整体响应能力 通过PAS-K对数据中心应用系统服务器进行负载均衡以后，能够根椐目标服务器之间性能和网络 健康情况选择性能最佳的服务器响应用户的请求，充分利用所有的服务器资源，将所有流量均 衡的分配到各个服务器上，从而解决了单台服务器的I/O处理能力有限所造成的性能瓶颈问题， 多台服务器同时提供服务，系统就完全拥有每秒钟处理几百万个甚至更多请求的能力,极大的提 升了应用

41、系统的响应能力；同时，再结合PAS-K的智能优化和加速技术对用户的访问流量做进一 步的加速和优化处理，增强了用户的访问体验。 提高了应用系统的高可靠性提高了应用系统的高可靠性 采用PAS-K服务器负载均衡解决方案以后，因为有了多台服务器共同工作，同时提供服务，一旦 某一台服务器发生软硬件故障，PAS-K能够及时检测到，将其从正常服务队列中移除，将流量导 向至正常工作服务器，并向管理员告警以便于及时排除故障，从而解决了单台服务器提供服务 的单点故障问题，而PAS-K的安全防御功能则增加了又一道保护内部服务器群的安全网关，内部 网络安全的到了保证，设备将有效保护内部网络；同时，PAS-K的电信级的

42、高稳定性以及方案中 的双机冗余的拓扑设计，实现了应用系统的业务访问的连续性，提高了应用系统的高可靠性。 降低了用户降低了用户ITIT建设的建设的TCOTCO（总拥有成本）（总拥有成本） 采用PAS-K服务器负载均衡解决方案以后，解决了传统解决方案的服务器利用不平衡现像，用户 购买的服务器资源能够得到最大利用，也解决了传统解决方案在面对流量快速增长不断采购性 能更好服务器所造成的巨大的投资浪费问题，同时通过PAS-K的策略设置，也可以将用户替换下 来的性能略差，但是功能完好的旧有服务器也得到有效利用，使用户的IT投资得到更加合理的 利用，降低了用户IT建设的TCO。 总之，对于未来的数据中心网络

43、来说，由于使用了PAS-K负载均衡设备，信息系统的整个安全性，可 扩充性和易用性得到了极大的提升。真正满足了用户对于改善网络系统4S-Stability（安定性）、 Scalability（扩展性）、Speed（高速性）、Security（安全性）的需求。 4.4. PIOLINKPIOLINK负载均衡技术负载均衡技术特色和优势特色和优势 4.14.1 服务器负载均衡功能描述服务器负载均衡功能描述 PIOLINK公司的PAS-K设备实现SLB服务器负载均衡，连接的时候，我们只需要启用设备的SLB功能即 可，工作特性如下： Piolink的PAS-K服务器负载均衡解决方案，为不确定的动态网络提供

44、不间断服务： 应用状态监控应用状态监控 首先，PAS-K可靠的状态监控机制可以保证用户获得最佳的服务。PAS-K可以监视服务器在IP、T CP、UDP、应用和内容等所有协议层上的工作状态。如果发现故障，用户即被透明地重定向到正 常工作的服务器上。这可以保证用户始终能够获得他们所期望的信息。 交易完整性的可靠保证交易完整性的可靠保证 为了确保服务正常运行，PAS-K监控从 Web 服务器、中间件服务器到后端数据库服务器的整个 路径上工作状态，确保整个数据路径上的服务器都处于正常状态。如果存在一个故障服务器，P AS-K则不会将用户分配到这个发生故障路径的服务器，从而保证为用户提供透明的数据完整性

45、 保障。 完全的容错与冗余完全的容错与冗余 PAS-K的配置提供设备间的完全容错，以确保网络最大的可用性。两个设备通过网络相互检查各 自的工作状态，为其所管理的应用保障完全的网络可用性。它们可工作于“主用-备用”模式或 “主用-主用”模式，在“主用-主用”模式下，因为两个设备都处于工作状态，从而最大限度 地保护了投资。并且所有的信息都可在设备间进行镜像，从而提供透明的冗余和完全的容错， 确保在任何时候用户都可以获得从点击到内容的最佳服务。 通过正常退出服务保证稳定运行通过正常退出服务保证稳定运行 当需要进行服务器升级或系统维护时，PAS-K保证稳定的服务器退出服务以避免服务中断。当选 定某台服

46、务器要从服务器退出服务后，PAS-K将不会将任何新的用户分配到该服务器。但是，它 可以要退出服务的服务器上完成对当前用户的服务。从而保证了无中断的优质服务，以及服务 器组的简易管理能力。 智能的服务器服务恢复智能的服务器服务恢复 将重新启动的服务器应用到服务中时，避免新服务器因突然出现的流量冲击导致系统故障是非 常重要的。所以，在将新服务器引入服务器组时，PAS-K将逐渐地增加分配到该服务器的流量， 直至达到其完全的处理能力。从而不仅保证用户在服务器退出服务时，同时还保证服务器在启 动期间以及应用程序开始时，均能获得不间断服务。 4.24.2 服务器负载均衡算法服务器负载均衡算法 考虑到服务请

47、求的不同类型、服务器的不同处理能力以及随机选择造成的负载分配不均匀等问题， 为了更加合理的把负载分配给内部的多个服务器，就需要应用相应的能够正确反映各个服务器处理能力 及网络状态的负载均衡算法。 PAS-K提供具有静态特性的散列法和轮询算法、最少连接、加权轮询算法、加权最少连接、最大加权 值等动态负载均衡算法。动态负载均衡算法是在各种各样的流量环境下，也可以使得提供稳定的服务以 及提高处理速度。URL散列法和最大加权值算法是只用于七层负载均衡，另外的负载均衡算法是可以用于 四层和七层负载均衡。下面详细的说明各算法： 轮循均衡（轮循均衡（RoundRound RobinRobin） 每一次来自网

48、络的请求轮流分配给内部的服务器，从1至N然后重新开始。此种均衡算法适合于服务 器组中的所有服务器都有相同的软硬件配置并且平均服务请求相对均衡的情况。 权重轮循均衡（权重轮循均衡（WeightedWeighted RoundRound RobinRobin） 根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权值数的服务请求。 例如：服务器A的权值被设计成1，B的权值是3，C的权值是6，则服务器A、B、C将分别接受到 10%、30、60的服务请求。此种均衡算法能确保高性能的服务器得到更多的使用率，避免低性能的服 务器负载过重。 散列（散列（hashhash）算法）算法 散列算

49、法是利用客户端的IP地址，对于新的连接计算散列密钥(Hashing Key)来选择真实服务器的算 法。 URLURL散列散列(hash)(hash)算法算法 URL散列法是使用客户端请求的URL来生成散列密钥，此算法不同于使用客户端的源/目的IP地址的散 列法。如果使用URL散列法，对于相同URL的请求将连接到相同真实服务器。 最少连接数均衡（最少连接数均衡（LeastLeast ConnectionConnection） 客户端的每一次请求服务在服务器停留的时间可能会有较大的差异，随着工作时间加长，如果采用 简单的轮循或随机均衡算法，每一台服务器上的连接进程可能会产 生极大的不同，并没有达到

50、真正的负 载均衡。最少连接数均衡算法对内部中需负载的每一台服务器都有一个数据记录，记录当前该服务器正 在处理的连接数量，当有 新的服务连接请求时，将把当前请求分配给连接数最少的服务器，使均衡更加 符合实际情况，负载更加均衡。此种均衡算法适合长时处理的请求服务，如FTP。 处理能力均衡处理能力均衡 此种均衡算法将把服务请求分配给内部中处理负荷（根据服务器CPU型号、CPU数量、内存大小及当 前连接数等换算而成）最轻的服务器，由于考虑到了内部服 务器的处理能力及当前网络运行状况，所以 此种均衡算法相对来说更加精确，尤其适合运用到第七层（应用层）负载均衡的情况下。 4.34.3 服务器负载均衡会话保

51、持技术服务器负载均衡会话保持技术 当客户端和服务器之间共享某种状态信息时，做到会话保持是非常有用的。例如，一个网上购物的 应用，可能就需要依赖于客户端与服务器会话信息的一致性：有关一个购物车的详细信息可能会涉及到 前后多个单独的TCP连接，而同一个购物会话的多个TCP连接中的信息必须保持一致。PAS-K支持多种会话 保持的机制：基于Cookie的会话保持、基于IP地址的会话保持以及基于SSL话路ID的会话保持。 基于基于HTTPHTTP CookieCookie的会话保持的会话保持 基于HTTP Cookie的会话保持是利用服务器和客户端之间交换的HTTP Cookie信息来选择真实服务器 的

52、持续连接功能。通过此功能可以解决利用IP地址时可能发生的问题。 Cookie是为交换HTTP服务器和客户端之间的状态信息的机制。下图是Cookie的工作过程。 1. 客户端发送不包含Cookie的HTTP请求。 2. 服务器做出应答时，使用Set-Cookie标头向客户端发送Cookie。 3. 客户端保存接收的Cookie，向同一个服务器发送请求时，在HTTP请求标头中加入Cookie后发送。 4. 服务器根据HTTP请求标头中的Cookie值来处理HTTP请求。 当服务器发送Set-Cookie领域时，可以设定Cookie的期满日期和时间，期满后保存在客户端的Cooki e将不再被加入到H

53、TTP请求中。指定期满时间的Cookie叫持久性Cookie；而没有指定期满时间的Cookie叫 临时性Cookie。当关闭网页浏览器时，临时性Cookie也将被消失。 工作方式：基于HTTP Cookie的持续连接是利用服务器和客户端之间交换的HTTP Cookie信息，第一 次连接真实服务器时，把真实服务器的信息记录在Cookie内。此后，客户端发送的HTTP请求中包含着真 实服务器的信息，因此根据Cookie值可以确认上次连接过的真实服务器。 例如：如果客户端向CGI服务器组内的IP地址为的真实服务器发送HTTP请求，真实 服务器在HTTP应答标头中加入如下的Set

54、-Cookie领域后，发送给客户端。 Set-Cookie: PiolinkCGI=c0a80101; path=/ 客户端接收此Cookie后，向同一个服务器发送请求时，在HTTP请求标头的Cookie领域中加入如下值 。 Cookie: PiolinkCGI=c0a80101 如果启用基于HTTP Cooki持续连接功能的负载均衡服务接收客户端的HTTP请求，不使用负载均衡算 法来选择真实服务器，而直接选择IP地址为的真实服务器。 模式：基于HTTP Cookie的会话保持功能是根据记录Set-Cookie值的对象可分为被动（Passive）、 嵌入（Insert）、

55、重写（Rewrite）、散列（Hash）等四种模式。散列模式于其它三种模式不同，真实服 务器直接对每个话路提供Cookie。七层负载均衡中，可以对于每个服务器组设定会话保持方式。 基于基于IPIP地址的会话保持地址的会话保持 对于支持第4层负载均衡的一般的TCP/UDP集群，PIOLINK支持基于IP地址的会话保持。如果在系统中 激活了“sticky connections”特性，PIOLINK则在客户端连接到一台服务器时，用源IP地址来标识客户 端。PIOLINK在一段设定的时间内会把来自同一个IP地址的客户请求转发给同一台服务器。 “sticky timer”是会话保持计时器，用来对某一客户端与一台服务器连接后所过去的时间计时。 在某一客户端与一台服务器的连接中止后而且它们之间也没有别的当前连接时，计时器便开