负载均衡解决方案

ezOFFICE 负载均衡解决方案 负载均衡实现方案负载均衡实现方案 负载均衡是 OA 系统多应用和集群部署必不可少的组件 作为多应用和集 群部署的前端 负载均衡负责将用户的请求分发到后端各个 OA 应用上 并将 OA 应用的响应返回给用户 后端的 OA 应用可以是独立的多应用部署 也可以是集群部署 两者间的 区别在于集群部署可以实现会话复制 即用户的会话可以在集群中的应用间进 行复制 其好处在于当用户当前访问的应用宕机时 由于用户会话会被复制到 另一正常应用上 因此用户访问将不会受到影响 不需要重新登录 OA 系统 而独立的多应用部署没有会话复制功能 负载均衡为 OA 系统提供了高性能 高可靠性和可扩展能力 高性能 负载均衡可以将用户的访问请求均衡分配到各个 OA 应用上 从 而避免单一应用负载过高 影响此应用的访问体验 高可靠性 负载均衡可以探测各个 OA 应用的运行状况 自动将出现问题 的 OA 应用退出负载 避免用户继续访问此应用 可扩展性 通过扩展负载均衡后的 OA 应用数量 从而让 OA 系统负担 更多的用户并发访问 实现负载均衡有多种方法 对于 OA 系统常见的方法有以下三种 一 基于一 基于 JSP 页面的跳转页面的跳转 将一个 OA 应用做为主应用 用户统一访问此应用 由此应用上的特定的 JSP 页面按轮询的方式将用户平均分配到其他各个应用上 此方法的优点在于实现简单 且没有成本 不需要额外的设备和软件 此方法的缺点在于不能提供高可靠性 当其中一个应用出现问题时 主应 用仍然会将用户分配到此应用上 只有用户重新访问主应用 主应用才会将用 户分配到另外一个应用上 ezOFFICE 负载均衡解决方案 二 基于反向代理软件二 基于反向代理软件 此方法通过反向代理软件实现后端各个 OA 应用间的负载均衡 1 1 实现方式 实现方式 代理服务器 OA 应用1 OA 应用2 OA 应用3 2 1 43 用户通过反向代理软件提供的 IP 地址和端口访问 OA 系统 过程如下 1 用户将访问请求发送到反向代理软件 2 反向代理软件根据请求中的特定标识 客户端 ip 地址或 cookie 标记 将用户请求转发给特定的后端 OA 应用 由于 OA 系统是基于用户 的 在用户访问过程中始终保持用户会话 因此需要反向代理软件具有 会话保持能力 始终将特定用户的请求路由到后端的同一个 OA 应用 3 后端应用将响应返回给反向代理软件 4 反向代理软件将响应转发给用户 ezOFFICE 负载均衡解决方案 2 2 方案优势 方案优势 2 1 功能较完备 功能较完备 反向代理软件可以实现硬件负载均衡的大多数功能 如基于轮询的负载均衡 方案 后端服务健康监控 基于 IP HASH 或 COOKIE INSERT 的会话保持策 略等 2 2 成本较低 成本较低 在用户并发和稳定性要求不高的环境下 反向代理软件可以实现硬件负载均 衡的大多数功能 而投入成本大大低于硬件负载均衡设备 其只需要投资一台 代理服务器 配置仅需要 8 CPU 8GB 内存即可 而现在流行的反向代理软件 多是免费的 3 3 方案缺点 方案缺点 3 13 1 性能和可靠性不高 性能和可靠性不高 反向代理软件的可靠性依赖于其运行的服务器和操作系统的可靠性 一般来 说 代理服务器选用 X86 架构的服务器 操作系统为 LINUX 其可靠性要低 于采用专用硬件和内嵌系统的硬件负载均衡设备 相对于硬件负载均衡设备 反向代理软件所运行的服务器和操作系统没有针 对其进行专门的优化 使其没有办法充分利用所有的硬件和系统资源 因此在 大并发环境会存在性能瓶颈 3 23 2 日常维护繁琐 日常维护繁琐 相对于硬件负载均衡设备 绝大多数反向代理软件不包含或仅包含简单的管 理控制台和运行日志 在日常维护中 管理员不能直观的观察到反向代理软件 的运行状态 代理软件的所有配置修改只能通过修改配置文件实现 并需要重 启代理软件才可以生效 3 33 3 有限的健康检查 有限的健康检查 反向代理软件只能通过检查后端应用的 TCP 端口来判断应用是否正常运行 ezOFFICE 负载均衡解决方案 但是 OA 应用在运行过程中常常会遇到 TCP 端口可访问 页面无法打开或打 开出错的情况 在这种情况下 反向代理软件仍然会将用户请求路由到出现问 题的应用上 从而导致用户访问出错 三 采用负载均衡硬件设备三 采用负载均衡硬件设备 此方法通过硬件负载均衡设备来实现多个 OA 应用之间的负载均衡 1 1 实现方式 实现方式 F5 BIG IP 利用定义在其上面的虚拟 IP 地址 VIP 来为用户的一个或多 个应用提供服务 因此 它能够为大量的基于 TCP IP 的网络应用提供服务器负 载均衡服务 F5 BIG IP 连续地对目标服务器进行 L4 到 L7 合理性检查 当用 户通过 VIP 请求目标服务器服务时 F5 BIG IP 根椐目标服务器之间性能和网 络健康情况 选择性能最佳的服务器响应用户的请求 下图描述了一个负载平衡发生的流程 1 客户发出服务请求到 VIP 2 F5 BIG IP 接收到请求 将数据包中目的 IP 地址改为选中的后台服务 器 IP 地址 然后将数据包发出到后台选定的应用 3 后台服务器收到后 将应答包按照其路由发回到 F5 BIG IP ezOFFICE 负载均衡解决方案 4 F5 BIG IP 收到应答包后将其中的源地址改回成 VIP 的地址 发回客户 端 由此就完成了一个标准的服务器负载平衡的流程 对于所有应用 可以在 F5 BIG IP 上配置 Virtual Server 实现负载均衡 同时 F5 BIG IP 可持续检查服务器的健康状态 一旦发现故障服务器 则将其 从负载均衡组中摘除 2 2 方案优势 方案优势 2 12 1 避免 避免 不平衡不平衡 现象现象 BIG IP 利用 Virtual Server 虚拟服务器 VS 由 IP 地址和 TCP UDP 应用的 端口组成 来为用户的一个或多个目标服务器 称为 Node 目标服务器的 IP 地址和 TCP UDP 应用的端口组成 它可以是私网地址 提供服务 因此 它能 够为大量的基于 TCP IP 的网络应用提供服务器负载均衡服务 根据服务类型不 同分别定义服务器群组 可以根据不同服务端口将流量导向到相应的服务器 BIG IP 连续地对目标服务器进行 L4 到 L7 合理性检查 当用户通过 VIP 请求目 标服务器服务时 BIG IP 根椐目标服务器之间性能和网络健康情况 选择性能 最佳的服务器响应用户的请求 如果能够充分利用所有的服务器资源 将所有 流量均衡的分配到各个服务器 我们就可以有效地避免 不平衡 现象的发生 ezOFFICE 负载均衡解决方案 2 22 2 服务器的健康监控和检查 服务器的健康监控和检查 服务器 Node Ping ICMP BIGIP 可以定期的通过 ICMP 包对后台服务器的 IP 地址进行检测 如果 在设定的时间内能收到该地址的 ICMP 的回应 则认为该服务器能提供服务 服务 Port Connect BIGIP 可以定期的通过 TCP 包对后台服务器的服务端口进行检测 如果 在设定的时间内能收到该服务器端口的回应 则认为该服务器能提供服务 扩展内容查证 ECV Extended Content Verification ECV ECV 是一种非常复杂的服务检查 主要用于确认应用程序能否对请求返 回对应的数据 如果一个应用对该服务检查作出响应并返回对应的数据 则 BIG IP 控制器将该服务器标识为工作良好 如果服务器不能返回相应的 数据 则将该服务器标识为宕机 宕机一旦修复 BIG IP 就会自动查证应 用已能对客户请求作出正确响应并恢复向该服务器传送 该功能使 BIG IP 可以将保护延伸到后端应用如 Web 内容及数据库 BIG ip 的 ECV 功能允许 您向 Web 服务器 防火墙 缓存服务器 代理服务器和其它透明设备发送 查询 然后检查返回的响应 这将有助于确认您为客户提供的内容正是其 所需要的 ezOFFICE 负载均衡解决方案 扩展应用查证 EAV Extended Application Verification EAV 是另一种服务检查 用于确认运行在某个服务器上的应用能否对客 户请求作出响应 为完成这种检查 BIG IP 控制器使用一个被称作外部服 务检查者的客户程序 该程序为 BIG IP 提供完全客户化的服务检查功能 但它位于 BIG IP 控制器的外部 例如 该外部服务检查者可以查证一个 Internet 或 Intranet 上的从后台数据库中取出数据并在 HTML 网页上显示 的应用能否正常工作 EAV 是 BIG IP 提供的非常独特的功能 它提供管理 者将 BIG IP 客户化后访问各种各样应用的能力 该功能使 BIG IP 在提供 标准的可用性查证之外能获得服务器 应用及内容可用性等最重要的反馈 该功能对于电子商务和其它应用至关重要 它用于从客户的角度测试您 的站点 例如 您可以模拟客户完成交易所需的所有步骤 连接到站点 从目录中选择项目以及验证交易使用的信用卡 一旦 BIG ip 掌握了该 可 用性 信息 即可利用负载平衡使资源达到最高的可用性 BIG ip 已经为测试 Internet 服务的健康情况和状态 预定义的扩展应 用验证 EAV 它有二种用户界面 浏览器和 CLI 配置 BIG IP 预定义的应 用检查 FTP NNTP SMTP POP3 和 MSSQL 2 3 UIE iRuels BIGIP 利用 UIE iRules 技术 可以将 TCP UDP 数据包打开 并搜索其中的 特征数据 之后根据搜索到的特征数据作相应的规则处理 因此可以根据用户 访问内容的不同将流量导向到相应的服务器 实现 7 层的负载均衡 例如 根 据用户访问请求的 URL 将流量导向到相应的服务器 ezOFFICE 负载均衡解决方案 BIG IP 提供了一套有针对性的方法来减少服务器压力 降低互联网延迟和 客户机连接瓶颈对其应用访问性能所造成的影响 通过综合采用多种应用优化 手段以后 应用访问的性能可以得到显著提高 与此同时 由于服务器性能的 提高 还可以达到减少服务器数量 减少带宽占用从而节省投资的目的 2 42 4 连接优化 连接优化 BIGIP 通过 Oneconnect 技术 将所有客户端的 TCP 连接转移至 BIGIP 进行 处理 而 BIGIP 与服务器之间仅建立少量的 持续的 TCP 连接 使 Web 服务器 从处理大量的并发 TCP 请求和 TCP 连接建立 卸载的负担中解脱出来 同时当 BIGIP 收到用户请求后才发送到服务器 服务器可免于受到客户端和网络异常 的影响 BIGIP 还会缓存所有服务器的响应数据包 服务器以 LAN 速度发送数 据到 BIGIP 服务器不会受到慢速客户端连接的牵累 服务器的大量 CPU 资源 被释放来提供数据 而不是管理连接 ezOFFICE 负载均衡解决方案 BIGIP 通过控制容量需求和访问分析优化了服务性能和带宽 企业也因为 增加了更多的计算资源 减少了出口带宽需求而降低服务器和带宽投资 并且 减少服务响应延迟和运营成本 2 52 5 HTTPHTTP 压缩压缩 BIG IP 提供业内最具扩展性 最智能也最灵活的压缩解决方案 BIG IP 系统通过从服务器中不对称卸载 HTTP 压缩 降低了服务器开销 并通过实现 服务器整合 将服务器总体拥有成本降低了高达 65 BIG IP 系统充分利用现 有浏览器解压缩能力 无需对客户机进行任何修改 亦无需下载任何可能带来 入侵威胁的软件 BIG IP 智能压缩采用已申请专利的方法来测量客户连接延迟 这使带宽使用率降低了 60 80 同时将用户响应时间提高了两倍以上 BIG IP 是业内首款为企业提供的可扩展式压缩解决方案 具有通过优化硬件及其自适 应压缩卸载 Adaptive Compression Offload 压缩 web 流量的可选功能 BIG IP 系统的智能压缩功能为企业提供了一种针对目标用户进行压缩的方 式 压缩流量不一定要以带宽利用率的降低为代价 真正的挑战在于把握如何 最有效的定位 从而使用户获得最大优势 例如 由于拨号用户延迟较高 所 以 对其进行压缩可使这部分用户获得最大优势 而由于宽带用户的接收窗口 尺寸较大 因此 他们因此获得的优势则微乎其微 这是因为 宽带用户现在 需要等待更长的时间来接收数据 这将导致响应时间变慢 因此 压缩的优势 被抵消 BIG IP 采用已申请专利的技术来动态检测客户连接延迟 BIG IP 系 统能够监控 TCP RTT 往返时间 以动态计算用户延迟 从而使 BIG IP 能 ezOFFICE 负载均衡解决方案 更专注于将流量压缩并传送给最需要它们的用户 2 62 6 负载均衡和应用交换功能 负载均衡和应用交换功能 BIGIP 是一台对流量和内容进行管理分配的设备 它提供 12 种灵活的算法 将数据流有效地转发到它所连接的应用 而面对用户 只是一台虚拟服务器 用户此时只须记住一台服务器 即虚拟服务器 但他们的数据流却被 BIGIP 灵 活地均衡到所有的服务器 这 12 种算法包括 轮询 Round Robin 顺序循环将请求一次顺序循环地连接每个服务器 当其中某个服务器发生第二到第 7 层的故障 BIG IP 就把其从顺序循环队 列中拿出 不参加下一次的轮询 直到其恢复正常 比率 Ratio 给每个服务器分配一个加权值为比例 根椐这个比例 把 用户的请求分配到每个服务器 当其中某个服务器发生第二到第 7 层的故 障 BIG IP 就把其从服务器队列中拿出 不参加下一次的用户请求的分配 直到其恢复正常 优先权 Priority 给所有服务器分组 给每个组定义优先权 BIG IP 用户的请求 分配给优先级最高的服务器组 在同一组内 采用轮询或比 率算法 分配用户的请求 当最高优先级中所有服务器出现故障 BIG IP 才将请求送给次优先级的服务器组 这种方式 实际为用户提供一种热备 份的方式 最少的连接方式 Least Connection 传递新的连接给那些进行最少连 接处理的服务器 当其中某个服务器发生第二到第 7 层的故障 BIG IP 就 把其从服务器队列中拿出 不参加下一次的用户请求的分配 直到其恢复 正常 最快模式 Fastest 传递连接给那些响应最快的服务器 当其中某个服 务器发生第二到第 7 层的故障 BIG IP 就把其从服务器队列中拿出 不参 加下一次的用户请求的分配 直到其恢复正常 观察模式 Observed 连接数目和响应时间以这两项的最佳平衡为依据 为新的请求选择服务器 当其中某个服务器发生第二到第 7 层的故障 ezOFFICE 负载均衡解决方案 BIG IP 就把其从服务器队列中拿出 不参加下一次的用户请求的分配 直 到其恢复正常 预测模式 Predictive BIG IP 利用收集到的服务器当前的性能指标 进行预测分析 选择一台服务器在下一个时间片内 其性能将达到最佳的 服务器相应用户的请求 被 bigip 进行检测 动态性能