（计算机应用技术专业论文）移动wap+push+mail系统的测试与研究.pdf

东南大学硕士学位论文 摘要 随着江苏移动的企业邮箱业务的不断发展 基于w a pp u s hm a i l 业务的邮箱系 统以其和手机的绑定功能在电子邮箱领域得到推广应用 与此同时 系统的用户数 也在不断增长 因此 确保邮件服务器在压力环境下依然具有良好性能是十分必要 的 在这种需求的推动下 邮箱服务器性能测试技术具备巨大的商业应用前景 w a pp u s h 技术是一种建立在客户服务器上的机制 是由服务器主动将信息发 往客户端的技术 同传统的拉 p u l l 技术相比 最主要的区别在于推送 p u s h 技术 是由服务器主动向客户机发送信息 而拉 p u l l 技术则是由客户机主动请求信息 p u s h 技术的优势在于信息的主动性和及时性 w a pp u s hm a i l 无线邮件推送业务系统 是一套主动将电子邮件到达通知推送 到手机终端的邮件业务系统 当注册用户的电子邮箱有新邮件到达时 系统会以 w a pp u s h 方式 及时将新邮件到达通知推送到用户移动终端 用户点击该消息 就能够立即在线浏览 阅读 回复 转发新邮件 同时 注册用户能够将电子邮件 发送给其他用户 收件人也将及时收到新邮件到达通知 并通过点击通知消息 在 线阅读新邮件 在本论文中 作者分析了现有邮箱系统的架构 提出了针对系统的压力核算方 法 并使用l o a d r u n n e r 工业级负载测试工具对邮箱服务器进行压力环境下性能测 试 最终通过对测试结果进行分析 给出了系统上线的性能报告 并提出了对系统 今后的扩容建议 达到了服务器性能测试的目的 关键词 w a p 推送 无线邮件推送服务系统 理发师模型 l o a d r u n n e r 东南大学硕士学位论文 a b s t r a c t w i t ht h ed e v e l o p m e n to fj i a n g s um o b i l ee n t e r p r i s ee m a i lb u s i n e s s t h em a i ls y s t e m b a s e do nw a pp u s hm a i la r ew i d e l yp o p u l a r i z e da m o n gt h ea r e ao fe m a i lf o rt h e i r f u n c t i o nt h a tc o m b i n ew i t hc e l l p h o n e a tt h es a m et i m e t h ee m a i lu s e r sa r ei n c r e a s i n g w i t ht h i s i n c r e a s i n gr e q u i r e m e n t s t h eb u s i n e s sf o r e c a s eo ft h ep e r f o r m a n c et e s t i n g t e c h n i q u ef o re m a i ls e r v e ri sv e r yl a r g e w a pp u s hi sak i n do ft e c h n i q u et h a tb a s e do nt h ec u s t o m e r s s e r v e r s i na n o t h e r w o r d t h e s e r v e rv o l u n t a r i l yp u s ht h em e s s a g e st ot h ec l i e n t c o m p a r e dw i t ht h e t r a d i t i o n a lp u l lt e c h n i q u ew h i c hm e a n st h ec l i e n tr e q u e s tt h em e s s a g e sf r o mt h es e r v e r t h ep u s hh a st h eg r e a ta d v a n t a g e so fv o l u n t a r ya n dp u n c t u a l i t y w a pp u s hm a i li sap o w e r f u lb u s i n e s st h a tv o l u n t a r i l yp u s ht h em e s s a g e st ot h e c l i e n tc e l l p h o n e w h e nt h en e wm a i l sa r r i v e da tt h er e g i s t e r e du s e r s e m a i l b o x t h e s y s t e mw i l lp u s ht h en o t i c e st ot h eu s e r s c e l l p h o n e st i m e l y t h e nt h eu s e r sc a nc l i c kt h e n o t i c e s t h e yw i l lh a v et h ea u t h o r i t yt ob r o w s e r e p l ya n d t r a n s m i tt h e s em a i l s a n da tt h e s a m et i m e t h e r e g i s t e r e du s e r sc a l ls e n dm a i lt ot h e yo t h e ru s e r s t h er e c e i v e r sw i l la l s o r e c e i v et h en o t i c eo fn e wm a i lt i m e l y a n dc a nc l i c kt h en o t i c et ob r o w s et h en e wm a i l o n l i n e t h ea u t h o ra d v a n c e dt h em e t h o do fc o m p u t i n gt h ep r e s s u r eo fw a pp u s hm a i l s y s t e m a f t e ra n a l y s i s e dt h ea r c h i t e c t u r eo ft h es y s t e m a n dr a nt h ep e r f o r m a n c et e s to f t h em a i ls e r v e ru n d e rp r e s s u r eu s i n gt h el o a d r u n n e rw h i c hi sak i n do fi n d u s t r i c a ll o a d t e s i n gt 0 0 1 a tl a s t t h ea u t h o rg i v eo u tt h es y s t e mp e r f o r m a n c er e p o r ta n d t h es u g g e s t i o n o fw h o l es y s t e mc a p a c i t ye x t e n do nt h eb a s eo fa n a l y s i so ft e s i n gr e s u l t k e y w o r d w a pp u s h w a p p u s hm a i l b a r b e rm o d e l l o a d r u n n e r 2 东南大学学位论文独创性声明 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得 的研究成果 尽我所知 除了文中特别加以标注和致谢的地方外 论文中不包 含其他人已经发表或撰写过的研究成果 也不包含为获得东南大学或其它教育 机构的学位或证书而使用过的材料 与我一同工作的同志对本研究所做的任何 贡献均已在论文中作了明确的说明并表示了谢意 研究生签名 至 l 堡 日期 塑 竺 兰 东南大学学位论文使用授权声明 东南大学 中国科学技术信息研究所 国家图书馆有权保留本人所送交学 位论文的复印件和电子文档 可以采用影印 缩印或其他复制手段保存论文 本人电子文档的内容和纸质论文的内容相一致 除在保密期内的保密论文外 允许论文被查阅和借阅 可以公布 包括刊登 论文的全部或部分内容 论文 的公布 包括刊登 授权东南大学研究生院办理 研究生签名 至 查 导师签名 彩 日 东南大学硕士学位论文 第一章绪论 1 1w a pp u s hm a i l 系统 w a pp u s hm a i l 无线邮件推送服务系统 是一套主动将电子邮件到达通知推送 到手机终端的邮件业务系统 当注册用户的电子邮箱有新邮件到达时 系统会以 w a pp u s h 方式 及时将新邮件到达通知推送到用户移动终端 用户点击该消息 就能够立即在线浏览 阅读 回复 转发新邮件 同时 注册用户能够将电子邮件 发送给其他用户 收件人也将及时收到新邮件到达通知 并通过点击通知消息 在 线阅读新邮件 江苏移动自2 0 0 4 年9 月正式对外推出企业邮箱业务以来 经过三年的发展 用 户数稳步增长 具有一定的市场发展潜力 截止目前注册用户数已达到了4 9 万 收 费用户约4 0 万 激活用户约1 4 万 月收入超过6 0 万元 邮箱访问量逐步增长 且 总量相当可观 目标客户的使用积极性比较高 有一定的发展潜力 但是从目前整个邮箱市场来看 江苏移动企业邮箱系统推出的各项增值功能 如短信提醒 w a p 邮箱 网络硬盘等 几乎在市场上都能找到同类的产品 存在产 品优势不明显 差异化功能不多的问题 因此 加强差异化功能的开发是江苏移动 企业邮箱未来发展的一个重要的方向 1 1 为提高江苏移动企业邮箱的市场竞争力 增加企业邮箱差异化增值功能 且在 w a pp u s h 类业务向s p 开放之前抢夺市场先机 江苏移动决定新建一套w a pp u s h m a i l 系统 w a pp u s hm a i l 系统的建立可以实现全新的企业邮箱增值功能 体现出 江苏移动企业邮箱的差异化功能 由此可见 江苏移动w a pp u s hm a i l 系统的建立 对促进企业邮箱业务的进一步发展具有重要意义 1 2 项目背景 本文是在为江苏移动邮箱系统上的w a pp u s hm a i l 项目中的邮件服务器性能测 试基础上所作 在此对项目背景及测试目的作基本介绍如下 2 0 0 4 年初 江苏移动建立了一套全省集中的企业邮箱系统 容纳2 0 万用户 该系统满足了用户的业务需要 通过推出丰富全面的解决方案 为集团客户信息化 改造提供了更好的服务 提高了用户忠诚度 从而稳定集团客户群体 同时 也促 进了m m s w a p 短信等数据业务的使用推广以及互联网接入业务的发展 2 0 0 7 年7 月 为了满足用户数量的日益增长对企业邮箱系统容量的需求 进 一步提高系统的稳定性 可靠性和可扩展性 建立更合理的体系架构 江苏移动对 企业邮箱进行了扩容 扩容后 江苏移动企业邮箱可容纳2 2 0 万用户 1 2 东南大学硕士学位论文 本项目的任务是为了满足用户数量的目益增长对企业邮箱系统容量的需求 进 一步提高系统的稳定性 可靠性和可扩展性 建立更合理的体系架构 对企业邮箱 进行扩容 并对相关业务服务器进行性能测试 从目前整个邮箱市场来看 邮箱产品同质化比较严重 江苏移动随e 邮与其他 邮箱增值功能比较详见下表 表1 1 移动随e 邮与其他邮箱增值功能比较表 功能江苏移 s i n a c o r n2 6 3 c o i t i21 c n c o m江苏联江苏电 动随e 邮通如意信灵通 邮箱邮箱 短信提醒 短信珍藏 w a p 邮箱 x 网络硬盘 网络日历 帐单定制 彩信 彩e w a pp u s hm a i l x 江苏移动企业邮箱系统推出的各项增值功能几乎在市场上都能找到同类的产 品 存在产品优势不明显 差异化功能不多的问题 因此 加强差异化功能的开发 是江苏移动企业邮箱未来发展的一个重要的方向 江苏移动决定在原有邮箱系统的 基础上建立一套w a pp u s hm a i l 业务系统 1 3 论文的主要工作 本论文基于江苏移动w a pp u s hm a i l 系统的项目建设 通过对服务器性能测试 理论的学习和研究 使用l o a d r u n n e r 工业标准负载测试工具对邮件服务器的性能进 行了全面测试 从而得到邮件服务器在并发用户数不断增加情况下的性能曲线 通 过对测试结果的分析和研究 找出了目前使用的邮件服务器所存在的性能问题 为 w a pp u s hm a i l 系统今后的扩容提供了可靠的技术和理论依据 本论文的组织构成如下 第一章 绪论 介绍w a pp u s hm a i l 业务的基本概念 以及江苏移动邮箱系统 的现状 第二章 w a pp u s hm a i l 系统架构 介绍了w a pp u s hm a i l 的系统组成和软硬件 架构 并提出了压力核算的方法 第三章 服务器性能测试理论 介绍了服务器性能经典模型一理发师模型 并 提出了相关的概念和测试指标 6 东南大学硕士学位论文 第四章 l o a d r u n n e r 测试工具 介绍了测试使用的工具l o a d r u n n e r 软件 并详 细说明了其使用方法 第五章 服务器性能测试 介绍了所制定的测试计划 按照测试计划利用 l o a d r u n n e r 对邮件服务器进行实际测试 并根据测试结果得出结论 第六章 工作总结和展望 对本论文所完成的工作进行了总结 并展望了该课 题今后的研究思路 东南大学硕士学位论文 第二章w a pp u s hm a i l 系统架构 移动w a pp u s hm a i l 是一项通过w a pp u s h 方式主动将电子邮件推送到随e 邮 用户手机上的移动通信新业务 2 1 系统业务流程 w a pp u s hm a i l 具体的业务流程如下所示 一 用户注册注销流程 用户可通过网站 短信方式注册脏销随e 邮的w a pp u s hm a i l 功能 具体由随 e 邮系统对用户提交的申请进行处理 通过接口发送相应的消息给w a pp u s hm a i l 系统进行注册 注销 一旦用户在w a p p u s h m a i l 系统上注册 注销成功 系统会通过 接口返回一个注册 注销成功的消息给随e 邮系统 随e 邮系统将返回一条注册 注销 成功的短信至用户手机 3 1 图2 1 用户注册注销流程图 8 东南大学硕士学位论文 二 用户使用流程 用户注册成功后 即可使用随e 邮w a p p u s h m a i l 功能 具体来讲 用户可通 过两种方式登录邮箱查看随e 邮邮件 1 被动登录 当用户随e 邮邮箱有新邮件到达时 w a pp u s hm a i l 系统将主动发送一条p u s h 短信至用户手机 用户点击该短信中的链接即可通过w a p 登录邮箱查看该封邮件 图2 2 用户被动登陆流程图 东南大学硕士学位论文 2 主动登录 当用户需要通过手机登录邮箱时 可以发送一条短消息至0 1 7 2 2 该短信将触 发w a pp u s hm a i l 系统发送一条p u s h 短信至用户手机 用户点击该短信中的链接即 可通过w a p 登录邮箱 用户发消息至 随e 邮系统 墓高汾二乒 是否开通w 竺 功 发送登录信息至 w a pp u s hm a i l 系统 1 r w a pp u s hm a i l 系统发 送p u s h 短信至用户手机 1r 用户点击p u s h 短信察看邮件 1 1 r 厂 结束 图2 3 用户主动登陆流程图 东南大学硕士学位论文 2 2 系统软件架构 本系统主要分为4 个功能模块 如下图所示 幽2 4 系统架构图 每个模块主要功能如下 1 借理系统模块 m a n a g e m e n ts e r v e r 负责储存所有用户的数据以及使用同志 并提供报表功能以及系统状态检视的 功能 让管理者可以检视所有系统模块的状态以及查询用户的使用记录 2 邮件发送系统模块 c o n s u m e rs e r v e r d i s p a t c h e rs e r v e r 负责接到e 1 7 2c o m 转发柬的邮件通知之后 将通知转发到该 用户所在的c o n s u m e rs e r v c lc o n s u m e rs e r v e r 会立即连接p o p 3 下载邮件然后写入 数据库 数据库建立完毕后发送u r l 短消息 发送系统等待发送 3 短消息发送模块 s m ss e r v e 0 收到邮件发送系统柬的u r l 后连接c m p p 网关发送相关的信息给终端用户 发送成功后通知管理系统流程已经完毕 短消息发送成功 4 附件转换模块 a t t a c h m e n ts e r v e o 东南大学硕士学位论文 提供邮件附件转换的功能 包含w o r d 转换 e x c e l 转换 p d f 转换 p o w e rp o i n t 转换模块 2 3 系统网络架构 本项目新增2 台d e l lp e l 8 5 5 服务器 其中1 台安装1 0 台邮件发送服务器 另 l 台安装2 台短消息发送服务器 2 台格式转换服务器以及2 台管理服务器 新增2 台r a d w a r e 负载均衡器 2 台d e l l2 7 2 4 交换机以 2 台c a t a l y s t2 9 5 0 2 4 交换机以及 1 台n e t a p p f s l 0 磁盘阵列柜 本项目w a pp u s hm a i l 系统支持3 0 万用户 1 0 台邮件发送服务器共分成5 个 群组 每个群组2 台服务器 同一群组服务器存储相同的用户数据 最多支持6 万 用户 2 台服务器之间实现负载均衡与容错的机制 本项目新增的1 6 台服务器和1 台磁盘阵列柜通过1 0 1 0 0 1 0 0 0 m 以太网电路双 连接至新增的2 台d e l l2 7 2 4 交换机 2 台d e l l2 7 2 4 交换机通过1 0 1 0 0 m 以太网电 路矩形连接至新增的2 台c a t a l y s t2 9 5 0 2 4 交换机 2 台c a t a l y s t2 9 5 0 2 4 交换机通过 1 0 1 0 0 m 以太网电路矩形连接至新增的2 台r a d w a r e 负载均衡器 2 台负载均衡器 再通过1 0 0 0 m 光纤链路以扁平结构上连至d m z 区的2 台q u i d w a y 6 5 0 6 r 网络结构图如下 l 一一一一一一一一一一一一 一一一一一一一一拳型l 一 一婴鼍魈坚l 一一一一一一一一jl 一一一一一一一一一一一一一一一一一一一一一一 图2 5 系统网络结构图 东南大学硕士学位论文 2 4 系统数据流程 本期系统运作流程如下图所示 i 自 s y 璺皇d 喧 i d m匕叫匕叫 1 n w m 2 n w m i利in o t j f l c e t f o n 叫 芒 r m t c h 3 o i 口 t hn r e a l ln o 口n c 目h i l i n t o t o r g e tc or 凹lr m o r v r l r 2 t c h 乞t a r g e t o n l u r n l i e r q t t rr e e tr i g a iv l 口r2m v j t c h 5c e n o m o 0 n ed 胁rr q u e r e dn v jl 舯o 2e w i c a 5g e n dr e p q t j e s t t o8 m 8 r 叫 l a t y l一2 t c h 7 8 0 n d j m s tt oc m p pv l a 上or e r s w j t c h f p p u t h 弓m l t ht a r g e tc o n 一 o r e q u a v 恼pu r lv l a v 1 1 0d i r w pu j 二j r i t r 流程运作说明 1 系统收到新邮件的事件 图2 6 系统运作流程图 2 系统透过r a d w a r e 的v i m i a li p 将该事件使用h t t p 通知1 0 台d i s p a t c h s e r v e r 由每台c a m e oc o n s u m e rs e e r 兼任 中的一台 3 被通知的d i s p a t c hs e e r 调用数据库找到正确的c o n s u m e rs e e rg r o u p 4 c a m e oc o m u m e rs e n r e r 到系统邮件服务器使用p o p 3 取信 5 c o n s u m e rs e e rg r o u p 进行收信的动作 并将邮件c a c h e 在数据库当中 6 c a m e oc o m u m e rs e r v e r 发送w a pp u s h 短信需求给s m ss e r v e r 7 s m ss e e r 收到需求后发送w a pp u s h 短信需求给c m p p 8 c m p p 收到需求后发送w 仙p u s h 短信到用户手机 用户收到新邮件w a p p u s h 短信 该短信带有c o n s u m e rs e r e rg r o u p 的r a d w a i 迮的公网i p 9 用户使用浏览器浏览r a d w a i 迮的公网i p 1 0 r a d w a r e 使用负载均衡方式挑选c o n s 啪e rs e r v e rg r o u p 中的一台 c o n s u m e rs e e r 负责从数据库调用用户的邮件转换为w a p 网页 w a p 网页传到手 机让用户进行浏览 4 1 东南大学硕士学位论文 2 5 系统容量配置计算 本项目建设设计容量为3 0 万用户 邮件高峰期在早上9 点至下午的4 点 预 计同时产生邮件到达通知封顶为1 5 万户 系统管理服务器的工作在于寻找该用户 组内的服务器哪台比较空闲并且发送请求到该服务器 1 系统管理服务器容量设计 1 5 万用户同时请求 每台管理系统最高支撑2 万用户同时请求 2 台管理系统最高支撑4 万用户同时请求 2 系统邮件发送服务器容量设计 1 5 万用户同时请求 每台邮件发送系统最高支撑2 0 0 0 用户同时建立邮件 1 0 台管理系统最高支撑2 万用户同时建立邮件 1 5 万用户收到w a p 实际打开邮件最高2 5 海外运营统计 4 0 0 用户 平均分配到1 0 台服务器为4 0 0 个用户实际查看邮件 3 系统短消息发送服务器容量设计 按照最高值1 5 万用户同时邮件通知到达 每台短消息发送服务器测试1 秒发送1 2 0 个短消息 2 台短消息发送服务器测试1 秒发送2 4 0 个短消息 发送1 5 万消息需要小于1 分钟抵达用户终端 4 附件转换服务器容量设计 高峰期最多用户实际阅读邮件4 5 0 0 份 实际有附件并且需要打开为1 0 平均每台格式转换服务器能及时转换5 0 0 个附件 2 台服务器及时转换1 0 0 0 个附件 东南大学硕士学位论文 2 6 压力测试核算 1 邮件发送服务器压力核算 假设c e n on o t i f i c a t i o ns e r v e r 能在2 5 分钟内发送完3 0 万的n e wm a i l n o t i f i c a t i o n 邮件发送服务器共有1 0 台 则每一台邮件发送服务器每秒钟收到2 0 个 n o t i f i c a t i o n 算式如下列 3 0 0 0 0 0 2 5 幸6 0 幸l o 2 0 2 邮件发送服务下载新邮件能力核算 假设c e n om a i ls e r v e r 能够同时支持1 0 0 0 个联机抓取新邮件 并且在5 秒钟 之内完成下载新邮件的请求 邮件发送服务器共有1 0 台 每台配备4 g b 内存 根据系统设计容量 每台邮件 服务器在下载邮件的工作上只须要消耗5 0 0 m b 的内存 并在5 秒内成功下载1 0 0 封 新邮件 亦即每台邮件发送服务器每秒钟可处理2 0 个n e wm a i ln o t i f i c a t i o n 所以在 2 5 分钟内 1 0 台邮件发送服务共可下载 1 0 2 0 2 5 宰6 0 3 0 0 0 0 0 封新邮件 3 短消息发送服务器压力核算 每台短消息发送服务器对应五台邮件发送服务器 邮件发送服务器下载完新 邮件后每秒一次以批次的方式将发送s m s 的请求发送到短消息发送服务器 所以 短消息发送服务器每秒钟会收到5 宰2 0 1 0 0 个发送s m s 的请求 4 短消息发送服务器发送s m s 能力核算 假设c m p p 同时支持多个发送s m s 请求的联线 且短消息发送服务器可同时 建立2 0 个发送s m s 请求的联线 短消息发送服务器共有2 台 每台配备4 g b 内存 同时开启2 0 个t h r e a d 联机 到c m p p 发送短消息 每个t h r e a d 消耗内存不超过5 m b 每台短消息服务器在发送 短消息的工作上只须要消耗1 0 0 m b 的内存 以每个t h r e a d 每秒发送5 个短消息的速 度 则2 台短消息发送服务器在2 5 分钟内共可发送 2 幸2 0 5 奉2 5 幸6 0 3 0 0 0 0 0 个短消息 总结以上核算结果 在c e n on o t i f i c a t i o ns e r v e r c e n om a i ls e r v e r 和 c m p p 能够承受负载的情况下 c a m e ow a pp u s h 能够在2 5 分钟内将3 0 万封新邮 件消化完毕 东南大学硕士学位论文 第三章服务器性能测试理论 在前面的章节中介绍了w a pp u s hm a i l 系统的软件和网络架构 剖析了w a p p u s h 技术 并分析了系统业务流程和数据流程 本章将对邮件服务器的性能理论测 试进行探讨 并对相关服务器的性能模型和相关理论作介绍 3 1 排队论基础模型 排队论 q u e u i n gt h e o r y 是一门应用十分广泛的运筹学分支 它在各种存在等 待情形的环境中都有非常成功的应用 3 1 1 排队系统的数量指标 一个特定的模型可能会有多种假设 同时也需要通过多种数量指标来加以描述 1 系统中顾客数量的概率分布 r 无论什么样的排队模型 都以r 代表稳定状态下系统中包含n 个顾客的概率 n 的取值可以从0 一直到系统容量 2 系统中顾客数量期望值 系统状态 系统中顾客数量既包括正在接受服务的顾客 也包括排队等待的顾客 3 队列中顾客数量期望值 对长 l q 系统中等待服务的顾客数量 它等于系统状态减去正在接受服务的顾客数 4 顾客在系统中的平均逗留时间 形 顾客在系统中的平均逗留时间包括顾客接受服务的时间 也包括顾客排队等待 的时间 5 顾客的平均等待时间 w q 顾客的平均等待时间等于其系统逗留时间减去服务时间 5 3 1 2 排队系统的数学模型 1 最简单流 在排队论中经常用到最简单流这一概念 所谓最简单流就是指在 这一时间段 里有k 个顾客到达服务系统的概率k f 服从泊松分布 即 东南大学硕士学位论文 v k t e 一知譬 k o 1 2 l 1 由于最简单流与实际顾客到达流的近似性 更是由于最简单流假设极大地简化 了问题的分析与计算 因此排队论所研究的问题普遍是最简单流问题 2 负指数分布的服务时间 负指数分布具有如下的概率密度函数和分布函数 f x 2 e f x 1 一e 以 3 1 3 生死过程 一个顾客的到达将使系统状态从n 到n l 这一过程成为生 一个顾客的离开 将使系统状态从门到胛一l 这一过程成为死 系统状态的转移可以用状态转移图 图 4 1 来加以描述 图中结点代表状态 箭线代表状态转移 由于在同一时间不可能 有两个事件发生 所以不存在跨状态的状态转移 1 6 生 死 旯 aa 见 a p杠强硅p 图3 一l 生死过程示意图 利用图3 1 所示的状态转移形式 根据流的平衡原理可以建立起稳定状态的 状态转移方程组 所谓流的平衡原理就是在稳定状态下 流入任意一个结点的流量 等于流出该结点的流量 流量的概念是这样定义的 如果从状态f 到状态 转移弧 上的转移率为勺 那么这条转移弧所发生的流量就是勺肋 流的平衡原理具有鲜明 的直观性和广泛的适用性 将流的平衡原理应用于转移图的各个状态 每一状态都可给出一个以p 为变量 的线性方程 这些线性方程组成的线性方程组无条件地决定了p 的分布 九p o p z 2 p l p p t 九p 七 t p 2 东南大学硕士学位论文 2 p 2 弘p 2 2 p l p p 3 因为此时每一个p 都己表示为肋的函数 所以正规方程 只 1 可表示为只含 肋一个未知量的形式 进而求的伽和其他所有的状态概率p f 如果模型含有无限个 状态 正规方程 p j 1 可表示为只含肋一个未知量的无穷序列 j 对于系统容量无限的排队系统 按照上述求解过程可以得到如下结果 p l 告 岛 仍 告 2 岛 b 丢 p o 引入正规方程 仍 1 有 f 岛 1 略 分2 l 争 l 1 出现在方括号中的无穷序列是一个简单的等比序列 倘若形是一个小于1 的数 那么该等比序列将收敛于一个有限的和南 解该正规方程有 1 一告 进而有 p j 略 7 1 一告 从上述的概率分布解可以看出 a 和 两个参数总是以比值的形式出现在一起 东南大学硕士学位论文 所以我们可以用一个小写的希腊字母尸来代替音 1 1 3p 舌 将p 代入上述解中去可 使其更具简明的形式 p j p 1 一p 新的参数p 是到达率与服务率之比 被称为繁忙率 p 的所有这些含义 均给 出了要求p l 的逻辑解释 简言之 如果顾客的平均到达率大于平均服务率 那么 系统的队长将无限增加 从而造成系统永远也达不到稳定状态 3 1 4 基本模型 由于系统中顾客的数量越多 顾客在系统中逗留的时间也就会越长 所以可以 希望在 和 之间建立起某种关系 李特尔 l i t t l e 公式给出了三 和a 三者之 间的关系l a w 即系统中平均顾客数等于顾客平均到达率与平均逗留时间的积 7 有了李特尔公式 即可得到如下排队系统的基本模型 1 当p 1 时 即输入强度小于系统的处理强度 可以得 i i 所涉及的所有模型均是基于m m 1 排队系统构建的 下 2 3 由公式3 可知 当p 1 时队列的平均等待时间 和输入强度a 的关系图如 南上即 1 j l 一一 一卜 南 p i i 印 一 三一彳 z k 缸 形 pmp 以 枷 东南大学硕士学位论文 j w r 图3 2p 1 时 即输入强度大于系统的处理强度 可以得到 由正规方程 只 1 可得到 p 昙 丢 2 c o o 丢 1 p p 2 e ee p t 故 p o 1 p p2 p 疗 形 兰 旯 4 夕i 2 p 2 c oo r i p p p 1 2 p 3 p 2 oeo 印川 5 由公式4 公式5 和公式6 可知 2 0 6 图 p 瑚 己 东南大学硕士学位论文 形 兰 2 旦 鱼 兰旦 型 翌 j 兄旯 p i i 南 1 2 p 3 p e e e 训 丢 而南 三2 三2 翌 l p p 2 o p 7 由公式7 可知 当p 1 时队列的平均等待时间形和输入强度旯的关系图如下 jl 矿 l r 图3 3p l 时矽和兄关系图 综上所述 队列的平均等待时间形和输入强度五的关系图如下 2 1 l q一 妒 2 d 3 p 2 u 东南大学硕士学位论文 j 形 r 图3 4 和a 关系图 由上述排队论基础模型可以推广延伸至服务器性能测试领域 从而得出基于上 述理论的理发师模型 3 2 理发师模型 与很多领域一样 在线应用系统性能测试也有纵向和横向之分 纵向的性能测 试考察一个操作 测试的对象 对数据量的敏感程度 主要考察指标是服务器健康状 况 次要指标是用户等待时间 横向的性能测试考察一个系统能并发处理多少客户 的操作 测试的对象 请求 主要考察指标是用户体验性指标 而对服务器健康状况 不甚关心 作者认为 最佳实践应该是通过纵向测试可以得到数据量敏感曲线 在 这条曲线上可以找出典型数据量以总结典型应用场景用来进行横向性能测试 哺 性能测试的重点是性能指标 完整的性能指标是性能测试成功的关键所在 服 务器健康状况指标不难理解 业务数据量也不难把握 但是用户体验型指标却往往 难以归纳和把握 经典的 理发店模型 正是这样一种针对服务器性能的模型 在理发店中 事先做了如下的假设 1 理发店共有3 名理发师 2 每位理发师剪一个发的时间都是l 小时 3 顾客们都很有时间观念并且非常挑剔 他们对于每次光顾理发店时所能容忍的 等待时间 剪发时间是3 小时 而且等待时间越长 顾客的满意度越低 如果3 个 小时还不能完成 就会马上走人 东南大学硕士学位论文 通过上面的假设不难想象出下面的场景 1 当理发店内只有1 位顾客时 只需要有1 名理发师为他提供服务 其他两名理 发师可能继续等着 1 小时后 这位顾客剪完头发出门走了 那么在这1 个小时里 整个理发店只服务了1 位顾客 这位顾客花费在这次剪发的时间是l 小时 2 当理发店内同时有两位顾客时 就会同时有两名理发师在为顾客服务 仍然是 l 小时后 两位顾客剪完头发出门 在这1 消失里 理发店服务了两位顾客 这两 位顾客花费在剪发的时间均为1 小时 3 彳艮容易理解 当理发店内同时有三位顾客时 理发店可以在l 小时内同时服务 三位顾客 每位顾客花费在这次剪发的时间仍然是均为1 小时 从上面几个场景中可以发现 在理发店同时服务的顾客数量从1 位增加到3 位 的过程中 随着顾客数量的增多 理发店的整体工作效率在提高 但是每位顾客在 理发店内所呆的时间并未延长 当然 可以假设当只有1 位顾客和2 位顾客时 空闲的理发师可以帮忙打杂 使得其他理发师的工作效率提高 并使每位顾客的剪发时问小于1 小时 不过即使 根据这个假设 虽然随着顾客数量的增多 每位顾客的服务时间有所延长 但是这 个时间始终还是被控制在顾客可接受的范围之内 并且顾客是不需要等待的 不过随着顾客越来越多 新的场景出现了 假设有顾客a b c 刚进理发店准 备剪发 外面又来了顾客d e f 因为a b c 三位顾客先到 所以d e f 三位只好等待 1 小时后 a b c 三位剪完头发走了 他们每个人这次剪发所花 费的时间均为1 小时 可是d e f 三位要先等a b c 三位剪完才能剪 所以 他们每个人这次剪发所花费的时间均为2 小时一包括等待l 小时和剪发1 小时 通过上面这个场景可以发现 对于理发店来说 都是每小时服务三位顾客 第1 个小时是a b c 第二个小时是d e f 但是对于顾客d e f 来说 响应 时间 延长了 在新的场景中 假设这次理发店里一次来了9 位顾客 根据上面的场景不难推 断 这9 位顾客中有3 位的 响应时间 为1 小时 有3 位的 响应时间 为2 小时 等 待l 小时 剪发1 小时 还有3 位的 响应时间 为3 小时 等待2 小时 剪发l 小时 一 已经到达用户所能忍受的极限 假如在把这个场景中的顾客数量改为1 0 那么一定 会有1 位顾客因为 响应时间 过长而无法忍受 最终离开理发店 9 1 东南大学硕士学位论文 n u m b e ro fc o n c u r r e n tu s e r s l o a d 图3 5 标准软件性能模型图 这张图中展示的是1 个标准的软件性能模型 在图中有三条曲线 分别表示资 源的利用 i 靓 u t i l i z a t i o n 包括硬件资源和软件资源 吞吐量 t h r o u g h p u t 这里是 指每秒事务数 以及响应时i 茸 r e s p o n s et i m e 图中坐标轴的横轴从左到右表现了并 发用户数 n u m b e ro f c o n c u r r e n tu s e r s 的不断增长 在这张图中可以看到 最开始 随着并发用户数的增长 资源占用率和吞吐量 会相应的增长 但是响应时间的变化不大 如果并发用户数继续增长 软硬件资源 占用继续维持在饱和状态 但是吞吐量开始下降 响应时间逐渐的超出了用户可接 受的范围 根据这种性能表现 图中划分了三个区域 分别是l i g h tl o a d 较轻的压力 h e a v yl o a d 较重的压力 和b u c k l ez o n e 用户无法忍受并放弃请求 在h e a v yl o a d 和b u c k l ez o n e 两个区域交界处的并发用户数则称为 最大并发用户数 t h e m a x i m u mn u m b e ro fc o n c u r r e n tu s e r s 1 0 3 3 最大并发用户数 在上一节中 本文详细的描述了并发用户数同资源占用情况 吞吐量以及响应 时间的关系 并且提到了新的概念 最大并发用户数 t h em a x i m u mn u m b e ro f c o n c u r r e n tu s e r s 在这一节中 本文将对 最大并发用户数 的定义做更加清晰和 明确的说明 而对于最大并发用户数的识别 需要考虑和鉴别一下以下两种情况 一比一霉 i土露锛c o 反绣 茁一 一 了cl q 1工卜一 一荭 茹嚣蛙罴 东南大学硕士学位论文 1 当系统的负载达到最大并发用户数后 响应时间超过了用户可以忍受的最大 限度 这个限度应该来源于性能需求 例如 在某个级别的负载下 系统的响应 时间应该小于5 秒 这里容易疏忽的一点是 不应把顾客因为无法忍受而离开时店 内的顾客数量作为理发店的 最大并发用户数 因为这位顾客是在3 小时前到达的 也就是说3 小时前理发店内的顾客数量才是要找的 最大并发用户数 而且 这位 顾客的离开只是 个开始 可能有会更多的顾客随后也因为无法忍受超长的等待时 间而离开 2 在响应时间还没有到达用户可忍受的最大限度前 有可能已经出现了用户请 求的失败 以理发店模型为例 如果理发店只能容纳6 位顾客 那么当7 位顾客同 时来到理发店时 虽然我们可以知道所有顾客都能在可容忍的时间内剪完头发 但 是因为理发店容量有限 最终只好有一位顾客离开 对于一个系统来说 应该确保系统的最大并发用户数要大于系统需要承受的峰 值负载 1 1 3 4 评价性能的优劣 对于最终用户 e n d u s e r 来说 评价系统的舯i e 厶匕p jt 6 好坏只有一个字一 快 最终 用户并不需要关心系统当前的状态 即使系统这时正在处理着成千上万的请求 对于用户来说 由他所发出的这个请求是他唯一关心的 系统对用户请求的响应速 度决定了用户对系统性能的评价 而对于系统的运营商和开发商来说 期望的是能够让尽可能多的用户在任意时 刻都拥有最好的体验 这就要确保系统能够在同一时间内处理更多的用户请求 正 如在理发店模型所描述的 系统的负载 并发用户数 与吞吐量 每秒事务数 响应时 间以及资源利用率 包括软硬件资源 之间存在着一个 此消彼长 的关系 因此 从 系统的运营商和开发商的角度来看 所谓的 性能 是一个整体的概念 是系统的负 载与吞吐量 可接受的响应时间以及资源利用率之间的平衡 l 2 可以得出 好的性能 意味着更大的最大并发用户数 t h em a x i m u mn u m b e ro f c o n c u r r e n tu s e r s 另外 从系统的视角来看 所需要关注的还包括三个与 性能 有关的属性 可 靠性 r e l i a b i l i t y 可伸缩性 s c a l a b i l 时 和可恢复性 r e c o v e r a b i l i t y 1 可靠性测试 r e l i a b i l i t yt e s t i n g 对于一个运营商级的系统来说 能够保证提 供7 x 2 4 的连续稳定的服务是非常重要的 当然 你可以通过一些 高可用 l 生 h i g h a v a i l a b i l i t y 技术方案来增强系统的可靠性 但是对于系统本身的可靠性测试是不 能被忽略的 常用的测试方法是使用一定的负载长时间向服务器加压 并观察随着加压时间 的延长 响应时间 吞吐量以及资源利用率的变化 1 3 1 东南大学硕士学位论文 2 可伸缩性测试 s c a l a b i l i t y t e s t i n g 对于一个系统来说 在一个给定的环境下 它的虽佳并发用户数和最大并发用户数是客观存在的 但是系统所面临的压力却有 可能随上线时间的延长而增大 例如 一个在线购物站点 注册用户数量不断增多 访问站点查询商品信息和购买商品的人也不断的增多 我们应该用一种什么样的方 案 在不影响系统继续为用户提供服务的前提下来实现系统的扩容 一种常用的方案是使用负载均衡 l o a d b a l a n c e 和集群 c l t l s 把n 技术 但是在我们 为客户提供这种方案之前 需要先自己进行测试 保证该技术的有效性 我们是 否真的可以通过简单的增加服务器数据和修改某些参数配置 就能够使得系统的容 量得到线性的增长 3 可恢复性测试限e c o v e r a b i l i t y t e s t i n g 虽然已经可以准确的估算出系统上线 后将要面对的压力 并且可以保证系统的最佳并发用户数和最大并发用户数是足以 应对这些压力的 但是这个世界上总是有些事情上所无法预料到的 例如91 1 事 件发生后 a o l 的网站访问量在短时间内增长到了平时的数十倍 i t 4 1 无法保证系统可以在任何情况下都能为用户正确无误的提供服务 但是需要确 保当意外过去后 系统可以恢复到正常的状态 并继续后来的用户提供服务 就 像从未发生过任何事情一样 如果要实现 可恢复性测试 可以借助于测试工具或脚本来逐渐的增大并发用 户数 直至并发用户数已经超过了系统所能承受的虽大并发用户数 并导致软硬件 资源利用率饱和 响应时间无限延长 大量的请求因为超过响应时间要求或无法获 得响应而失败 之后