HC1209103 HCNP-Storage_SSAM 第三章 SAN存储系统性能测试和调优 V1.0

1、Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 0修订记录课程编码课程编码适用产品适用产品产品版本产品版本课程版本课程版本ISSUE开发开发/优化者优化者时间时间审核人审核人开发类型（新开发开发类型（新开发/优化）优化）本页不打印Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. 第三章 SAN存储系统性能测试和调优Copyright 2010 Huawei Technologies Co., Ltd. All right

2、s reserved. Page 2目标l学完本课程后，您将能够:p熟悉存储系统性能的指标和意义p熟悉影响存储系统性能的因素p熟悉提高存储系统性能的方法Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 3目录1.性能指标和性能指标和IO流程流程2.影响性能的关键因素3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Pa

3、ge 4性能指标简介波动率波动率l从IO下发到IO处理完成的时间l常以ms为单位l常用指标：平均响应时间、最大响应时间响应时间响应时间l常以MB/s为单位l即每秒存储可以处理的数据量lI/O per secondl每秒钟存储可以处理的IO数目IOPSl衡量方式：最大值、最小值、均方差l最常用的方式：均方差/平均值 * 100%带宽带宽Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 5负载模型简介4K100%写写100%随机随机持续持续4K对齐对齐256Copyright 2010 Huawei Tec

4、hnologies Co., Ltd. All rights reserved. Page 6IO访问方式应用进程通用块设备层块设备驱动层用户空间内核空间用户缓冲区disk内核缓冲区write同步read同步同步同步IO异步异步IOl关于同步与异步应用进程通用块设备层块设备驱动层用户空间内核空间用户缓冲区disk内核缓冲区发出write、read请求返回Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 7目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别组级别 2

5、.2 成员盘个数 2.3 分条深度 2.4 cache技术 2.5 负载均衡和接口性能 2.6 高级性能特性3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 8Raid0和Raid1没有太多的实际使用场景 Raid6处理方式类似于Raid5，但性能与Raid5存在一些差异应用中主要使用的RAID级别是Raid10和Raid5RAID组级别l Raid组级别作为一种算法，有机的将各个分散的磁盘通过某种

6、方式组合到了一起，并进行条带化的处理。使得多个磁盘可以同时有效的工作，提升了系统整体处理IO的能力，提高了数据的安全性；Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 9RAID组级别RAID5l对读操作而言，按照下发IO的大小处理请求；l为保证数据一致性，Raid5在写入一个数据的时候，需要重新更新该数据所在的分条的校验数据；因此Raid5下的写操作的最小操作单元是分条单元的大小。读写Copyright 2010 Huawei Technologies Co., Ltd. All rights re

7、served. Page 10RAID组级别RAID5RAID5RAID5stripestripeRAIDRAID处理模块处理模块XORXOR下发数据1）下发数据块（数据块大小小于分条深度）5）RAID写数据2）RAID读数据4）计算新校验数据（小写模式）3）覆盖写目标分条单元l小写操作步骤Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 11RAID组级别RAID5RAID5RAID5stripestripeRAIDRAID处理模块处理模块下发数据1）下发数据块（数据块跨分条深度）5）RAID写数据2

8、）RAID读数据4）计算新校验数据（大写模式）3）覆盖写目标分条单元l大写操作步骤XORXORXORXORCopyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 12RAID组级别RAID10l前提条件：假设有N块磁盘组成了一个Raid10（N为偶数），且该Raid10的镜像盘个数为2。l因为不需要生成校验位信息，因此Raid10下的最小操作单元：IO数据块的大小l由于每个镜像盘组内的数据完全相同， 因此Raid10下的读操作从这其中的N/2块磁盘即可获取数据l对写操作，需要对镜像组内的所有盘都写该数据，分别

9、写到镜像组内的两块磁盘上l因为不需要生成校验位信息，因此Raid10下的最小操作单元：IO数据块的大小Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 13RAID组级别RAID10RAID10RAID10stripestripeRAIDRAID处理模块处理模块下发数据1）下发数据块2）生成镜像数据3）同时写入成员盘和镜像盘l写操作步骤Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 14RAID组级别顺序性能对

10、比RAID5与RAID10顺序性能对比l持续顺序读性能pRAID5性能略高于RAID10l持续顺序写性能p前端压力足够的情况下，RAID5性能明显高于RAID10Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 15RAID组级别随机性能对比RAID5与RAID10随机性能对比l持续随机读性能pRAID5与RAID10性能基本相当l持续随机写性能pRAID5性能明显低于RAID10Copyright 2010 Huawei Technologies Co., Ltd. All rights reserv

11、ed. Page 16空间利用率:Raid5明显优于Raid10性能:业务是一些大文件的读写操作时，Raid5的性能会明显好于Raid10业务以随机的小数据块读 写 为 主 的 时 候 ，Raid10是最优的选择安全性:Raid5低于Raid10RAID5/RAID10RAID5/RAID10对比对比RAID组级别RAID选择Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 17l重构对资源的占用:p由于重构过程中RAID5涉及到多块盘的计算操作，而RAID10不涉及额外的数据恢复操作，因此RAID5的

12、重构对资源占用比RAID10大RAID组级别重构的影响如果如果RAID10坏了一块盘坏了一块盘在RAID5一块成员盘出现故障后，可以通过其他成员盘和校验盘重新计算出故障盘的数据如果RAID10出现一块成员盘故障，RAID组不会有任何额外的操作如果如果RAID5坏了一块盘坏了一块盘Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 18目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别 2.2 成员盘个数成员盘个数 2.3 分条深度 2.4 cache技术 2.5 负

13、载均衡和接口性能 2.6 高级性能特性3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 19 单个RAID组磁盘数选择上 ，8-12块是用的比较多的配置，RAID组成员盘不能跨框RAID5RAID5RAID10RAID10成员盘个数 RAID10在单个RAID组磁盘数选择上,并无限制.在磁盘成为瓶颈时,磁盘数越多该RAID组性能越好Copyright 2010 Huawei Technologies

14、 Co., Ltd. All rights reserved. Page 20目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别 2.2 成员盘个数 2.3 分条深度分条深度 2.4 cache技术 2.5 负载均衡和接口性能 2.6 高级性能特性3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 21如果分条单元太小，很有可能出现一个IO横跨了两个甚至多个分条

15、单元的情况。随着分条深度的增大，一个IO跨盘的几率逐渐减小。因此，随着分条深度的增加，随机读IOPS会逐渐的增加当分条深度的大小能够超过数据块的大小达到一定程度时，由于再出现IO数据块跨盘情况的几率已经非常的小了，则数据块的大小已经不再是影响性能的关键因素了，此时随机读IOPS会基本保持一个稳定的水平分条深度对随机读性能影响分条深度随机读性能Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 22RAID10性能规律性能规律随着分条深度的增加，随机写IOPS先会不断的增加，到达一定程度之后，随机写IOPS

16、会不断的递减;.随着分条深度的增加，随机写IOPS不断的增长，当分条深度增大到一定程度后，随机写IOPS保持一个较为稳定的状态;RAID5性能规律性能规律分条深度随机写性能Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 23目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别 2.2 成员盘个数 2.3 分条深度 2.4 cache技术技术 2.5 负载均衡和接口性能 2.6 高级性能特性3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故

17、障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 24读预取与写缓存读预取l读预取的作用p在处理一个读IO请求时，从磁盘侧按顺序读取除该IO数据以外更多的数据，预先缓存到Cache中，以便下一个顺序读IO请求到达时，可直接在Cache中获取，得到更高的性能表现。p当读IO很随机时，不当的读预取策略会给存储系统带来额外的资源开销，不但无法保证后续IO在Cache中的命中，而且会带来性能的降低。l四种预取算法：p固定预取、可变预取、智能预取和不预取。Copyright 2010

18、 Huawei Technologies Co., Ltd. All rights reserved. Page 25读预取与写缓存读预取预取策略预取策略 策略说明策略说明适用场景适用场景固定预取按系统设置的固定预取窗口大小进行预取 1. 适用于业务单一，IO顺序性强的场景，如：DSS和数据备份等业务2. 建议预取窗口大小与LUN分条对齐 可变预取按系统设置的倍数，预取：读IO长度*倍数 适用于IO顺序性强，但IO大小呈规律性变化的业务智能预取按IO顺序程度，动态起停预取，动态调整预取窗口大小 适用于IO特性比较复杂的场景，如：OLTP应用中数据文件访问 不预取减少因预取无效数据引起系统额外开

19、销 适用于可明确的IO随机场景 Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 26读预取与写缓存写缓存lCache的写策略包括三种：透写，回写镜像和回写不镜像。镜像Cache示意图Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 27读预取与写缓存写缓存l需仔细评估实际业务对性能和可靠性的需求，选择恰当的写策略：写策略写策略 可靠性可靠性性能性能透写高低回写镜像中中回写不镜像低高Copyright 2010

20、Huawei Technologies Co., Ltd. All rights reserved. Page 28读预取与写缓存高低水位l高低水位用于设置存储写策略为回写时，Cache模块对脏数据的存储容量和刷盘速率；Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 29目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别 2.2 成员盘个数 2.3 分条深度 2.4 cache技术 2.5 负载均衡和接口性能负载均衡和接口性能 2.6 高级性能特性3.性能问题诊

21、断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 30负载均衡l负载均衡的目的：p根据业务的IO特性，保证所有资源得到公平的利用，提高并行处理能力，消除资源热点；p在硬件环境和软件代码无法优化的情况下，负载均衡是性能调优的精髓；l负载均衡分类p前端主机通道负载均衡p控制器负载均衡p后端通道负载均衡p硬盘单元负载均衡Copyright 2010 Huawei Technologies Co., Ltd. All r

22、ights reserved. Page 31主流接口协议的性能比较接口类型接口类型目前速率目前速率应用场景应用场景备注备注iSCSI1G、10G华赛全系列存储阵列产品的主机接口只S5000T支持10G主机接口SAS3G、6G1、S2600、S5000T的主机接口或级联接口2、硬盘接口FC2G、4G、8G1、华赛S2600、S5000、S6800E和S5000T阵列的主机接口或级联接口2、硬盘接口S2600级联口只支持SASSATA3G、6G硬盘接口Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 32

23、目录1.性能指标和IO流程2.影响性能的关键因素影响性能的关键因素 2.1 RAID组级别 2.2 成员盘个数 2.3 分条深度 2.4 cache技术 2.5 负载均衡和接口性能 2.6 高级性能特性高级性能特性3.性能问题诊断和性能调优4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 33支持SSD技术l响应时间短p传统硬盘的机械特性导致大部分时间浪费在寻道、查找数据和机械延迟上。数据传输受到严重影响。而SSD硬盘由于采

24、用固态芯片作为存储介质，内部没有机械结构，因此没有数据查找时间、延迟时间和寻道时间，可提供比 15K rpm FC硬盘快 30 倍的 IOPSl读写效率高p传统硬盘在进行随机读写时需要把磁头不断地移来移去，导致效率低下，而SSD没有磁头，省去了机械操作的时间，只需计算数据存放在哪块Flash芯片的哪个位置，然后再对该位置进行读写即可 SSDSSD技术性能优势技术性能优势VSVSIP/FC SANIP/FC SAN传统传统HDDHDD存储系统存储系统SSDSSD存储系统存储系统指令到达时间寻道时间I/OI/OI/OI/O数据查找时间机械延迟时间数据查找时间Copyright 2010 Huawe

25、i Technologies Co., Ltd. All rights reserved. Page 34SmartCache（智能缓存）l技术简介技术简介p把阵列中的一个或多个SSD硬盘组成SmartCache资源池，通过将阵列中其他传统机械硬盘中的热点数据周期性的刷新到SmartCache中，使主机在访问热点数据时，直接从SmartCache中读取，利用SSD硬盘的读性能优势，极大的提升阵列系统的整体读性能。l技术优势技术优势p高性能：高性能：针对Web Server应用随机读性能最大提升5倍，针对File Server应用随机读性能最大提升2倍p高可靠性：高可靠性：SSD硬盘中的数据是用

26、于加速的副本，所有数据都保存在传统硬盘中p高可用性：高可用性：多个SSD硬盘组成SmartCache时，单个SSD硬盘失效不影响SmartCache的功能p高可扩展性：高可扩展性：支持SSD硬盘在线添加l说明：说明：推荐配置4块SSD硬盘作为SmartCache，SmartCache资源池中的SSD硬盘总数不能超过24个 。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 35排序LUN编号块编号访问量1LUN13242LUN12113LUN22104LUN1155LUN2136LUN23112693S

27、martCache实现原理l按照块的方式对SSD硬盘进行划分，为每一个块进行编号，块的大小默认为1MB，不能更改l主机从机械硬盘中读取数据时，系统会及时对开启SmartCache功能LUN中的数据块访问量进行统计，并建立这些LUN中数据块的访问量列表l每隔半小时系统会对SmartCache资源池中的数据块和机械硬盘中开启该功能的LUN中的数据块按照访问量大小排序l系统根据该排序列表将排名靠前的数据更新至SmartCache中，若SmartCache中原有的数据块访问量排名仍然在前面，则保留不进行更新l主机读IO时，若全命中SmartCache中的块，则从SmartCache中读取l读IO不全命

28、中SmartCache时，仍然从机械硬盘中读取l机械硬盘中的数据更新时，SmartCache中对应该机械硬盘中的热点数据同步进行更新HDDHDDLUN编号块编号访问量LUN115LUN1211LUN1324LUN213LUN2210LUN231读IO写IOHDDHDDHDDHDDSSDSSD1 12 2SSDSSD3 34 4LUN1LUN1LUN2LUN21 12 23 31 12 23 31LUN13242LUN12113LUN22104LUN1155LUN22106LUN1152LUN12153LUN21124LUN23112 21 12 23 31 12 23 31 13 3Smart

29、CacheSmartCache实现原理实现原理Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 36动态优先级控制技术动态优先级控制技术动态流优先级控制技术l业务流类型p主机业务流p阵列重构流l存储控制器侧p存储控制器在任务处理时，保证主机IO任务得到优先处理p严格限制阵列重构流的资源占用l技术优势p尽量降低其他流对主机业务流的影响p合理的资源分配，从整体上保持各个业务流都可以得到调度，避免有些流得不到系统资源p与硬盘预拷贝技术结合，可以充分降低阵列重构对主机性能的影响IP/FC SANIP/FC SA

30、N控制器控制器硬盘硬盘控制器进行动态流优先级控制未使用动态流优先级控制技术1 12 2主机业务流优先得到处理，严格限制阵列重构流的资源占用3 3主机业务流阵列重构流Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 37目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优性能问题诊断和性能调优 3.1 性能调优简介性能调优简介 3.2 性能调优概述 3.3 存储侧性能调优 3.4 主机侧性能调优 3.5 性能调优案例 4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常

31、见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 38性能调优简介性能的决定因素系统的性能是由系统中出现短板的环节决定的性能短板更多表现在硬件资源和针对请求软件并发限制上但短板环节并不一定是造成性能瓶颈的元凶, 系统业务流程上的处理机制，已经为短板的出现埋下了伏笔性能瓶颈的出现往往是由系统架构和软件设计决定的Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 39性能调优简介Copyright 201

32、0 Huawei Technologies Co., Ltd. All rights reserved. Page 40性能调优简介l主要硬件资源Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 41目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优性能问题诊断和性能调优 3.1 性能调优简介 3.2 性能调优概述性能调优概述 3.3 存储侧性能调优 3.4 主机侧性能调优 3.5 性能调优案例 4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Co

33、pyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 42性能调优概述成本分析架构优化架构优化硬件升级硬件升级代码优化代码优化配置调优配置调优调优顺序调优顺序成本最高最有成效成本最低但是收效最少Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 43性能调优概述调优流程Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 44性能调优概

34、述配置调优思路Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 45目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优性能问题诊断和性能调优 3.1 性能调优简介 3.2 性能调优概述 3.3 存储侧性能调优存储侧性能调优 3.4 主机侧性能调优 3.5 性能调优案例 4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. P

35、age 46存储侧性能调优l检查主机对IO的拆分情况；l明确主机能支持的最大IO大小。l明确主机最大能支持的IO并发数；l确认主机是否正常把压力传递给存储。找准调优方向，明确瓶颈是否在主机侧IO的大小的大小IO并发数并发数l检查瓶颈是否由主机造成Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 47存储侧性能调优 RAID类型选择l存储主流RAID类型选择lLUN归属时，需考虑控制器负载均衡RAID级别级别应用场景应用场景RAID 10OLTP、Email、Database等RAID 5Backup、I

36、PTV、视频监控等RAID 6对数据可靠性有较高要求的应用Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 48存储侧性能调优 CACHE策略选择lCACHE策略选择RAID级别级别推荐配置推荐配置读策略1.顺序业务推荐开启预取，预取窗口根据实际情况调整2.明确的纯随机随机业务推荐关闭预取3.IO特性较复杂的业务推荐采用自适应的预取策略写策略如无特殊需求，建议采用回写Cache高低水位建议根据实际情况调整Copyright 2010 Huawei Technologies Co., Ltd. All r

37、ights reserved. Page 49存储侧性能调优网络优化l存储与服务器相连网络交换设备调整p为避免存储系统与服务器间的网络传输通道成为瓶颈或受到其他业务干扰，最佳情况下建议采 用直连或搭建私有网络将其与服务器连接；p保证网络连接类型和端口数与实际业务需求性能匹配如下是常见物理通道实测的最大带宽。端口类型端口类型 最大带宽最大带宽 1Gbps iSCSI口 120MB/s左右4Gbps FC接口 780MB/s左右 （其中最大读、写带宽各390MB/s左右）43Gbps SAS接口 1200MB/s左右Copyright 2010 Huawei Technologies Co., L

38、td. All rights reserved. Page 50存储侧性能调优磁盘优化不同类型磁盘单盘性能差异传统硬盘内外道性能差异磁盘内外道顺序性能对比磁盘内外道随机性能对比Performance OverviewSATA硬盘硬盘7200 RPMSAS硬盘硬盘15K RPMFC 硬盘硬盘15K RPMSSD SLCSequential Read133 MB/s152 MB/s161 MB/s255 MB/sSequential Write130 MB/s152 MB/s161 MB/s200 MB/sRandom Read I/OPS8K12340134530,000Random Write

39、 I/OPS8K1073272975,500Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 51目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优性能问题诊断和性能调优 3.1 性能调优简介 3.2 性能调优概述 3.3 存储侧性能调优 3.4 主机侧性能调优主机侧性能调优 3.5 性能调优案例 4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rig

40、hts reserved. Page 52主机侧性能调优文件系统l文件系统容器主要负责处理由上层模块下发的针对文件或目录的操作l选择恰当的文件系统业务场景业务场景具体业务具体业务适用文件系统适用文件系统小文件，随机操作database server，Mail server，小规模电子商务系统，金融系统Ext3，Reiserfs大文件，多路顺序读Video server，XFS大文件，多路顺序写视频监控系统XFS服务器服务器CPU个数个数适用文件系统适用文件系统8XFSCopyright 2010 Huawei Technologies Co., Ltd. All rights reserved

41、. Page 53主机侧性能调优卷管理模块l卷管理模块能对存储映射的多个LUN进行条带化操作，确保业务负载均匀的分担到不同的LUN上，同时还可设定相应的RAID级别，保证数据可靠性l建议在创建LVM卷时，保证所有LUN的分条一致，容量相等，磁盘数相等，RAID级别一样，并归属不同的存储控制器，所有LUN分条大小等于LVM分条单元大小，做到负载均衡。l用户下发的请求从数据容器到达卷管理与块设备模块时，已被拆分为多个实际的读写IO请求这些IO请求有的负责索引节点的查找，有的负责实际数据的访问，还有的则负责日志文件的记录卷管理模块调优Copyright 2010 Huawei Technologie

42、s Co., Ltd. All rights reserved. Page 54主机侧性能调优多路径优化l多路径模块:p多路径模块用来控制对存储设备的访问，实现服务器到存储设备之间的路径p选择，提高主机与存储设备之间的路径可靠性与性能。l 一般包含如下策略: 选路策略选路策略策略说明策略说明适用场景适用场景ROUND_ROBIN静态负载均衡，轮流在最优路径上下发I/O，以减小单条路径的I/O负荷适用于I/O负载较小的应用最小队列深度动态负载均，优先选择下发I/O过程中未完成I/O数量最少的路径下发I/O适用于I/O负载较大且对I/O延迟有较高需求的应用，如OLTP应用最小数据量动态负载均，优先

43、选择数据量最小的路径下发I/O适用于I/O负载较大且对传输带宽有较高需求的应用，如OLAP及Multimedia应用Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 55主机侧性能调优HBA卡优化l HBA卡模块:pHBA卡模块负责IO向存储的下发，需要重点关注如下四个指标：性能指标性能指标指标描述指标描述4G FC HBA卡性能状况卡性能状况最大并发数用于描述HBA卡在一个时间片能传输的最大IO数该参数可调，建议调整为最大，避免IO在HBA卡模块出现阻塞1.单口最大并发为2562.可通过Executi

44、on Throttle参数调整最大IO大小HBA卡在不拆分IO的情况下，最大可发送的IO大小1.通常为MB2.可通过Frame Size参数调整最大带宽输出描述HBA卡单口最大的带宽输出需要根据实际应用的存储带宽需求，动态添加HBA卡和网络连接端口数4G FC HBA卡单口单向带宽为390MB左右最大IOPS输出描述HBA卡单口最大的IOPS输出需要根据实际应用的存储IOPS需求，动态添加HBA卡和网络连接端口数4G FC HBA卡单口IOPS输出为20万Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page

45、 56目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优性能问题诊断和性能调优 3.1 性能调优简介 3.2 性能调优概述 3.3 存储侧性能调优 3.4 主机侧性能调优 3.5 性能调优案例性能调优案例 4.性能测试工具和方法5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 57案例l某视频点播项目，业务特点是多路顺序读，重点关注的是在画面流畅情况下所最大能支持的视频监控的路数。l组网如右图所示：Copyright 20

46、10 Huawei Technologies Co., Ltd. All rights reserved. Page 58案例l优化前的存储配置说明：l测试结果：最多支持1600路视频信号，离客户需求差距很远。RAID类型RAID5硬盘数 11个成员盘+1个热备盘单盘容量 300G硬盘类型 SASLUN个数 1LUN分条深度256K Cache预取策略不预取Cache写策略回写；不镜像Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 59案例l使用存储自带IO特性分析工具得出如下结论： IO分布较随机，

47、但仍然有部分IO是连续下发的。l调整预取策略:l调整之后的测试结果为：最多支持1800路视频信号；有一定的提升，但是仍然达不到客户的需求。Cache预取策略预取策略可变预取: 4倍Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 60案例l再获取更多的IO特性，仔细分析后发现连续的IO的规律性并不是太强，那么使用可变预取将会导致部分预取的IO实际并不可用。l由于智能预取在IO离散的时候并不会启动预取，因此更加适用于视频点播场景，将预取算法更改为智能预取。l调整之后的测试结果为：最多支持接近2000路视频

48、信号；性能进一步得到提升，离客户需求的差距越来越小。Cache预取策略预取策略智能预取Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 61目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优4.性能测试工具和方法性能测试工具和方法 4.1 IO性能测试性能测试 4.2 业务场景测试 4.3 性能基准测试5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reser

49、ved. Page 62测试工具分类IO测试工具测试工具业务测试工具业务测试工具基准测试工具基准测试工具Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 63IO性能测试测试工具测试工具适用范围适用范围缺陷缺陷Iometer适用操作系统：Windows,Linux,Solaris,Netware,Mac OSX适用场景：提供非常全面的IO特性配置参数,可作为IO压力测试工具，能在IO层面模拟一些简单的业务场景,支持联机测试1.Linux存在异步IO压力不足的问题2.无法进行数据一致性验证3.联机测试中容

50、易出错XDD适用操作系统：Windows,Linux,Solaris,Mac OSX,AIX,HP UNIX,IRIX适用场景：可作为IO压力测试工具,目前在AIX下使用最多1.存在一些兼容性bug,在某些主机或操作系统上运行会报错2.无法设置测试时间3.测试时工具本身有一些性能波动4.不支持联机测试IORate适用操作系统：Linux,Solaris,AIX,HP UNIX适用场景：可作为IO压力测试工具，可以模拟相同IO特性的不同压力等级1.IO特性配置参数不够丰富2.不支持在Windows平台上测试3.不支持联机测试Copyright 2010 Huawei Technologies C

51、o., Ltd. All rights reserved. Page 64IO性能测试IOmeter访问IOmeter官方网站Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 65IO性能测试IOmeterl测试范围设置Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 66IO性能测试IOmeterl测试用例配置Copyright 2010 Huawei Technologies Co., Ltd. All ri

52、ghts reserved. Page 67IOmeter测试时间设置l测试时间设置Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 68IOmeter测试结果查询l测试结果查询Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 69目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优4.性能测试工具和方法性能测试工具和方法 4.1 IO性能测试 4.2 业务场景测试业务场景测试 4.3 性能

53、基准测试5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 70业务场景测试测试工具测试工具 适用范围适用范围 缺陷缺陷 IOZone 适用操作系统：Windows,Linux适用场景：测试不同类型文件系统在Read, write, re-read, re-write, read backwards, read strided, fread, fwrite, random read, pread ,mmap, aio_read, aio_write

54、 时的性能状况测试对象：文件系统，计算机CPU，内存和存储设备1.只能作为测试存储产品与特定主机和文件系统搭配时的性能测试工具，基本不具备场景模拟功能2.不具备对文件创建删除遍列和对目录操作的能力3.无法联机测试4.不具备数据一致性校验能力Postmark适用操作系统：Windows,Linux,Solaris适用场景：Email Server，小文件应用场景和文件系统老化测试测试对象：文件系统，计算机CPU，内存和存储设备1.单线程程序，压力不充分2.通过随机函数实现文件的读/写及创建/删除，操作不可控，不具备目录操作能力3.只适用于小文件操作场景的模拟4.无法联机测试5.不具备数据一致性校

55、验能力Boine+ 适用操作系统：Linux和UNIX相关平台适用场景：测试文件各种读写方式性能，测试大量文件创建删除测试对象：主要是文件系统和存储设备类似IOZone，但支持的文件操作和可控操作比IOZone更少一般不使用OrionOracle性能测试基准工具，针对Oracle数据的OLTP，Backup和OLTP+Backup混合业务进行模拟无须安装oracle数据库即可用于测试存储在oracle下的性能1.无法联机测试2.无法模拟Oracle各特定区域的IO特性Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved

56、. Page 71IOZONE安装和使用安装lIozone在windows操作系统下的安装界面按照软件的提示默认安装。lWindows系统默认安装在 C:Program FilesBenchmarks目录下。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 72IOZONE安装和使用使用l典型的测试命令./iozone -a -n 1g -g 4g -i 0 -i 1 -i 5 -f /mnt/iozone -Rb ./iozone.xls l进行全面测试.最小测试文件为1g直到测试到4G.测试read

57、,write,和Strided Read.l测试的地方在mnt下，生成Excel的文件. 具体参数代表的含义可以参考相应的文档和资料测试的时候请注意，设置的测试文件的大小一定要大过你的内存(最佳为内存的两倍大小)，否则可能会使数值非常不真实。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 73业务场景测试OrionlOrion是一款由Oracle公司提供，专门用于模拟数据库运行机制来测试存储的IO负载工具，可以在不运行Oracle数据库的情况下，仿真OLTP（在线事务处理）、OLAP（数据备份、数据恢

58、复）业务；lOrion可以在oracle的官方网站上下载；loracle不对orion进行技术支持。Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 74Orion安装Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 75Orion使用l典型配置命令C:Program Files (x86)OracleOrionorion -run simple -testname dave -num_disks 1l结果文件的

59、查看，请参考相应的资料和文档Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 76目录1.性能指标和IO流程2.影响性能的关键因素3.性能问题诊断和性能调优4.性能测试工具和方法性能测试工具和方法 4.1 IO性能测试 4.2 业务场景测试 4.3 性能基准测试性能基准测试 5.SAN存储系统常见性能故障排除存储系统常见性能故障排除Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 77性能测试基准测试工具测试工具

60、 工具描述工具描述 SPC-1SPC-1性能基准配套测试工具用于评估存储产品在OLTPEmailDatabase三种应用场景下的性能状况SPC-2SPC-2性能基准配套测试工具用于评估存储产品在BackupVODOLAP三种应用场景下的性能状况SPC-3SPC-3BR:基于存储管理软件的性能测试基准，度量数据备份和恢复的性能，该基准暂未正式公布SPC-3ILM:基于存储管理软件的性能测试基准，度量多存储系统节点所组成的大型存储解决方案的性能目前该基准还处于构想阶段TPC-C 构造一个典型的批发商应用模型，验证由服务器、数据库、存储所搭建的一整套业务系统在OLTP业务下的性能TPC-C规范只提供