HCNPCBDS产品组网规划和性能调优性能调优

产品组网规划和性能调优-性能调优

2目标学完本课程后，您将能够：掌握OceanStor9000典型组网类型和应用场景。掌握10GE组网典型部署方案。掌握IB组网典型部署方案。了解产品组网助手工具使用方法。了解OceanStor9000各项性能指标。掌握影响OceanStor9000性能的主要因素。了解性能监控工具OceanStorSystemReporter。掌握OceanStor9000通用的调优方法。3性能指标及性能监控工具影响性能的因素及调优思路性能调优方法4性能指标OceanStor9000的性能主要由OPS和带宽来衡量，小文件场景关注OPS，大文件场景关注带宽。OPS：即每秒操作次数，指OceanStor9000每秒可以处理客户端业务请求的个数，如读、写，此处统计与IOPS(Input/OutputOperationsPerSecond)每秒进行读写操作的次数的含义相同。带宽：指OceanStor9000每秒的吞吐量，即每秒可以完成读/写的数据量，单位为MB/s。5性能监控工具—Devicemanager6性能监控工具—SystemReporterOceanStor9000提供专用性能与容量报表分析工具OceanStorSystemReporter。该报表分析工具为可选安装组件，且无License限制。7性能监控指标SystemReporter实时的采集资源对象的相关性能指标数值后，经过分析处理呈现在界面上。资源对象包括：集群、节点、网口、硬盘、客户端。资源对象性能指标集群平均CPU利用率、最大CPU利用率、平均内存利用率、最大内存利用率带宽、写带宽、读带宽、总容量、已用容量、空闲容量、容量利用率已连接客户端数量、NFS已连接客户端数量、CIFS已连接客户端数量节点平均CPU利用率、平均内存利用率带宽、写带宽、读带宽总容量、已用容量、空闲容量、容量利用率NFS协议时延相关指标、CIFS协议时延相关指标、NFS协议读操作时延连续过大发生次数、CIFS协议读操作时延连续过大发生次数已连接客户端数量、NFS已连接客户端数量、CIFS已连接客户端数量吞吐量、读吞吐量、写吞吐量、总IOPS、读IOPS、写IOPS8性能监控指标(续)资源对象性能指标网口带宽、写带宽、读带宽网络包流速、网络包入流速、网络包出流速、利用率硬盘吞吐量、读吞吐量、写吞吐量总IOPS、读IOPS、写IOPS平均I/O响应时间、平均读I/O响应时间、平均写I/O响应时间、平均I/O大小、写I/O平均大小、读I/O平均大小利用率、队列长度、繁忙度客户端带宽、写带宽、读带宽、OPS、读OPS、写OPS时延相关指标协议读操作时延连续过大发生次数客户端文件访问量协议类型、文件写入总量、文件下载总量文件类型、文件读取次数、文件写入次数、文件下载次数、文件读取总量9报表功能类型功能预置报表系统已预定义的常用报表统计项。管理员在首页的控制面板中选择要查看的预置报表后，即可在每次登录后在首页快速查看这些报表数据。自定义报表指管理员自行选择、组合感兴趣的性能指标后，生成的性能和容量报表。自定义报表可对资源对象和统计时段进行自定义。任务报表利用自定义报表、辅助周期执行策略，定期执行用户关心的性能与容量报表，并将报表执行结果自动发送到指定管理员。10报表示例-览-热点报表11报表示例-集群实时监控报表12报表示例-网口实时监控报表13报表示例-客户端实时监控报表14性能指标及性能监控工具影响性能的因素及调优思路性能调优方法15业务处理流程客户端的读写请求业务的处理流程为：“客户端>业务网络>OceanStor9000节点”，性能分析可以根据数据的处理流程，逐一分析。OceanStor9000的整体性能主要受到客户端配置，网络状况，系统配置的影响。16影响性能的因素和调优思路客户端因素：业务应用特征因素配置因素网络因素：包括速率协商，延时，丢包等。OceanStor9000配置因素OceanStor9000节点硬件配置OceanStor9000的文件系统的配置调优思路：做性能分析调整的时候，需要根据性能监控工具的监控结果，按照“排除外部干扰因素，优化配置”的顺序逐一调整，然后观测性能监控工具的报表监控调整后的结果。17性能指标及性能监控工具影响性能的因素及调优思路性能调优方法18网络调优-ifconfig网络调优需要从存储节点、客户端、交换机三个方面进行检查和调整。存储节点和客户端的调优主要方法有：ifconfig,ethtool,Ping三个命令ifconfig查看接口状态是否正常。查看IP地址是否正常。“errors”、“overruns”、“frame”计数应该为0。B3-0、A0-0收发包数差距应该很小。19网络调优-ethtoolethtool：主要看“Speed”速率协商是否是网口对应速率，“Linkdetected”是否为yes，“duplex”是否是full。20网络调优-ethtool(续)ethtool

-i

A0-1：看网口驱动版本，可以识别接口类型和厂商，比如cxgb4是Chelsio卡，ixgbe是Intel10GE卡。lspci|grepEther：确认用的是什么型号的网卡。21网络调优-Ping指定地址ping：ping-I出接口地址目的地址10GE网络直连，部署前ping延时0.03ms左右，部署后0.05-0.08ms左右，如果有ping经常超过0.5ms需检查线缆、光模块、光纤、网卡。22网络调优-交换机调优交换机侧主要介绍三条命令检测网络。displayinter10ge1/0/16能看到接口统计数，查看交换机是否记录接口丢包，此处仅为举例，实际应用中找到对应连接的交换机接口。displaytrapbuf：确认交换机发送的trap有没有异常，比如up和down。displaylogbuf：如果看到关注的接口有频繁up和down，或者这个交换机中有大量的stpforwarding和discarding，要关注后端组网是否存在环路，是否不断有存储节点上线下线。23网络调优-交换机调优交换机侧主要介绍三条命令检测网络。displayinter10ge1/0/16能看到接口统计数，查看交换机是否记录接口丢包，此处仅为举例，实际应用中找到对应连接的交换机接口。displaytrapbuf：确认交换机发送的trap有没有异常，比如up和down。displaylogbuf：如果看到关注的接口有频繁up和down，或者这个交换机中有大量的stpforwarding和discarding，要关注后端组网是否存在环路，是否不断有存储节点上线下线。24OceanStor9000配置调优OceanStor9000侧的配置调优包括：分析与调整NAS服务参数分析与调整客户端接入负载分配分析与调整热点数据布局分析与调整冗余配比（数据保护级别）和条带大小后台任务对性能有影响，请避开业务繁忙阶段启动。25分析与调整NAS服务参数参数名称影响范围参数描述调整建议NFS传输块大小NFS文件共享在NFS文件共享中，NFS客户端与OceanStor9000之间单次业务请求中携带的数据块大小。该值过小，将增加交互次数；该值过大，将浪费交互双方的资源。因此，请分析需要存储到OceanStor9000中的文件大小比例得出存储文件模型，然后选取一个合适大小的数值。如有必要，可尝试多次后依据业务表现选定。调整传输块大小需要同时调整客户端和OceanStor9000端。如不一致，则以双方所设置值中的最小值为准。由于OceanStor9000中该参数值缺省已被设置为最大值，因此仅需要将客户端该参数值调整为目标值。CIFS传输块大小CIFS文件共享在CIFS文件共享中，CIFS客户端与OceanStor9000之间单次业务请求中携带的数据块大小。26分析与调整NAS服务参数（续）参数名称影响范围参数描述调整建议Notify启用CIFS文件共享勾选后，一个客户端针对一个目录内的变更操作（如新增目录、新增文件、修改目录、修改文件等），可被其他正在访问此目录及其父目录的客户端感知，如自动刷新显示。如果无需启用此功能，请去勾选此参数。注意：关闭Notify变更通知会导致一些应用无法感知文件变化。签名启用CIFS文件共享当客户端采用SMB1.0时有效，勾选后OceanStor9000将支持签名功能；对SMB1.0后续版本，OceanStor9000固定支持签名功能。是否实际采用签名功能，还受客户端注册表设置影响。如未更改注册表设置，则缺省不采用此功能。采用签名功能后，发送方将针对待发送报文计算并生成校验数据，然后一并发送给接收方，接收方通过算法确认所接收报文的数据完整性与有效性。如果无需启用此功能，请去勾选这两个参数。如果客户端已设置启用该功能，请同时恢复为缺省设置。强制签名CIFS文件共享勾选后，将强制要求客户端采用签名功能。如客户端不设置为启用状态，则OceanStor9000将拒绝此客户端的数据访问请求。27分析与调整NAS服务参数（续）参数名称影响范围参数描述调整建议访问时间跟踪NFS文件共享、CIFS文件共享即每次读取文件时将更新读取时间。缺省处于启用状态。如果无需启用此功能，则可关闭此功能以提升性能。注意：关闭“访问时间跟踪”会导致一些应用无法感知文件变化，比如应用基于“最后一次访问时间”的文件迁移功能，就不能关闭此功能。28分析与调整客户端接入负载分配InfoEqualizer特性可让NFS/CIFS客户端连接以负载均衡方式分配给多个存储节点处理。当客户端接入负载分配不均时，通过调整InfoEqualizer配置可提升系统性能。29接入负载分配调整流程步骤通过收集客户端应用需求并持续观察在线客户端数据，分析是否存在负载分配不均的情况。例如，极端情况下所有客户端未采用分配的域名，而直接以某个存储节点的IP地址接入OceanStor9000，将导致该存储节点成为性能瓶颈。如果存在分配不均的情况，需要根据收集到的各客户端负载数据规划分区，为每个分区选择合适的负载均衡策略，然后为每个客户端分配对应分区的访问域名。步骤为：登录DeviceManager观测各节点负载情况调整分区在各客户端中卸载已共享目录并以分配的域名重新挂载30接入负载分配调整-观测各节点负载正常现象：单个节点的读写带宽都在性能规格的60%以下无需关注，此时的业务压力不足，各节点负载不均是正常现象。单个节点的CPU利用率都在60%以下无需关注，此时的业务压力不足，各节点负载不均是正常现象。需要调整分区：单个节点的读写带宽达到性能规格的80%，而其它节点的读写带宽还在性能规格的60%以下，此时出现了负载分配不均，需要调整分区。单个节点的CPU利用率达到80%，而其它节点的CPU利用率还在60%以下，此时出现了负载分配不均，需要调整分区。31接入负载分配调整-观测各节点负载通过InfoEqualizer特性，调整负载策略遵循如下原则：单纯是CPU利用率高，集群平均CPU负载超过60%时，建议设置为“CPU使用率”。单纯是读写超过性能规格60%，建议设置为“节点吞吐量”。其它场景，建议设置为“节点综合负载”。32分析与调整热点数据布局思路：节点和硬盘读写性能存在差异，读写性能由高到低：P25NodeSSD硬盘>P25NodeSAS硬盘>P36NodeSATA硬盘>P12SATA硬盘>C36SATA硬盘。当同时存在不同类型存储节点时，如启用了分级存储功能，可通过定义文件池策略识别热点数据，并将这些数据存放到由读写性能更好的节点组成的节点池或分级中；还可通过定义文件池策略识别热点数据并将这些数据存放到SSD硬盘中，从而实现SSD加速功能；通过业务相关的分析来设置文件池策略，如果发现自己的业务特征变了，需要同步调整文件池策略。33分析与调整冗余配比和条带大小当目录的冗余配比和条带大小设置不当时，通过调整设置可提升系统性能。条带大小的不同，影响性能和硬盘利用率，区别在于数据切片时每个分片的大小。条带越大，性能越好；反之，硬盘利用率越高。同等条件下，读写性能由高到低：冗余配比：N+1>N+2=N+2:1>N+3=N+3:1>N+4条带：512KB>256KB>128KB>32KB>16KB34分析与调整冗余配比和条带大小为保证性能和提升硬盘利用率，建议根据预期一个目录内平均文件大小设置条带值。当平均文件大小小于等于64KB时，设置条带值为16KB。当平均文件大小大于64KB且小于等于128KB时，设置条带值为32KB。当平均文件大小大于128KB且小于等于2048KB时，设置条带值为128KB。当平均文件大小大于2048KB且小于等于4096KB时，设置条带值为256KB。当平均文件大小大于4096KB时，设置条带值为512KB。35客户端调优Linux客户端的调整包括以下方面：TCP参数调整支持巨帧NFS并发数调整NFS挂载参数调整dirty_bytes参数调整Windows客户端的调整包括以下方面：TCP参数调整支持巨帧CIFS读写大小设置下面将以Linux客户端调整参数为例，说明客户端参数调整方法。36Linux客户端调优-TCP参数调整和支持巨帧TCP参数调整：NFS使用TCP协议来进行数据的收发，适当增大缓存区大小可以加快TCP传输速度。在10GE网络下，TCP收发缓存区大小建议增大为下述值，GE网络下，可以不做调整。net.ipv4.tcp_rmem='4000000800000016000000'net.ipv4.tcp_wmem='4000000800000016000000’支持巨帧：开启巨帧可以减少TCP损耗，提升性能。前提是要确认从OceanStor9000前端网络接口到客户端接口之间所有网络设备都要支持巨帧，而且MTU都要配置成匹配的值才可以使用该功能。为了支持巨帧，对应的OceanStor9000所有节点同时也需要执行该操作，将前端IP地址对应的配置文件修改为MTU=‘9000’。37Linux客户端调优-NFS并发数和dirty_baytes参数调整NFS并发数调整：增大NFS协议客户端与服务读的并发消息处理数，同一时刻内，可以将更多的客户端请求传递