linux服务器的性能能分析与优化.doc

【教程主题】：1.linux服务器的性能分析与优化【课程录制】： 创E【主要内容】【1】影响Linux服务器性能的因素操作系统级 CPU目前大部分CPU在同一时间只能运行一个线程，超线程的处理器可以在同一时间处理多个线程，因此可以利用超线程特性提高系统性能。在linux系统下只有运行SMP内核才能支持超线程，但是安装的CPu数量越多，从超线程获得的性能提升越少。另外linux内核会将多核的处理器当做多个单独的CPU来识别，例如，两个4核的CPU会被当成8个单个CPU，从性能角度讲，两个4核的CPU整体性能要比8个单核CPU低25%-30%。可能出现CPU瓶颈的应用有邮件服务器、动态web服务器等。 内存内存太小，系统进程将被阻塞，应用也将变得缓慢，甚至失去响应；内存太大，导致资源浪费。虚拟内存可以缓解物理内存的不足，但是虚拟内存的过多占用会导致应用程序的性能明显下降。在一个32位处理器的linux系统中超过8GB的物理内存都将被浪费，因此要使用更大的内存，建议安装64位的操作系统，同时开启linux的大内存内核支持。由于处理器寻址范围的限制，在32位linux操作系统上，应用程序单个进程最大只能使用2GB的内存。可能出现内存瓶颈的有打印服务器、数据库服务器、静态web服务器等。 磁盘I/O性能磁盘RAID技术，Redundant Array of Independent Disk，即独立磁盘冗余阵列，简称磁盘阵列。RAID通过将多块独立的磁盘（物理硬盘）按不同的方式组合起来形成一个磁盘组（逻辑硬盘），从而提供比单个磁盘更高的IO性能和数据冗余。根据磁盘组合方式不同，分为RAID0、RAID1、RAID2、RAID3、RAID4、RAID5、RAID6、RAID7、RAID0+1、RAID10等，常用的有RAID0、RAID1、RAID5、RAID0+1。RAID0：通过把多块硬盘粘合成一个容量更大的硬盘组，提高磁盘的性能和吞吐量，成本低，至少两块磁盘，但是没有容错和数据修复功能，只能用在对数据安全性要求不高的环境中。RAID1：也就是磁盘镜像，通过把一个磁盘的数据镜像到另外一个磁盘上，最大限度的保证磁盘数据的可靠性和可修改性，具有很高的数据冗余能力，但是磁盘利用率只有50%，成本较高，多用在保存重要数据的场合。RAID5：磁盘分段加奇偶校验技术，提高了系统的可靠性。读出效率很高，写效率一般，至少需要3块磁盘，允许一块磁盘故障，不影响数据的可用性。RAID0+1：把RAID0和RAID1技术结合起来，至少需要4块硬盘，每个盘都有其镜像盘，提高全冗余能力，并具有快速读写能力。 网络带宽程序应用级【2】系统性能评估标准其中：%user：表示CPU处在用户模式下的时间百分比。%sys：表示CPU处在系统模式下的时间百分比。%iowait：表示CPU等待输入输出完成时间的百分比。swap in：即si，表示虚拟内存的页导入，即从SWAP DISK交换到RAMswap out：即so，表示虚拟内存的页导出，即从RAM交换到SWAP DISK。【3】系统性能分析工具 常用系统命令Vmstat、sar、iostat、netstat、free、ps、top等常用组合方式l 用vmstat、sar、iostat检测是否是CPU瓶颈l 用free、vmstat检测是否是内存瓶颈l 用iostat检测是否是磁盘I/O瓶颈l 用netstat检测是否是网络带宽瓶颈1：系统整体性能评估（uptime命令）rootweb1 # uptime16:38:00 up 118 days, 3:01, 5 users, load average: 1.22, 1.02, 0.91 这里需要注意的是：load average这个输出值，这三个值的大小一般不能大于系统CPU的个数，例如，本输出中系统有8个CPU,如果load average的三个值长期大于8时，说明CPU很繁忙，负载很高，可能会影响系统性能，但是偶尔大于8时，倒不用担心，一般不会影响系统性能。相反，如果load average的输出值小于CPU的个数，则表示CPU还有空闲的时间片，比如本例中的输出，CPU是非常空闲的。2：cpu性能评估（1）利用vmstat命令监控系统CPU 该命令可以显示关于系统各种资源之间相关性能的简要信息，这里我们主要用它来看CPU一个负载情况。 下面是vmstat命令在某个系统的输出结果： rootnode1 # vmstat 2 3 #每2秒更新信息，统计3次procs -memory- -swap- -io- -system- -cpu- r b swpd free buff cache si so bi bo in cs us sy id wa st 0 0 0 162240 8304 67032 0 0 13 21 1007 23 0 1 98 0 0 0 0 0 162240 8304 67032 0 0 1 0 1010 20 0 1 100 0 0 0 0 0 162240 8304 67032 0 0 1 1 1009 18 0 1 99 0 0Procsr列表示运行和等待cpu时间片的进程数，这个值如果长期大于系统CPU的个数，说明CPU不足，需要增加CPU。b列表示在等待资源的进程数，比如正在等待I/O、或者内存交换等。Cpuus列显示了用户进程消耗的CPU 时间百分比。us的值比较高时，说明用户进程消耗的cpu时间多，但是如果长期大于50%，就需要考虑优化程序或算法。sy列显示了内核进程消耗的CPU时间百分比。Sy的值较高时，说明内核消耗的CPU资源很多。 根据经验，us+sy的参考值为80%，如果us+sy大于 80%说明可能存在CPU资源不足。（2） 利用sar命令监控系统CPU sar功能很强大，可以对系统的每个方面进行单独的统计，但是使用sar命令会增加系统开销，不过这些开销是可以评估的，对系统的统计结果不会有很大影响。 下面是sar命令对某个系统的CPU统计输出：rootwebserver # sar -u 3 5 #u显示系统所有cpu在采样时间内的负载状态Linux 2.6.9-42.ELsmp (webserver) 11/28/2008 _i686_ (8 CPU)11:41:24 AM CPU %user %nice %system %iowait %steal %idle11:41:27 AM all 0.88 0.00 0.29 0.00 0.00 98.8311:41:30 AM all 0.13 0.00 0.17 0.21 0.00 99.5011:41:33 AM all 0.04 0.00 0.04 0.00 0.00 99.9211:41:36 AM all 90.08 0.00 0.13 0.16 0.00 9.6311:41:39 AM all 0.38 0.00 0.17 0.04 0.00 99.41Average: all 0.34 0.00 0.16 0.05 0.00 99.45对上面每项的输出解释如下：l %user列显示了用户进程消耗的CPU 时间百分比。l %nice列显示了运行正常进程所消耗的CPU 时间百分比。l %system列显示了系统进程消耗的CPU时间百分比。l %iowait列显示了IO等待所占用的CPU时间百分比l %steal列显示了在内存相对紧张的环境下pagein强制对不同的页面进行的steal操作。l %idle列显示了CPU处在空闲状态的时间百分比。3：内存性能评估 （1）利用free指令监控内存free是监控linux内存使用状况最常用的指令，看下面的一个输出：rootwebserver # free -m #查看以M为单位的内存使用情况 total used free shared buffers cachedMem: 8111 7185 926 0 243 6299-/+ buffers/cache: 643 7468Swap: 8189 0 8189 一般有这样一个经验公式：应用程序可用内存/系统物理内存70%时，表示系统内存资源非常充足，不影响系统性能，应用程序可用内存/系统物理内存20%时，表示系统内存资源紧缺，需要增加系统内存，20%应用程序可用内存/系统物理内存 test.txt【6】shell分析nginx日志6 - - 04/Jul/2013:00:00:31 +0800 GET /tag/316/PostgreSQL HTTP/1.1 200 4779 - Mozilla/5.0 (compatible; Exabot/3.0 (BiggerBetter); +/go/robot) - 6 - - 04/Jul/2013:00:00:34 +0800 GET /tag/317/edit HTTP/1.1 303 5 - Mozilla/5.0 (compatible; Exabot/3.0 (BiggerBetter); +/go/robot) - 00 - - 04/Jul/2013:00:00:34 +0800 GET /code-snippet/2022/edit HTTP/1.0 303 0 - Mozilla/5.0 (Windows NT 6.1; rv:17.0) Gecko/17.0 Firefox/17.0 - 00 - - 04/Jul/2013:00:00:35 +0800 GET /user/login?url=http%3A//code-snippet/2022/edit HTTP/1.0 200 4748 - Mozilla/5.0 (Windows NT 6.1; rv:17.0) Gecko/17.0 Firefox/17.0 -以下脚本都是基于上面日志格式的，如果你的日志格式不同需要调整awk后面的参数。分析日志中的UserAgentcat access_20130704.log | awk -F print $(NF-3) | sort | uniq -c | sort -nr | hea