Nginx反向代理、负载均衡、页面缓存、URL重写及读写分离详解.docx

大纲一、前言二、环境准备三、安装与配置Nginx四、Nginx之反向代理五、Nginx之负载均衡六、Nginx之页面缓存七、Nginx之URL重写八、Nginx之读写分离注：操作系统为CentOS 6.5 x84_64，Nginx是最新版1.4.4一、前言 在前面的几篇博文中我们主要讲解了Nginx作为Web服务器知识点，主要的知识点有nginx的理论详解、nginx作为web服务器的操作讲解、nginx作为LNMP架构的讲解，不清楚的博友可以回头看看，在这一篇博客中我们主要讲解， nginx的反向代理、负载均衡、缓存、URL重写以及读写分离详解。好了，下面我们来具体说一说。二、环境准备1.操作系统：CentOS 6.5 x84_642.软件：Nginx 1.4.44.安装源：rootlocalhost nginx# rpm -ivh /pub/epel/6/x86_64/epel-release-6-8.noarch.rpmrootweb1 # rpm -ivh /pub/epel/6/x86_64/epel-release-6-8.noarch.rpm5各节点时间同步(rootnginx )# ntpdate 01 (rootweb1 )# ntpdate 01 (rootweb2 )# ntpdate 016.关闭防火墙与selinux#service iptables stop chkconfig iptables off getenforce 三安装Nginx1.解压rootlocalhost nginx#tar -zxvf nginx-1.4.4.tar.gz2.新建nginx用户与组rootlocalhost nginx# groupadd -g 108 -r nginxrootlocalhost nginx#useradd -u 108 -r -g 108 nginxrootlocalhost nginx#id nginx3.准备编译配置文件rootlocalhost nginx#yum -y install pcre-devel openssl-develrootlocalhost nginx-1.4.4#./configure -prefix=/usr/ -sbin-path=/usr/sbin/nginx -conf-path=/etc/nginx.conf -error-log-path=/var/log/nginx/error.log -http-log-path=/var/log/nginx/access.log -pid-path=/var/run/nginx/nginx.pid -lock-path=/var/lock/nginx.lock -user=nginx -with-http_ssl_module -with-http_flv_module -with-http_stub_status_module -with-http_gzip_static_module -http-client-body-temp-path=/var/tmp/nginx/client/ -http-proxy-temp-path=/var/tmp/nginx/proxy/ -http-fastcgi-temp-path=/var/tmp/nginx/fcgi/ -http-uwsgi-temp-path=/var/tmp/nginx/uwsgi -http-scgi-temp-path=/var/tmp/nginx/scgi -with-pcre4.编译安装rootlocalhost nginx-1.4.4# make & make install5.为nginx提供SysV init 脚本rootlocalhost nginx-1.4.4# cat /etc/init.d/nginx #!/bin/sh # # nginx - this script starts and stops the nginx daemon # # chkconfig: - 85 15 # description: Nginx is an HTTP(S) server, HTTP(S) reverse # proxy and IMAP/POP3 proxy server # processname: nginx # config: /etc/nginx/nginx.conf # config: /etc/sysconfig/nginx # pidfile: /var/run/nginx.pid # Source function library. . /etc/rc.d/init.d/functions # Source networking configuration. . /etc/sysconfig/network # Check that networking is up. $NETWORKING = no & exit 0 nginx=/usr/sbin/nginx prog=$(basename $nginx) NGINX_CONF_FILE=/etc/nginx/nginx.conf -f /etc/sysconfig/nginx & . /etc/sysconfig/nginx lockfile=/var/lock/subsys/nginx make_dirs() # make required directories user=nginx -V 2&1 | grep configure arguments: | sed s/*-user=( *).*/1/g - options=$nginx -V 2&1 | grep configure arguments: for opt in $options; do if echo $opt | grep .*-temp-path ; then value=echo $opt | cut -d = -f 2 if ! -d $value ; then # echo creating $value mkdir -p $value & chown -R $user $value fi fi done start() -x $nginx | exit 5 -f $NGINX_CONF_FILE | exit 6 make_dirs echo -n $Starting $prog: daemon $nginx -c $NGINX_CONF_FILE retval=$? echo $retval -eq 0 & touch $lockfile return $retval stop() echo -n $Stopping $prog: killproc $prog -QUIT retval=$? echo $retval -eq 0 & rm -f $lockfile return $retval restart() configtest | return $? stop sleep 1 start reload() configtest | return $? echo -n $Reloading $prog: killproc $nginx -HUP RETVAL=$? echo force_reload() restart configtest() $nginx -t -c $NGINX_CONF_FILE rh_status() status $prog rh_status_q() rh_status /dev/null 2&1 case $1 in start) rh_status_q & exit 0 $1 ; stop) rh_status_q | exit 0 $1 ; restart|configtest) $1 ; reload) rh_status_q | exit 7 $1 ; force-reload) force_reload ; status) rh_status ; condrestart|try-restart) rh_status_q | exit 0 ; *) echo $Usage: $0 start|stop|status|restart|condrestart|try-restart|reload|force-reload|configtest exit 2 esac6.为此脚本赋予执行权限rootlocalhost # chmod +x /etc/init.d/nginx7.添加至服务管理列表，并让其开机启动rootlocalhost #chkconfig -add nginxrootlocalhost #chkconfig -list | grep nginxrootlocalhost #chkconfig nginx on8.启动nginxrootlocalhost #service nginx start9.查看一下端口rootlocalhost #netstat -ntlp |grep 8010.测试一下四Nginx之反向代理在配置nginx反向代理之间我们得先准备两台测试服务器，web1与web21. 安装httpdrootweb1 #yum y install httpdrootweb2 # yum y install httpd2. 提供测试页面rootweb1 # echo “” /var/www/html/index.htmlrootweb2 # echo “” /var/www/html/index.html3. 启动httpd服务rootweb2 # service httpd restart rootweb1 # service httpd restart 4. 测试一下5.简单说一下，正向代理与反向代理(1).正向代理的概念 正向代理，也就是传说中的代理,他的工作原理就像一个跳板，简单的说，我是一个用户，我访问不了某网站，但是我能访问一个代理服务器，这个代理服务器呢，他能访问那个我不能访问的网站，于是我先连上代理服务器，告诉他我需要那个无法访问网站的内容，代理服务器去取回来，然后返回给我。从网站的角度，只在代理服务器来取内容的时候有一次记录，有时候并不知道是用户的请求，也隐藏了用户的资料，这取决于代理告不告诉网站。 结论就是，正向代理 是一个位于客户端和原始服务器(origin server)之间的服务器，为了从原始服务器取得内容，客户端向代理发送一个请求并指定目标(原始服务器)，然后代理向原始服务器转交请求并将获得的内容返回给客户端。客户端必须要进行一些特别的设置才能使用正向代理。(2).反向代理的概念继续举例: 例用户访问 /readme，但上并不存在readme页面，他是偷偷从另外一台服务器上取回来，然后作为自己的内容返回用户，但用户并不知情。这里所提到的 这个域名对应的服务器就设置了反向代理功能。 结论就是，反向代理正好相反，对于客户端而言它就像是原始服务器，并且客户端不需要进行任何特别的设置。客户端向反向代理的命名空间(name-space)中的内容发送普通请求，接着反向代理将判断向何处(原始服务器)转交请求，并将获得的内容返回给客户端，就像这些内容原本就是它自己的一样。(3).两者区别从用途上来讲： 正向代理的典型用途是为在防火墙内的局域网客户端提供访问Internet的途径。正向代理还可以使用缓冲特性减少网络使用率。反向代理的典型用途是将防火墙后面的服务器提供给Internet用户访问。反向代理还可以为后端的多台服务器提供负载平衡，或为后端较慢的服务器提供缓冲服务。另外，反向代理还可以启用高级URL策略和管理技术，从而使处于不同web服务器系统的web页面同时存在于同一个URL空间下。从安全性来讲： 正向代理允许客户端通过它访问任意网站并且隐藏客户端自身，因此你必须采取安全措施以确保仅为经过授权的客户端提供服务。反向代理对外都是透明的，访问者并不知道自己访问的是一个代理。6.nginx 代理模块说明：代理模块的指令有很多我这里只讲解重要的proxy_pass，想了解更多代理指令请参考官方中文文档。这个模块可以转发请求到其他的服务器。HTTP/1.0无法使用keepalive（后端服务器将为每个请求创建并且删除连接）。nginx为浏览器发送HTTP/1.1并为后端服务器发送HTTP/1.0，这样浏览器就可以为浏览器处理keepalive。 如下例：location / proxy_pass http:/localhost:8000; proxy_set_header X-Real-IP $remote_addr;注意，当使用http proxy模块（甚至FastCGI），所有的连接请求在发送到后端服务器之前nginx将缓存它们，因此，在测量从后端传送的数据时，它的进度显示可能不正确实验拓补图：7.配置http反向代理rootnginx # cd /etc/nginx/rootnginx nginx# cp nginx.conf nginx.conf.bak #备份一个原配置文件rootnginx nginx# vim nginx.conflocation / proxy_pass 01; 指令说明：proxy_pass语法：proxy_pass URL默认值：no 使用字段：location, location中的if字段 这个指令设置被代理服务器的地址和被映射的URI，地址可以使用主机名或IP加端口号的形式，例如：proxy_pass http:/localhost:8000/uri/;8.重新加载一下配置文件rootnginx # service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx： 确定9.测试一下大家可以看到，当我们访问08时，被代理重新定向到Web1上10.查看一下Web服务器日志略。我们修改一下，让日志的IP显示真实的客户端的IP。11.修改nginx配置文件location / proxy_pass 01; proxy_set_header X-Real-IP $remote_addr; #加上这一行指令说明：proxy_set_header语法：proxy_set_header header value 默认值： Host and Connection 使用字段：http, server, location 这个指令允许将发送到被代理服务器的请求头重新定义或者增加一些字段。这个值可以是一个文本，变量或者它们的组合。proxy_set_header在指定的字段中没有定义时会从它的上级字段继承。12.重新加载一下配置文件rootnginx # service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx：13.测试并查看日志略注，大家可以看到日志记录的还是代理的IP，没有显示真实客户端的IP，为什么呢？我们来看一下httpd的配置文件。14. 查看并修改httpd配置文件rootweb1 # vim /etc/httpd/conf/httpd.conf注，大家可以这里记录日志的参数还是%h，下面我们修改一下参数。LogFormat %X-Real-IPi %l %u %t %r %s %b %Refereri %User-Agenti combinedLogFormat %h %l %u %t %r %s %b commonLogFormat %Refereri - %U refererLogFormat %User-agenti agent注，这是修改后的参数，将h%修改为%X-Real-IPi，好的下面我们再来测试一下15.重启并测试测试日志略注，大家可以看到现在的日志里记录的IP地址就是真实的客户端地址了。好了，到这里Nginx代理后端一台服务器就演示到这里，下面我们继续说。五、Nginx之负载均衡注，大家可以看到，由于我们网站是发展初期，nginx只代理了后端一台服务器，但由于我们网站名气大涨访问的人越来越多一台服务器实在是顶不住，于是我们加了多台服务器，那么多台服务器又怎么配置代理呢，我们这里以两台服务器为案例，为大家做演示。1.upstream 负载均衡模块说明案例：下面设定负载均衡的服务器列表。upstream ip_hash;server 3:80;server 4:80 down;server 5:8009 max_fails=3 fail_timeout=20s;server 6:8080;server location / proxy_pass ; 1.upstream是Nginx的HTTP Upstream模块，这个模块通过一个简单的调度算法来实现客户端IP到后端服务器的负载均衡。在上面的设定中，通过upstream指令指定了一个负载均衡器的名称。这个名称可以任意指定，在后面需要用到的地方直接调用即可。2.upstream 支持的负载均衡算法Nginx的负载均衡模块目前支持4种调度算法，下面进行分别介绍，其中后两项属于第三方调度算法。 轮询（默认）。每个请求按时间顺序逐一分配到不同的后端服务器，如果后端某台服务器宕机，故障系统被自动剔除，使用户访问不受影响。Weight 指定轮询权值，Weight值越大，分配到的访问机率越高，主要用于后端每个服务器性能不均的情况下。ip_hash。每个请求按访问IP的hash结果分配，这样来自同一个IP的访客固定访问一个后端服务器，有效解决了动态网页存在的session共享问题。fai这是比上面两个更加智能的负载均衡算法。此种算法可以依据页面大小和加载时间长短智能地进行负载均衡，也就是根据后端服务器的响应时间来分配请求，响应时间短的优先分配。Nginx本身是不支持fair的，如果需要使用这种调度算法，必须下载Nginx的upstream_fair模块。url_hash 此方法按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，可以进一步提高后端缓存服务器的效率。Nginx本身是不支持url_hash的，如果需要使用这种调度算法，必须安装Nginx 的hash软件包。3.upstream 支持的状态参数在HTTP Upstream模块中，可以通过server指令指定后端服务器的IP地址和端口，同时还可以设定每个后端服务器在负载均衡调度中的状态。常用的状态有： down，表示当前的server暂时不参与负载均衡。backup，预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候，才会请求backup机器，因此这台机器的压力最轻。max_fails，允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream 模块定义的错误。fail_timeout，在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用。注，当负载调度算法为ip_hash时，后端服务器在负载均衡调度中的状态不能是weight和backup。4.实验拓扑图5.配置nginx负载均衡rootnginx # vim /etc/nginx/nginx.confupstream webservers server 23 weight=1; server 5 weight=1; server listen 80; server_name localhost; #charset koi8-r; #access_log logs/host.access.log main; location / proxy_pass http:/webservers; proxy_set_header X-Real-IP $remote_addr; 注，upstream是定义在server之外的，不能定义在server内部。定义好upstream之后，用proxy_pass引用一下即可。6.重新加载一下配置文件rootnginx # service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx： 确定7.测试一下注，大家可以不断的刷新浏览的内容，可以发现web1与web2是交替出现的，达到了负载均衡的效果。8.查看一下Web访问服务器日志Web2:先修改一下，Web服务器记录日志的格式。跟web1一样，修改httpd.conf这里略了；rootweb1 # Cat /var/log/httpd/access_log 84 - - 22/Oct/2014:12:43:56 +0800 GET / HTTP/1.0 200 18 - Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.3684 - - 22/Oct/2014:12:43:57 +0800 GET / HTTP/1.0 200 18 - Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36注，大家可以看到，两台服务器日志都记录是84访问的日志，也说明了负载均衡配置成功。9.配置nginx进行健康状态检查max_fails，允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream 模块定义的错误。fail_timeout，在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用，进行健康状态检查。rootnginx # vim /etc/nginx/nginx.confupstream webservers server 23 weight=1 max_fails=2 fail_timeout=2; server 5 weight=1 max_fails=2 fail_timeout=2; 10.重新加载一下配置文件rootnginx # service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx： 确定11.停止服务器并测试先停止Web1，进行测试。rootweb1 # service httpd stop停止 httpd： 注，大家可以看到，现在只能访问Web2，再重新启动Web1，再次访问一下。 rootweb1 # service httpd start正在启动 httpd： 确定注，大家可以看到，现在又可以重新访问，说明nginx的健康状态查检配置成功。但大家想一下，如果不幸的是所有服务器都不能提供服务了怎么办，用户打开页面就会出现出错页面，那么会带来用户体验的降低，所以我们能不能像配置LVS是配置sorry_server呢，答案是可以的，但这里不是配置sorry_server而是配置backup。12.配置backup服务器#这里是在原来的nginx配置文件中再加字段serverrootnginx # vim /etc/nginx/nginx.confserver listen 8080; server_name localhost; root /data/www/errorpage; index index.html; upstream webservers server 23 weight=1 max_fails=2 fail_timeout=2; server 5 weight=1 max_fails=2 fail_timeout=2; server :8080 backup; rootnginx # mkdir -pv /data/www/errorpagerootnginx errorpage# cat index.htmlSorry.13.重新加载配置文件rootnginx errorpage# service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx： 确定14.关闭Web服务器并进行测试rootweb1 # service httpd stop停止 httpd： 确定rootweb2 # service httpd stop停止 httpd： 确定15.测试一下注，大家可以看到，当所有服务器都不能工作时，就会启动备份服务器。好了，backup服务器就配置到这里，下面我们来配置ip_hash负载均衡。15.配置ip_hash负载均衡ip_hash，每个请求按访问IP的hash结果分配，这样来自同一个IP的访客固定访问一个后端服务器，有效解决了动态网页存在的session共享问题。（一般电子商务网站用的比较多）rootnginx # vim /etc/nginx/nginx.confupstream webservers ip_hash; server 5 weight=1 max_fails=2 fail_timeout=2; server 23 weight=1 max_fails=2 fail_timeout=2; #server :8080 backup; 注，当负载调度算法为ip_hash时，后端服务器在负载均衡调度中的状态不能有backup。（有人可能会问，为什么呢？大家想啊，如果负载均衡把你分配到backup服务器上，你能访问到页面吗？不能，所以了不能配置backup服务器）16.重新加载一下服务器rootnginx # service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx：17.测试：注，大家可以看到，你不断的刷新页面一直会显示的民Web2，说明ip_hash负载均衡配置成功。下面我们来统计一下Web2的访问连接数。18.统计Web2的访问连接数注，你不断的刷新，连接数会越来越多。好了，nginx的负载均衡就全部演示到这里下面我们来说一说，页面缓存。六、Nginx之页面缓存1.指令说明proxy_cache_path语法：proxy_cache_path path levels=number keys_zone=zone_name:zone_size inactive=time max_size=size; 默认值：None 使用字段：http 指令指定缓存的路径和一些其他参数，缓存的数据存储在文件中，并且使用代理url的哈希值作为关键字与文件名。levels参数指定缓存的子目录数，例如：proxy_cache_path /data/nginx/cache levels=1:2 keys_zone=one:10m;文件名类似于：/data/nginx/cache/c/29/b7f54b2df7773722d382f4809d65029clevels指定目录结构，可以使用任意的1位或2位数字作为目录结构，如 X, X:X,或X:X:X 例如: “2”, “2:2”, “1:1:2“，但是最多只能是三级目录。 所有活动的key和元数据存储在共享的内存池中，这个区域用keys_zone参数指定。one指的是共享池的名称，10m指的是共享池的大小。 注意每一个定义的内存池必须是不重复的路径，例如：proxy_cache_path /data/nginx/cache/one levels=1 keys_zone=one:10m;proxy_cache_path /data/nginx/cache/two levels=2:2 keys_zone=two:100m;proxy_cache_path /data/nginx/cache/three levels=1:1:2 keys_zone=three:1000m;如果在inactive参数指定的时间内缓存的数据没有被请求则被删除，默认inactive为10分钟。一个名为cache manager的进程控制磁盘的缓存大小，它被用来删除不活动的缓存和控制缓存大小，这些都在max_size参数中定义，当目前缓存的值超出max_size指定的值之后，超过其大小后最少使用数据（LRU替换算法）将被删除。内存池的大小按照缓存页面数的比例进行设置，一个页面（文件）的元数据大小按照操作系统来定，如FreeBSD/i386下为64字节，FreeBSD/amd64下为128字节。proxy_cache语法：proxy_cache zone_name; 默认值：None 使用字段：http, server, location 设置一个缓存区域的名称，一个相同的区域可以在不同的地方使用。 在0.7.48后，缓存遵循后端的”Expires”, “Cache-Control: no-cache”, “Cache-Control: max-age=XXX”头部字段，0.7.66版本以后，”Cache-Control:“private”和”no-store”头同样被遵循。nginx在缓存过程中不会处理”Vary”头，为了确保一些私有数据不被所有的用户看到，后端必须设置 “no-cache”或者”max-age=0”头，或者proxy_cache_key包含用户指定的数据如$cookie_xxx，使用cookie的值作为proxy_cache_key的一部分可以防止缓存私有数据，所以可以在不同的location中分别指定proxy_cache_key的值以便分开私有数据和公有数据。 缓存指令依赖代理缓冲区(buffers)，如果proxy_buffers设置为off，缓存不会生效。proxy_cache_valid语法：proxy_cache_valid reply_code reply_code time; 默认值：None 使用字段：http, server, location 为不同的应答设置不同的缓存时间，例如：proxy_cache_valid 200 302 10m;proxy_cache_valid 404 1m;为应答代码为200和302的设置缓存时间为10分钟，404代码缓存1分钟。 如果只定义时间：proxy_cache_valid 5m;那么只对代码为200, 301和302的应答进行缓存。 同样可以使用any参数任何应答。proxy_cache_valid 200 302 10m;proxy_cache_valid 301 1h;proxy_cache_valid any 1m;2.定义一个简单nginx缓存服务器rootnginx # vim /etc/nginx/nginx.confproxy_cache_path /data/nginx/cache/webserver levels=1:2 keys_zone=webserver:20m max_size=1g; server listen 80; server_name localhost; #charset koi8-r; #access_log logs/host.access.log main; location / proxy_pass http:/webservers; proxy_set_header X-Real-IP $remote_addr; proxy_cache webserver; proxy_cache_valid 200 10m; 3.新建缓存目录rootnginx # mkdir -pv /data/nginx/cache/webserver4.重新加载一下配置文件rootnginx webserver# service nginx reloadnginx: the configuration file /etc/nginx/nginx.conf syntax is oknginx: configuration file /etc/nginx/nginx.conf test is successful重新载入 nginx： 注，大家用谷歌浏览器测试的时候，可以按F12调用开发工具，选择Network选项，我们可以看到，Response Headers，在这里我们可以看到，我们请求的是否是缓存，但现在还看不到，下面我们来配置一下，再来测试。5. 缓存变量说明1.指令说明proxy_cache_path语法：proxy_cache_path path levels=number keys_zone=zone_name:zone_size inactive=time max_size=size; 默认值：None 使用字段：http 指令指定缓存的路径和一些其他参数，缓存的数据存储在文件中，并且使用代理url的哈希值作为关键字与文件名。levels参数指定缓存的子目录数，例如：proxy_cache_path /data/nginx/cache levels=1:2 keys_zone=one:10m;文件名类似于：/data/nginx/cache/c/29/b7f54b2df7773722d382f4809d65029clevels指定目录结构，可以使用任意的1位或2位数字作为目录结构，如 X, X:X,或X:X:X 例如: “2”, “2:2”, “1:1:2“，但是最多只能是三级目录。 所有活动的key和元数据存储在共享的内存池中，这个区域用keys_zone参数指定。one指的是共享池的名称，10m指的是共享池的大小。 注意每一个定义的内存池必须是不重复的路径，例如：proxy_cache_path /data/nginx/cache/one levels=1 keys_zone=one:10m;proxy_cache_path /data/nginx/cache/t