nginx tomcat负载均衡缓存服务器集群.docx

nginx+tomcat负载均衡缓存服务器集群根据公司的需求，以及以后的访问量，决定用nginx做负载均衡服务器和cache缓存服务器，后端用2台tomcat提供web服务，用户信息数据用oracle来存储，音频文件用一台单独的应用服务器来存储。下面是nginx和tomcat的配置信息，关于oracle的安装和配置请参考本博客的centos+oracle10g的安装文件说明来配置。1、环境描述 nginx和tomcat1服务器地址：31 tomcat2服务器地址：28 tomcat3服务器地址：322、Nginx从0.7.48版本开始，支持了类似Squid的缓存功能。这个缓存是把URL及相关组合当作Key，用md5编码哈希后保存在硬盘上，所以它可以支持任意URL链接，同时也支持404/301/302这样的非200状态码。虽然目前官方的Nginx Web缓存服务只能为指定URL或状态码设置过期时间，不支持类似Squid的PURGE指令，手动清除指定缓存页面，但是，通过一个第三方的Nginx模块，可以清除指定URL的缓存。Nginx的Web缓存服务主要由proxy_cache相关指令集和fastcgi_cache相关指令集构成，前者用于反向代理时，对后端内容源服务器进行缓存，后者主要用于对FastCGI的动态程序进行缓存。两者的功能基本上一样。最新的Nginx 0.8.32版本，proxy_cache和fastcgi_cache已经比较完善，加上第三方的ngx_cache_purge模块（用于清除指定URL的缓存），已经可以完全取代Squid。我们已经在生产环境使用了 Nginx 的 proxy_cache 缓存功能超过两个月，十分稳定，速度不逊于 Squid。在功能上，Nginx已经具备Squid所拥有的Web缓存加速功能、清除指定URL缓存的功能。而在性能上，Nginx对多核CPU的利用，胜过Squid不少。另外，在反向代理、负载均衡、健康检查、后端服务器故障转移、Rewrite重写、易用性上，Nginx也比Squid强大得多。这使得一台Nginx可以同时作为“负载均衡服务器”与“Web缓存服务器”来使用。(1)、Nginx 负载均衡与缓存服务器在 Linux 下的编译安装：ulimit -SHn 65535echo ulimit -SHn 65535 /etc/rc.local #使下次重启配置生效wget ftp:/ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.00.tar.gztar zxvf pcre-8.00.tar.gzcd pcre-8.00/./configuremake & make installcd ./wget /files/ngx_cache_purge-1.0.tar.gztar zxvf ngx_cache_purge-1.0.tar.gzwget /download/nginx-0.8.32.tar.gztar zxvf nginx-0.8.32.tar.gzcd nginx-0.8.32/./configure -user=www -group=www -add-module=./ngx_cache_purge-1.0 -prefix=/usr/local/webserver/nginx -with-http_stub_status_module -with-http_ssl_modulemake & make installcd ./(2)、nginx完整的配置文件如下：user www www;worker_processes 10;error_log /usr/local/webserver/nginx/logs/nginx_error.log crit;pid /usr/local/webserver/nginx/nginx.pid;#最大文件描述符worker_rlimit_nofile 51200;events use epoll; worker_connections 51200;http include mime.types; default_type application/octet-stream; keepalive_timeout 60; tcp_nodelay on; sendfile on; server_names_hash_bucket_size 128; client_header_buffer_size 32k; large_client_header_buffers 4 32k; client_max_body_size 300m; gzip on; gzip_min_length 1k; gzip_buffers 4 16k; gzip_http_version 1.1; gzip_comp_level 2; gzip_types text/plain application/x-javascript text/css application/xml; gzip_vary on; proxy_connect_timeout 5; proxy_read_timeout 60; proxy_send_timeout 5; proxy_buffer_size 16k; proxy_buffers 4 64k; proxy_busy_buffers_size 128k; proxy_temp_file_write_size 128k; upstream tomcat server 31:8080; server 28:8080; server 32:8080; #注：proxy_temp_path和proxy_cache_path指定的路径必须在同一分区 proxy_temp_path /data0/proxy_temp_dir; #设置Web缓存区名称为cache_one，内存缓存空间大小为50MB，1天没有被访问的内容自动清除，硬盘缓存空间大小为10GB。 proxy_cache_path /data0/proxy_cache_dir levels=1:2 keys_zone=cache_one:50m inactive=1d max_size=10g;server listen 80; server_name ;#自动补全/ if (-d $request_filename) rewrite /(.*)(/)$ http:/$host/$1$2/ last; #实现网页动静态分离location / root /data0/htdocs/tomcat;index index.html index.htm; if (!-f $request_filename) rewrite /(a-zA-Z+).html /$1.jsp last; proxy_pass http:/tomcat;break; #对网站的图片、Flash、JavaScript、CSS、静态HTML、进行web缓存 location .*.(gif|jpg|jpeg|png|bmp|swf|js|css|html|shtml)$ #如果后端的服务器返回502、504、执行超时等错误，自动将请求转发到 upstream负载均衡池中的另一台服务器，实现故障转移。 proxy_next_upstream http_502 http_504 error timeout invalid_header; proxy_cache cache_one; #对不同的HTTP状态码设置不同的缓存时间 proxy_cache_valid 200 10m; proxy_cache_valid 304 1m; proxy_cache_valid 301 302 1h; proxy_cache_valid any 1m; #以域名、URI、参数组合成Web缓存的Key值，Nginx根据Key值哈希，存储缓存 内容到二级缓存目录内 proxy_cache_key $host$uri$is_args$args; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_pass http:/tomcat;#用于清除缓存，假设一个URL为/docs/appdev/index.html，通过访问/purge/docs/appdev/index.html就可以清除该URL的缓存。location /purge(/.*)allow ;allow /24;deny all;proxy_cache_purge cache_one $host$1$is_args$args;#扩展名以.php、.jsp、.cgi结尾的动态应用程序不缓存。location .*.(php|jsp|cgi)?$proxy_set_header Host$host;proxy_set_header X-Forwarded-For $remote_addr;proxy_pass http:/tomcat;location .*.(gif|jpg|jpeg|png|bmp|swf)$expires 30d;location .*.(js|css)?$expires 1h; log_format tomcatlogs $remote_addr - $remote_user $time_local $request $status $body_bytes_sent $http_referer $http_user_agent $http_x_forwarded_for;access_log /data1/logs/tomcatlogs.log tomcatlogs; (3)、启动nginx服务，先测试nginx配置文件是否正确,用 /usr/local/webserver/nginx/sbin/nginx -t 测试 如果提示如下就说明配置文件没有问题可以启动nginx服务器了： roothxqm-tomcat local# /usr/local/webserver/nginx/sbin/nginx -tthe configuration file /usr/local/webserver/nginx/conf/nginx.conf syntax is okconfiguration file /usr/local/webserver/nginx/conf/nginx.conf test is successful 如果启动报错，你可以根据报错其实的行数来查看你的配置文件3、tomcat的配置 把jdk文件和tomcat文件放在/usr/local/src目录下(各位习惯，可以自己定义)(1)、安装jdk(本人装的jdk用的是jdk-6u17-linux-i586.bin) cd /usr/local/src;chmod+x jdk-6u17-linux-i586.bin;./jdk-6u17-linux-i586.bin 在安装过程中敲几下空格，然后输入yes，然后中途中再按回车jdk就装好了。 做软连接： ln -s /usr/local/jdk1.6.0_17/ /usr/local/jdk (2)、java环境变量的配置 vi /etc/profile，把以下内容写到文件的尾部 JAVA_HOME=/usr/local/jdk CLASS_PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib PATH=.:$PATH:$JAVA_HOME/bin CATALINA_HOME=/usr/local/tomcatexport JAVA_HOME CATALINA_HOME 然后保存退出，执行 source /etc/profile 使刚才配置的环境变量生效或者也可以重启机器，自己选择适合自己的方式。(3)、tomcat的配置 编辑tomcat的配置文件server.xml 在Hosts文件里面加上如下字段： 解释：tomcat默认回去appBase目录去查找要访问的文件，如果没有找到就去docBase目录去寻找。这个这段也可以不加，自己随意。 这是一台tomcat服务器的配置信息