实战Nginx负载均衡高冗余高可用WEB架构
最近公司主力网站之一改版完成终于上线了，牵扯了我大半年的时间，现在终于有时间坐下来写点东西，总结沉淀一下自己的技术心得。此次，根据服务器的数量和质量，我采用负载均衡高冗余的架构，考虑单点故障，WEB也抛弃了apache，而使用的是nginx，数据库还是使用主、从架构。该架构目前承载80W的PV，没有大的压力。
这里简单谈一下web的选择疑问，是使用nginx还是apache，很多朋友在规划网站的时候都出现难以选择的问题，甚至有朋友在建设初用apache后期改成nginx。接下来我说一下我的规划选择，WEB究竟是使用Apache还是nginx，我认为两者各自之间优缺点非常明显，最终决定是要根据你的网站自身情况来确定，如网页的主要内容、网站类型（电商还是门户等等）。总之，在考虑过网站内容、类型等方面后还是无法选择，这时，大并发量我就选择nginx，而动态请求非常频繁的且并发量不大的网站我就使用apache。而我的这个网站是门户网站，内容基本都生成静态页，动态页面不多并且过不了多长时间就会生成html，所以我选择使用nginx做web。
首先声明，此架构适合场景：中小型网站场景，粗略预估100W PV左右。
应用环境
主nginx:192.168.1.158
Web服务器一:192.168.1.163
Web服务器二：192.168.1.162
主数据库服务器：192.168.1.159
从数据库+备nginx：192.168.1.161
Nginx虚拟IP：192.168.1.160
操作系统：centos 6.4
一、YUM和编译安装软件方式的小分享
编译安装还是yum安装软件的争议，现在这个时代了还有人去争论。我认为这个事情没必要争论，也不可能争论出结果，完全看个人的工作习惯，我想说YUM真的很节省时间，YUM安装软件简单、快捷，还有点好处可以培养新人的linux兴趣。编译安装可以很好订制化，将不需要的功能关闭掉，减少安全隐患等。YUM安装只要关闭不需要的功能结果和编译安装一样的，而编译安装过程中你很详细的掌握了软件的安装路径等，真是各有优缺点，没必要这上面去浪费心思。而我是按照所需时间来选择，基本上我是个没时间的人，所以我大多数都使用yum 方式安装软件。
二、主、从mysql安装及同步
挺简单的配置，如果感兴趣的朋友可以参看我上篇文章《mysql linux下高可用架构的简析及主、从复制的实战（一）》
三、PHP安装
在两台WEB上分别安装PHP，安装过程非常简单。
1、 yum install php*
service php-fpm start 启动php-fpm
2、 调整PHP时区
要注意先调整一下php的时区和时间，如果不调整会出现PHP与系统时间不对应的错误。在php.ini找到;Date.timezone = 并将；去掉，改成下图
3、安装zend加速
一定要安装，php加速确实能提高PHP的运行速度，不装ZEND也至少装一种加速软件。
之前安装过ZEND包，所以我直接拿来用，上传后解压在规定目录内。
打开php.ini配置文件，在最后添加zend的配置代码
重启php生效，service php-fpm restart
四、web服务器的安装
因为我是个时间紧张的人，所以我采用Yum安装。Centos 6.4本身的yum源是没有nginx安装包的，所以我先换源换成atomic的源，再yum安装。
wget http://www.atomicorp.com/installers/atomic,直接下载
1、换源
Sh ./atomic
默认安装就可以，装完后会看到/etc/yum.repos.d/ 会有atomic.repo
为让更换源立即生效，输入yum check-update 让YUM自己check。
2、安装nginx
Yum install nginx
安装后nginx版本是1.6.2-23，正是我想装的 1.6。
修改配置mv /etc/nginx/nginx.conf /etc/nginx/nginx.bak,建立虚拟主机目录mkdir –p /etc/nginx/vhosts/
将这段调整好的代码写入新的nginx.conf
##############################################################
#
# This is the main Nginx configuration file.
#
# More information about the configuration options is available on
# * the English wiki - http://wiki.nginx.org/Main
# * the Russian documentation - http://sysoev.ru/nginx/
#
#######################################################################
#----------------------------------------------------------------------
# Main Module - directives that cover basic functionality
#
# http://wiki.nginx.org/NginxHttpMainModule
#
#----------------------------------------------------------------------
user root root;
worker_processes 8;
error_log /var/log/nginx/error.log;
pid /var/run/nginx.pid;
#Specifies the value for maximum file descriptors that can be opened by this process.
worker_rlimit_nofile 65535;
events
{
use epoll;
worker_connections 65535;
}
http
{
include /etc/nginx/mime.types;
default_type application/octet-stream;
ssi on;
ssi_silent_errors on;
ssi_types test/shtml;
#charset gb2312;
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 8m;
sendfile on;
tcp_nopush on;
keepalive_timeout 60;
tcp_nodelay on;
fastcgi_connect_timeout 300;
fastcgi_send_timeout 300;
fastcgi_read_timeout 300;
fastcgi_buffer_size 64k;
fastcgi_buffers 4 64k;
fastcgi_busy_buffers_size 128k;
fastcgi_temp_file_write_size 128k;
fastcgi_intercept_errors on;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 16k;
gzip_http_version 1.0;
gzip_comp_level 2;
gzip_types text/plain application/x-javascript text/css application/xml;
gzip_vary on;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
access_log /var/log/nginx/access.log main;
include /etc/nginx/vhosts/*.conf;
}
3、在/etc/nginx/vhosts/ 创建网站站点
Vi www.conf
server
{
listen 80;
server_name www.test.com;
index index.html index.php;
root /www/web_www;
location ~ .*\.(php|php5)?$
{
#fastcgi_pass unix:/tmp/php-cgi.sock;
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
include fastcgi.conf;
}
}
两台WEB服务器做一样的配置。
五、负载均衡的实现
nginx做负载均衡还是很稳定，甚至不需要脚本来监控nginx进程存活情况，我维护的几个站基本一年有不了一、两次，所以没有编写也没有采用别人写的监控进程脚本，但是提醒各位朋友，因网站而异，没有什么该有什么不该有，适合自己的就是最好、最稳定的。
1、负载均衡nginx的安装及配置
两台nginx分别安装nginx,过程简单就不再详细说明，贴出配置文件供各位朋友参考。
user root root;
worker_processes 8;
pid /var/run/nginx.pid;
worker_rlimit_nofile 65535;
events
{
use epoll;
worker_connections 65535;
}
http{
include mime.types;
default_type application/octet-stream;
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 8m;
sendfile on;
tcp_nopush on;
keepalive_timeout 60;
tcp_nodelay on;
fastcgi_connect_timeout 300;
fastcgi_send_timeout 300;
fastcgi_read_timeout 300;
fastcgi_buffer_size 64k;
fastcgi_buffers 4 64k;
fastcgi_busy_buffers_size 128k;
fastcgi_temp_file_write_size 128k;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 16k;
gzip_http_version 1.0;
gzip_comp_level 2;
gzip_types text/plain application/x-javascript text/css application/xml;
gzip_vary on;
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" $http_x_forwarded_for';
access_log /var/log/nginx/access.log main;
upstream backend {
server 192.168.1.162;
server 192.168.1.163;
}
server {
listen 80;
server_name www.test.cn;
location / {
root /var/www ;
index index.htm index.html index.php index.shtml;
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://backend;
}
}
}
2、yum 安装keepalived
Yum install keepalived
3、主keepalived的配置
Vi /etc/keepalived/keepalived.conf
! Configuration File for keepalived
global_defs {
router_id LVS_DEVEL
}
vrrp_instance VI_1 {
state MASTER
interface eth1
virtual_router_id 51
priority 99
advert_int 1
authentication {
auth_type PASS
auth_pass test.cn
}
virtual_ipaddress {
192.168.1.160
}
}
Service keepalived start
后ip add 的结果如下，出现global ip 就成功了。
4、副keepalived的配置
! Configuration File for keepalived
global_defs {
router_id LVS_DEVEL
}
vrrp_instance VI_1 {
state BACKUP
interface eth1
virtual_router_id 51
priority 99
advert_int 1
authentication {
auth_type PASS
auth_pass test.cn
}
virtual_ipaddress {
192.168.1.160
}
}
测试过程如下：
1、分别重启主nginx和备nginx服务器，观察网站访问情况，也通过ping 虚拟IP地址192.168.1.160来观察，看能否正常访问网站。
通过ping是比较直观的，只丢失1个包，网站是能正常打开。
2、分别重启web1和web2服务器，观察网站访问情况。
检查个站点打开情况，打开完整的。
结果：如果两步测试结果都不影响网站的正常访问，说明负载均衡架构是成功的，恭喜你，是不是有种建设成功后的小喜悦。
注意点：
1、两台web服务器的nginx都设置了worker_connections 65535; 必须优化centos的内核，否则是起不到作用的。
vi /etc/sysctl.conf
在sysctl.conf代码的最后面加入
# Add
net.ipv4.tcp_max_syn_backlog = 65536
net.core.netdev_max_backlog = 32768
net.core.somaxconn = 32768
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.tcp_timestamps = 0
net.ipv4.tcp_synack_retries = 2
net.ipv4.tcp_syn_retries = 2
net.ipv4.tcp_tw_recycle = 1
#net.ipv4.tcp_tw_len = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.ip_local_port_range = 1024 65535
重启服务器或/sbin/sysctl –p
2、nginx日志切分，要是你使用我的nginx日志部分的配置，就不用再去更改，每晚凌晨会自动切分，不过log日志路径要放在/var/log/nginx目录下。
http://hostslinux.blog.51cto.com/8819775/1613387
