nginx 反向代理 负载均衡
nginx 称负载均衡,又称反向代理。过去的一段时间里一直纠结于,什么是反向代理,那有反向代理,也就有正向代理咯。
直到某一天看到这么一段话,“正向代理代理客户端,反向代理代理服务器”,一针见血。
如下图:
反向代理:
(1) 需要有一个负载均衡设备来分发用户请求,将用户分发到到空闲的服务器上
(2)服务器返回自己的服务到负载均衡设备
(3)负载均衡将服务器的服务返回给用户
负载均衡的策略:
(1)内置策略:例如轮询,加权轮询,ip_hash等等
1.轮询:很好理解,一台一台轮询分发请求。
2.加权轮询:配置 upstream 里的 weight 属性,权重越高,分发请求越多。
3.ip_hash:
说到ip_hash,这里有一种情景下可以考虑使用它,例如:用户登录的时候需要记录用户登录状态,第一次登录的时候nginx 分配到A服务器,用户登录状态存到A的服务器里
第二次访问请求的时候有可能会分发到B的服务器里,所以有可能会导致用户重新登录。现在能想到的有两种解决办法,
第一种: 使用nginx自带的Ip_hash,把客户端的访问地址和服务器绑定,下一次会请求同一台服务器,但是这种会有问题,如果使用手机移动网络登录,然后连接wifi会切换IP,导致用户重新登录。
第二种:每次请求,带上用户登录状态,服务器判断用户是否登录,这样就一劳永逸。
(2)外置策略:url_hash,fair 等等
1. url_hash策略: url_hash:按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,后端服务器为缓存时比较有效。
2. fair策略:根据服务器返回时间长短来分发请求,时间短的优先分配。
nginx 下载地址 http://nginx.org/en/download.html
nginx conf文件概述
1 main # 全局配置 2 3 events { # nginx工作模式配置 4 5 } 6 7 http { # http设置 8 .... 9 10 server { # 服务器主机配置 11 .... 12 location { # 路由配置 13 .... 14 } 15 } 16 17 server { 18 .... 19 20 location { 21 .... 22 } 23 } 24 25 upstream name { # 负载均衡配置 26 .... 27 } 28 }
nginx conf 文件及详解
1 ######Nginx配置文件nginx.conf中文详解##### 2 3 #定义Nginx运行的用户和用户组 4 user www www; 5 6 #nginx进程数,建议设置为等于CPU总核心数。 7 worker_processes 8; 8 9 #全局错误日志定义类型,[ debug | info | notice | warn | error | crit ] 10 error_log /usr/local/nginx/logs/error.log info; 11 12 #进程pid文件 13 pid /usr/local/nginx/logs/nginx.pid; 14 15 #指定进程可以打开的最大描述符:数目 16 #工作模式与连接数上限 17 #这个指令是指当一个nginx进程打开的最多文件描述符数目,理论值应该是最多打开文件数(ulimit -n)与nginx进程数相除,但是nginx分配请求并不是那么均匀,所以最好与ulimit -n 的值保持一致。 18 #现在在linux 2.6内核下开启文件打开数为65535,worker_rlimit_nofile就相应应该填写65535。 19 #这是因为nginx调度时分配请求到进程并不是那么的均衡,所以假如填写10240,总并发量达到3-4万时就有进程可能超过10240了,这时会返回502错误。 20 worker_rlimit_nofile 65535; 21 22 23 events 24 { 25 #参考事件模型,use [ kqueue | rtsig | epoll | /dev/poll | select | poll ]; epoll模型 26 #是Linux 2.6以上版本内核中的高性能网络I/O模型,linux建议epoll,如果跑在FreeBSD上面,就用kqueue模型。 27 #补充说明: 28 #与apache相类,nginx针对不同的操作系统,有不同的事件模型 29 #A)标准事件模型 30 #Select、poll属于标准事件模型,如果当前系统不存在更有效的方法,nginx会选择select或poll 31 #B)高效事件模型 32 #Kqueue:使用于FreeBSD 4.1+, OpenBSD 2.9+, NetBSD 2.0 和 MacOS X.使用双处理器的MacOS X系统使用kqueue可能会造成内核崩溃。 33 #Epoll:使用于Linux内核2.6版本及以后的系统。 34 #/dev/poll:使用于Solaris 7 11/99+,HP/UX 11.22+ (eventport),IRIX 6.5.15+ 和 Tru64 UNIX 5.1A+。 35 #Eventport:使用于Solaris 10。 为了防止出现内核崩溃的问题, 有必要安装安全补丁。 36 use epoll; 37 38 #单个进程最大连接数(最大连接数=连接数*进程数) 39 #根据硬件调整,和前面工作进程配合起来用,尽量大,但是别把cpu跑到100%就行。每个进程允许的最多连接数,理论上每台nginx服务器的最大连接数为。 40 worker_connections 65535; 41 42 #keepalive超时时间。 43 keepalive_timeout 60; 44 45 #客户端请求头部的缓冲区大小。这个可以根据你的系统分页大小来设置,一般一个请求头的大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。 46 #分页大小可以用命令getconf PAGESIZE 取得。 47 #[root@web001 ~]# getconf PAGESIZE 48 #4096 49 #但也有client_header_buffer_size超过4k的情况,但是client_header_buffer_size该值必须设置为“系统分页大小”的整倍数。 50 client_header_buffer_size 4k; 51 52 #这个将为打开文件指定缓存,默认是没有启用的,max指定缓存数量,建议和打开文件数一致,inactive是指经过多长时间文件没被请求后删除缓存。 53 open_file_cache max=65535 inactive=60s; 54 55 #这个是指多长时间检查一次缓存的有效信息。 56 #语法:open_file_cache_valid time 默认值:open_file_cache_valid 60 使用字段:http, server, location 这个指令指定了何时需要检查open_file_cache中缓存项目的有效信息. 57 open_file_cache_valid 80s; 58 59 #open_file_cache指令中的inactive参数时间内文件的最少使用次数,如果超过这个数字,文件描述符一直是在缓存中打开的,如上例,如果有一个文件在inactive时间内一次没被使用,它将被移除。 60 #语法:open_file_cache_min_uses number 默认值:open_file_cache_min_uses 1 使用字段:http, server, location 这个指令指定了在open_file_cache指令无效的参数中一定的时间范围内可以使用的最小文件数,如果使用更大的值,文件描述符在cache中总是打开状态. 61 open_file_cache_min_uses 1; 62 63 #语法:open_file_cache_errors on | off 默认值:open_file_cache_errors off 使用字段:http, server, location 这个指令指定是否在搜索一个文件是记录cache错误. 64 open_file_cache_errors on; 65 } 66 67 68 69 #设定http服务器,利用它的反向代理功能提供负载均衡支持 70 http 71 { 72 #文件扩展名与文件类型映射表 73 include mime.types; 74 75 #默认文件类型 76 default_type application/octet-stream; 77 78 #默认编码 79 #charset utf-8; 80 81 #服务器名字的hash表大小 82 #保存服务器名字的hash表是由指令server_names_hash_max_size 和server_names_hash_bucket_size所控制的。参数hash bucket size总是等于hash表的大小,并且是一路处理器缓存大小的倍数。在减少了在内存中的存取次数后,使在处理器中加速查找hash表键值成为可能。如果hash bucket size等于一路处理器缓存的大小,那么在查找键的时候,最坏的情况下在内存中查找的次数为2。第一次是确定存储单元的地址,第二次是在存储单元中查找键 值。因此,如果Nginx给出需要增大hash max size 或 hash bucket size的提示,那么首要的是增大前一个参数的大小. 83 server_names_hash_bucket_size 128; 84 85 #客户端请求头部的缓冲区大小。这个可以根据你的系统分页大小来设置,一般一个请求的头部大小不会超过1k,不过由于一般系统分页都要大于1k,所以这里设置为分页大小。分页大小可以用命令getconf PAGESIZE取得。 86 client_header_buffer_size 32k; 87 88 #客户请求头缓冲大小。nginx默认会用client_header_buffer_size这个buffer来读取header值,如果header过大,它会使用large_client_header_buffers来读取。 89 large_client_header_buffers 4 64k; 90 91 #设定通过nginx上传文件的大小 92 client_max_body_size 8m; 93 94 #开启高效文件传输模式,sendfile指令指定nginx是否调用sendfile函数来输出文件,对于普通应用设为 on,如果用来进行下载等应用磁盘IO重负载应用,可设置为off,以平衡磁盘与网络I/O处理速度,降低系统的负载。注意:如果图片显示不正常把这个改成off。 95 #sendfile指令指定 nginx 是否调用sendfile 函数(zero copy 方式)来输出文件,对于普通应用,必须设为on。如果用来进行下载等应用磁盘IO重负载应用,可设置为off,以平衡磁盘与网络IO处理速度,降低系统uptime。 96 sendfile on; 97 98 #开启目录列表访问,合适下载服务器,默认关闭。 99 autoindex on; 100 101 #此选项允许或禁止使用socke的TCP_CORK的选项,此选项仅在使用sendfile的时候使用 102 tcp_nopush on; 103 104 tcp_nodelay on; 105 106 #长连接超时时间,单位是秒 107 keepalive_timeout 120; 108 109 #FastCGI相关参数是为了改善网站的性能:减少资源占用,提高访问速度。下面参数看字面意思都能理解。 110 fastcgi_connect_timeout 300; 111 fastcgi_send_timeout 300; 112 fastcgi_read_timeout 300; 113 fastcgi_buffer_size 64k; 114 fastcgi_buffers 4 64k; 115 fastcgi_busy_buffers_size 128k; 116 fastcgi_temp_file_write_size 128k; 117 118 #gzip模块设置 119 gzip on; #开启gzip压缩输出 120 gzip_min_length 1k; #最小压缩文件大小 121 gzip_buffers 4 16k; #压缩缓冲区 122 gzip_http_version 1.0; #压缩版本(默认1.1,前端如果是squid2.5请使用1.0) 123 gzip_comp_level 2; #压缩等级 124 gzip_types text/plain application/x-javascript text/css application/xml; #压缩类型,默认就已经包含textml,所以下面就不用再写了,写上去也不会有问题,但是会有一个warn。 125 gzip_vary on; 126 127 #开启限制IP连接数的时候需要使用 128 #limit_zone crawler $binary_remote_addr 10m; 129 130 131 132 #负载均衡配置 133 upstream piao.jd.com { 134 135 #upstream的负载均衡,weight是权重,可以根据机器配置定义权重。weigth参数表示权值,权值越高被分配到的几率越大。 136 server 192.168.80.121:80 weight=3; 137 server 192.168.80.122:80 weight=2; 138 server 192.168.80.123:80 weight=3; 139 140 #nginx的upstream目前支持4种方式的分配 141 #1、轮询(默认) 142 #每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉,能自动剔除。 143 #2、weight 144 #指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。 145 #例如: 146 #upstream bakend { 147 # server 192.168.0.14 weight=10; 148 # server 192.168.0.15 weight=10; 149 #} 150 #2、ip_hash 151 #每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题。 152 #例如: 153 #upstream bakend { 154 # ip_hash; 155 # server 192.168.0.14:88; 156 # server 192.168.0.15:80; 157 #} 158 #3、fair(第三方) 159 #按后端服务器的响应时间来分配请求,响应时间短的优先分配。 160 #upstream backend { 161 # server server1; 162 # server server2; 163 # fair; 164 #} 165 #4、url_hash(第三方) 166 #按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,后端服务器为缓存时比较有效。 167 #例:在upstream中加入hash语句,server语句中不能写入weight等其他的参数,hash_method是使用的hash算法 168 #upstream backend { 169 # server squid1:3128; 170 # server squid2:3128; 171 # hash $request_uri; 172 # hash_method crc32; 173 #} 174 175 #tips: 176 #upstream bakend{#定义负载均衡设备的Ip及设备状态}{ 177 # ip_hash; 178 # server 127.0.0.1:9090 down; 179 # server 127.0.0.1:8080 weight=2; 180 # server 127.0.0.1:6060; 181 # server 127.0.0.1:7070 backup; 182 #} 183 #在需要使用负载均衡的server中增加 proxy_pass http://bakend/; 184 185 #每个设备的状态设置为: 186 #1.down表示单前的server暂时不参与负载 187 #2.weight为weight越大,负载的权重就越大。 188 #3.max_fails:允许请求失败的次数默认为1.当超过最大次数时,返回proxy_next_upstream模块定义的错误 189 #4.fail_timeout:max_fails次失败后,暂停的时间。 190 #5.backup: 其它所有的非backup机器down或者忙的时候,请求backup机器。所以这台机器压力会最轻。 191 192 #nginx支持同时设置多组的负载均衡,用来给不用的server来使用。 193 #client_body_in_file_only设置为On 可以讲client post过来的数据记录到文件中用来做debug 194 #client_body_temp_path设置记录文件的目录 可以设置最多3层目录 195 #location对URL进行匹配.可以进行重定向或者进行新的代理 负载均衡 196 } 197 198 199 200 #虚拟主机的配置 201 server 202 { 203 #监听端口 204 listen 80; 205 206 #域名可以有多个,用空格隔开 207 server_name www.jd.com jd.com; 208 index index.html index.htm index.php; 209 root /data/www/jd; 210 211 #对******进行负载均衡 212 location ~ .*.(php|php5)?$ 213 { 214 fastcgi_pass 127.0.0.1:9000; 215 fastcgi_index index.php; 216 include fastcgi.conf; 217 } 218 219 #图片缓存时间设置 220 location ~ .*.(gif|jpg|jpeg|png|bmp|swf)$ 221 { 222 expires 10d; 223 } 224 225 #JS和CSS缓存时间设置 226 location ~ .*.(js|css)?$ 227 { 228 expires 1h; 229 } 230 231 #日志格式设定 232 #$remote_addr与$http_x_forwarded_for用以记录客户端的ip地址; 233 #$remote_user:用来记录客户端用户名称; 234 #$time_local: 用来记录访问时间与时区; 235 #$request: 用来记录请求的url与http协议; 236 #$status: 用来记录请求状态;成功是200, 237 #$body_bytes_sent :记录发送给客户端文件主体内容大小; 238 #$http_referer:用来记录从那个页面链接访问过来的; 239 #$http_user_agent:记录客户浏览器的相关信息; 240 #通常web服务器放在反向代理的后面,这样就不能获取到客户的IP地址了,通过$remote_add拿到的IP地址是反向代理服务器的iP地址。反向代理服务器在转发请求的http头信息中,可以增加x_forwarded_for信息,用以记录原有客户端的IP地址和原来客户端的请求的服务器地址。 241 log_format access '$remote_addr - $remote_user [$time_local] "$request" ' 242 '$status $body_bytes_sent "$http_referer" ' 243 '"$http_user_agent" $http_x_forwarded_for'; 244 245 #定义本虚拟主机的访问日志 246 access_log /usr/local/nginx/logs/host.access.log main; 247 access_log /usr/local/nginx/logs/host.access.404.log log404; 248 249 #对 "/" 启用反向代理 250 location / { 251 proxy_pass http://127.0.0.1:88; 252 proxy_redirect off; 253 proxy_set_header X-Real-IP $remote_addr; 254 255 #后端的Web服务器可以通过X-Forwarded-For获取用户真实IP 256 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; 257 258 #以下是一些反向代理的配置,可选。 259 proxy_set_header Host $host; 260 261 #允许客户端请求的最大单文件字节数 262 client_max_body_size 10m; 263 264 #缓冲区代理缓冲用户端请求的最大字节数, 265 #如果把它设置为比较大的数值,例如256k,那么,无论使用firefox还是IE浏览器,来提交任意小于256k的图片,都很正常。如果注释该指令,使用默认的client_body_buffer_size设置,也就是操作系统页面大小的两倍,8k或者16k,问题就出现了。 266 #无论使用firefox4.0还是IE8.0,提交一个比较大,200k左右的图片,都返回500 Internal Server Error错误 267 client_body_buffer_size 128k; 268 269 #表示使nginx阻止HTTP应答代码为400或者更高的应答。 270 proxy_intercept_errors on; 271 272 #后端服务器连接的超时时间_发起握手等候响应超时时间 273 #nginx跟后端服务器连接超时时间(代理连接超时) 274 proxy_connect_timeout 90; 275 276 #后端服务器数据回传时间(代理发送超时) 277 #后端服务器数据回传时间_就是在规定时间之内后端服务器必须传完所有的数据 278 proxy_send_timeout 90; 279 280 #连接成功后,后端服务器响应时间(代理接收超时) 281 #连接成功后_等候后端服务器响应时间_其实已经进入后端的排队之中等候处理(也可以说是后端服务器处理请求的时间) 282 proxy_read_timeout 90; 283 284 #设置代理服务器(nginx)保存用户头信息的缓冲区大小 285 #设置从被代理服务器读取的第一部分应答的缓冲区大小,通常情况下这部分应答中包含一个小的应答头,默认情况下这个值的大小为指令proxy_buffers中指定的一个缓冲区的大小,不过可以将其设置为更小 286 proxy_buffer_size 4k; 287 288 #proxy_buffers缓冲区,网页平均在32k以下的设置 289 #设置用于读取应答(来自被代理服务器)的缓冲区数目和大小,默认情况也为分页大小,根据操作系统的不同可能是4k或者8k 290 proxy_buffers 4 32k; 291 292 #高负荷下缓冲大小(proxy_buffers*2) 293 proxy_busy_buffers_size 64k; 294 295 #设置在写入proxy_temp_path时数据的大小,预防一个工作进程在传递文件时阻塞太长 296 #设定缓存文件夹大小,大于这个值,将从upstream服务器传 297 proxy_temp_file_write_size 64k; 298 } 299 300 301 #设定查看Nginx状态的地址 302 location /NginxStatus { 303 stub_status on; 304 access_log on; 305 auth_basic "NginxStatus"; 306 auth_basic_user_file confpasswd; 307 #htpasswd文件的内容可以用apache提供的htpasswd工具来产生。 308 } 309 310 #本地动静分离反向代理配置 311 #所有jsp的页面均交由tomcat或resin处理 312 location ~ .(jsp|jspx|do)?$ { 313 proxy_set_header Host $host; 314 proxy_set_header X-Real-IP $remote_addr; 315 proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; 316 proxy_pass http://127.0.0.1:8080; 317 } 318 319 #所有静态文件由nginx直接读取不经过tomcat或resin 320 location ~ .*.(htm|html|gif|jpg|jpeg|png|bmp|swf|ioc|rar|zip|txt|flv|mid|doc|ppt| 321 pdf|xls|mp3|wma)$ 322 { 323 expires 15d; 324 } 325 326 location ~ .*.(js|css)?$ 327 { 328 expires 1h; 329 } 330 } 331 } 332 ######Nginx配置文件nginx.conf中文详解#####