nginx负载均衡

负载均衡

负载均衡（反向代理）概念

什么是集群？

• 完成相同任务或者工作的一组服务器（web01 web02 web03 --- web集群）

Nginx代理服务基本概述

1.代理一词往往并不陌生, 该服务我们常常用到如(代理理财、代理租房、代理收货等等)，如下图所示

2.在没有代理模式的情况下，客户端和 Nginx 服务端，都是客户端直接请求服务端，服务端直接响应客户端。

3.那么在互联网请求里面, 客户端往往无法直接向服务端发起请求, 那么就需要用到代理服务, 来实现客户端和服务通信，如下图所示

什么是代理？

• 反向代理：外网 → (外网网卡)代理服务器(内网网卡) → 公司网站服务器web（内网）
• 正向代理：内网(局域网主机) → (内网网卡)代理服务器(外网网卡) → 互联网 → web服务器(国外)

Nginx代理服务支持的协议

1.Nginx 作为代理服务，可支持的代理协议非常的多，具体如下图

2.如果将 Nginx 作为反向代理服务，常常会用到如下几种代理协议，如下图所示

3.反向代理模式与 Nginx 代理模块总结如表格

反向代里模式	Nginx配置模块
http、websocket、https	ngx_http_proxy_module
fastcgi	ngx_http_fastcgi_module
uwsgi	ngx_http_uwsgi_module
grpc	ngx_http_v2_module

Nginx负载均衡概述

什么是负载均衡？

• 实现用户访问请求进行调度分配
• 实现用户访问压力分担

为什么需要负载均衡

我们的 Web 服务器直接面向用户，往往要承载大量并发请求，单台服务器难以负荷，我使用多台 WEB 服务器组成集群，前端使用 Nginx 负载均衡，将请求分散的打到我们的后端服务器集群中，实现负载的分发。那么会大大提升系统的吞吐率、请求性能、高容灾

往往我们接触的最多的是 SLB(Server Load Balance)负载均衡，实现最多的也是 SLB、那么 SLB 它的调度节点和服务节点通常是在一个地域里面。那么它在这个小的逻辑地域里面决定了他对部分服务的实时性、响应性是非常好的。
所以说当海量用户请求过来以后，它同样是请求调度节点，调度节点将用户的请求转发给后端对应的服务节点，服务节点处理完请求后在转发给调度节点，调度节点最后响应给用户节点。这样也能实现一个均衡的作用，那么Nginx 则是一个典型的 SLB

Nginx负载均衡配置场景

1.四层负载均衡

所谓四层负载均衡指的是 OSI 七层模型中的传输层，那么传输层 Nginx 已经能支持 TCP/IP 的控制，所以只需要对客户端的请求进行 TCP/IP 协议的包转发就可以实现负载均衡，那么它的好处是性能非常快、只需要底层进行应用处理，而不需要进行一些复杂的逻辑

2.七层负载均衡

七层负载均衡它是在应用层，那么它可以完成很多应用方面的协议请求，比如我们说的 http 应用的负载均衡，它可以实现 http 信息的改写、头信息的改写、安全应用规则控制、 URL 匹配规则控制、以及转发、 rewrite 等等的规则，所以在应用层的服务里面，我们可以做的内容就更多，那么 Nginx 则是一个典型的七层负载均衡 SLB

3.四层负载均衡与七层负载均衡区别

四层负载均衡数据包在底层就进行了分发，而七层负载均衡数据包则是在最顶层进行分发、由此可以看出，七层负载均衡效率没有四负载均衡高。
但七层负载均衡更贴近于服务，如:http 协议就是七层协议，我们可以用 Nginx 可以作会话保持， URL 路径规则匹配、 head 头改写等等，这些是四层负载均衡无法实现的

Nginx负载均衡调度算法

调度算法	概述
轮询	按时间顺序逐一分配到不同的后端服务器(默认)
weight	加权轮询，weight值越大，分配到的访问几率越高
ip_hash	每个请求按访问IP的hash结果分配，这样来自同一IP的固定访问一个后端服务器
url_hash	按照访问URL的hash结果来分配请求，是每个URL定向到同一个后端服务器
least_conn	最少连接数，那个机器连接数少就分发

Nginx负载均衡配置参数

状态	概述
down	当前的server暂时不参与负载均衡
backup	预留的备用服务器
max_fails	允许请求失败的次数
fail_timeout	经过max_fails失败后，服务暂停时间
max_conns	限制最大的接收连接数

Nginx反向代理负载均衡关系图

负载均衡环境准备

负载均衡服务器部署

第一个历程：安装nginx

[root@lb01 ~]# yum -y install nginx

第二个历程：编写nginx负载均衡服务配置文件

nginx模块：ngx_http_upstream_module --- upstream 负载均衡

nginx模块：ngx_http_proxy_module --- proxy_pass 反向代理

[root@lb01 nginx]# vim nginx.conf
user  www;
worker_processes  1;
error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;
events {
    worker_connections  1024;
}
http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;
    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';
    access_log  /var/log/nginx/access.log  main;
    sendfile        on;
    keepalive_timeout  65;
    include /etc/nginx/conf.d/*.conf;
}

[root@lb01 conf.d]# vim lb.conf 
upstream test {
  server 10.0.1.7:80;
  server 10.0.1.8:80;
  server 10.0.1.9:80;
}
server {
    listen       80;
    server_name  blog.test.com;
    location / {
      proxy_pass http://test;    
    }
}

测试

负载均衡访问网站异常排错思路

第一步：负载均衡	测试后端web节点服务器是否能够正常访问
第二步：负载均衡	利用curl命令访问负载均衡服务器
第三步：打开一个Xshell连接 ping域名或IP地址
第四步：配置文件编写不正确

负载均衡配置模块详细说明

负载均衡：ngx_http_upstream_module

实现不同调度功能

• 轮询分配请求（平均）
• 权重分配请求(能力越强责任越重)

[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf 
upstream test {
  server 10.0.1.7:80 weight=3;
  server 10.0.1.8:80 weight=2;
  server 10.0.1.9:80 weight=1;
}

• 实现热备功能

[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf 
upstream test {
  server 10.0.1.7:80 ;
  server 10.0.1.8:80 ;
  server 10.0.1.9:80 backup;
}

• 定义最大失败次数(健康检查参数)

[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf 
upstream test {
  server 10.0.1.7:80 max_fails=5;
  server 10.0.1.8:80 ;
  server 10.0.1.9:80 ;
}

• 定义失败之后重发得到间隔时间(健康检查参数)

[root@lb01 conf.d]# vim /etc/nginx/conf.d/lb.conf 
upstream test {
  server 10.0.1.7:80 fail_timeout=10s;		-- 会给失败的服务器一次机会
  server 10.0.1.8:80 ;
  server 10.0.1.9:80 ;
}

实现不同的调度算法

• rr 轮询调度算法
• weight 权重调度算法
• ip_hash 算法（当访问登录网站出现反复登录的时候需要配置）
• least_conn 根据服务器连接数分配资源

反向代理：ngx_http_proxy_module

Nginx反向代理配置语法

1.Nginx代理配置语法

Syntax: proxy_pass URL;
Default: —
Context: location, if in location, limit_except
http://localhost:8000/uri/
http://192.168.56.11:8000/uri/
http://unix:/tmp/backend.socket:/uri/

2.添加传递给后端服务器的请求头信息

Syntax: proxy_set_header field value;
Default: proxy_set_header Host $proxy_host;
proxy_set_header Connection close;
Context: http, server, location
# 用户请求的时候 HOST 的值是 www.oldboy.com, 那么代理服务会像后端传递请求的还是 www.oldboy.com
proxy_set_header Host $http_host;
# 将$remote_addr 的值放进变量 X-Real-IP 中， $remote_addr 的值为客户端的 ip
proxy_set_header X-Real-IP $remote_addr;
# 客户端通过代理服务访问后端服务, 后端服务通过该变量会记录真实客户端地址
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

3.代理到后端的TCP连接数，响应，返回等超时时间

//nginx 代理与后端服务器连接超时时间(代理连接超时)
Syntax: proxy_connect_timeout time;
Default: proxy_connect_timeout 60s;
Context: http, server, location
//nginx 代理等待后端服务器的响应时间
Syntax: proxy_read_timeout time;
Default: proxy_read_timeout 60s;
Context: http, server, location
//后端服务器数据回传给 nginx 代理超时时间
Syntax: proxy_send_timeout time;
Default: proxy_send_timeout 60s;
Context: http, server, location

4.代理缓冲区

//nignx 会把后端返回的内容先放到缓冲区当中，然后再返回给客户端,边收边传, 不是全部接收完再传给客户端
Syntax: proxy_buffering on | off;
Default: proxy_buffering on;
Context: http, server, location
//设置 nginx 代理保存用户头信息的缓冲区大小
Syntax: proxy_buffer_size size;
Default: proxy_buffer_size 4k|8k;
Context: http, server, location
//proxy_buffers 缓冲区
Syntax: proxy_buffers number size;
Default: proxy_buffers 8 4k|8k;
Context: http, server, location

• 访问不同的网站地址，不能显示不同的网站页面

#如想实现访问不同的网站地址，显示不同的网站页面则需要配置以下参数
  location / {
      proxy_pass http://test;
      proxy_set_header Host $host;
    }

• 对访问网站用户真实地址信息无法进行统计

#如想实现对访问网站用户真实地址信息进行统计则配置以下参数
proxy_set_header X-Forwarded-For $remote_addr;
 location / {
      proxy_pass http://test;
      proxy_set_header X-Forwarded-For $remote_addr;
    }

• 访问负载均衡会出现错误页面，影响用户体验

   #如想实现访问负载均衡不会出现错误页面
   location / {
      proxy_next_upstream http_404 http_403; 
    }

负载均衡应用

根据用户访问的uri信息进行负载均衡

根据用户访问的uri信息进行负载均衡

服务器	IP地址
web01	10.0.1.7
web02	10.0.1.8
web03	10.0.1.9
lb01	10.0.1.5

第一个历程：架构环境规划

- /upload	集群-10.0.1.8:80	html/www/upload		upload服务器集群
- /static	集群-10.0.1.7:80	html/www/statice	static服务器集群
- /			集群-10.0.1.9:80	html/www			default服务器集群

web01上进行环境部署

[root@web01 ~]# mkdir /html/www/static
[root@web01 ~]# echo "static-web_10.0.1.7" >/html/www/static/index.html

web02上进行环境部署

[root@web02 ~]# mkdir /html/www/upload
[root@web02 ~]# echo "upload-web_10.0.1.8" >/html/www/upload/index.html

web03上进行环境部署

[root@web03 ~]# echo "default-web_10.0.1.9" >/html/www/index.html

第二个历程：编写负载均衡配置文件

[root@lb01 ~]# vim /etc/nginx/conf.d/lb.conf 
upstream static {
  server 10.0.1.7:80;
}
upstream upload {
  server 10.0.1.8:80;
}
upstream default {
  server 10.0.1.9:80;
}
server {
    listen       80;
    server_name  www.test.com;
    location / {
      proxy_pass http://default;
      proxy_set_header Host $host;
      proxy_set_header X-Forwarded-For $remote_addr;
      proxy_next_upstream error timeout http_404 http_403 http_502;
    }
    location /static/ {
      proxy_pass http://static;
      proxy_set_header Host $host;
      proxy_set_header X-Forwarded-For $remote_addr;
      proxy_next_upstream error timeout http_404 http_403 http_502;
   }
    location /upload/ {
      proxy_pass http://upload;
      proxy_set_header Host $host;
      proxy_set_header X-Forwarded-For $remote_addr;
      proxy_next_upstream error timeout http_404 http_403 http_502;
    }
}

第三个历程：进行访问测试

[root@lb01 ~]# curl -H host:www.test.com 10.0.1.5
default-web_10.0.1.9
[root@lb01 ~]# curl -H host:www.test.com 10.0.1.5/static/
static-web_10.0.1.7
[root@lb01 ~]# curl -H host:www.test.com 10.0.1.5/upload/
upload-web_10.0.1.8
[root@lb01 ~]# 

网站集群动静分离总结

• 提高网站服务安全性

• 管理操作工作简化

• 可以划分不同人员管理不同集群服务器

根据用户访问的终端信息显示不同页面

第一个历程：准备环境

iphone	www.test.com	---	iphone_access	10.0.1.7:80	移动端集群
谷歌		www.test.com	---	google_access	10.0.1.8:80	web端集群
IE 360	 www.test.com	---	default_access	10.0.1.9:80	deault端集群

web01

[root@web01 ~]# echo "iphone_access 10.0.1.7" > /html/www/index.html

web02

[root@web02 ~]# echo "google_access 10.0.1.8" >/html/www/index.html

web03

[root@web03 ~]# echo "default_access 10.0.1.9" >/html/www/index.html 

第二个历程：配置负载均衡文件

[root@lb01 ~]# vim /etc/nginx/conf.d/lb.conf 
upstream iphone {
  server 10.0.1.7:80;
}
upstream google {
  server 10.0.1.8:80;
}
upstream default {
  server 10.0.1.9:80;
}
server {
    listen       80;
    server_name  www.test.com;
    location / {
      if ($http_user_agent ~* iphone) {
          proxy_pass http://iphone;
      }
      if ($http_user_agent ~* Chrome) {
          proxy_pass http://google;
      }
      proxy_pass http://default;
      proxy_set_header Host $host;
      proxy_set_header X-Forwarded-For $remote_addr;
      proxy_next_upstream error timeout http_404 http_403 http_502;
    } 
}   

第三个历程：进行访问测试

[root@lb01 ~]# curl -A iphone -H host:www.test.com 10.0.1.5
iphone_access 10.0.1.7
[root@lb01 ~]# curl -A Chrome -H host:www.test.com 10.0.1.5
google_access 10.0.1.8
[root@lb01 ~]# curl -A xx -H host:www.test.com 10.0.1.5
default_access 10.0.1.9