Haproxy 搭建 Web 群集

一、常见的Web集群调度器

• 目前常见的Web集群调度器分为软件和硬件

• 软件通常使用开源的LVS、Haproxy、Nginx

  • LVS性能最好，但是搭建相对复杂；Nginx的upstream模块支持集群功能，但是对集群节点健康检查功能不强，高并发没有Haproxy好

• 硬件一般使用的比较多的是F5，也有很多人使用梭子鱼、绿盟等国内产品

二、Haproxy应用分析

• LVS在企业应用中抗负载能力很强，但存在不足

• • LVS不支持正则处理，不能实现动静分离

  • 对于大型网站，LVS的实施配置复杂，维护成功相对较高

• Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件

• • 适用于负载大的Web站点

  • 运行在硬件上可支持数万计的并发连接的连接请求

三、Haproxy调度算法原理

Haproxy支持多种调度算法，最常用的有三种

• RR （Round Robin）

  • RR算法是最简单常用的一种算法，即轮询调度

• LC（Least Connections）

  • 最小连接数算法，根据后端的节点连接数大小动态分配前端请求。

• SH（Source Hashing）

  • 基于来源访问调度算法，用于一些有Session会话记录在服务器端的场景，可以基于来源的IP、Cookie等做集群调度

实验：Haproxy 搭建 Web 群集

Haproxy服务器：20.0.0.6

Nginx 服务器1: 20.0.0.7

Nginx 服务器2: 20.0.0.8

客户端：20.0.0.100

一、Haproxy 服务器部署

1、关闭防火墙，将安装 Haproxy 所需的软件包传到 /opt/ 目录下

systemctl stop firewalld              #关闭防火墙、se 安全
setenforce 0

 

haproxy-1.5.19.tar.gz    #软件包

tar zxvf haproxy-1.5.19.tar.gz   #解压

 2、安装依赖包，编译安装 Haproxy

（1）安装依赖包

yum install -y pcre-devel bzip2-devel gcc gcc-c++ make   

 （2）编译安装

cd haproxy-1.5.19/


uname -r        #查看内核版本

make TARGET=linux2628 ARCH=x86_64   #指定内核 kernel 2.6.28，服务系统架构：系统位数。64位系统

 make install

3、Haproxy 服务器配置

mkdir /etc/haproxy    #先创建一个配置文件目录

cd examples/

cp haproxy.cfg /etc/haproxy/       #复制haproxy.cfg 到 /etc/haproxy/目录在中
cd /etc/haproxy/

vim haproxy.cfg     #修改配置文件

 

global            #全局配置，主要用于定义全局参数，属于进程级的配置，通常和操作系统配置有关

log /dev/log local0 info       #定义haproxy日志输出设置和日志级别，local0为日志设备，默认存放到系统日志

log /dev/log local0 notice

#log loghost local0 info

maxconn 4096            #最大连接数，需考虑 ulimit -n 限制，推荐用10240

#chroot /usr/share/haproxy    #chroot 运行路径，为该服务自设置的根目录，一般需将此行注释掉

uid 99                         #用户UID

gid 99                         #用户GID

daemon                     #守护进程模式

nbproc 2                    #添加，设置并发进程数，建议与当前服务器CPU核数相等或为其2倍

#debug                    

#quiet

 

defaults             #配置默认参数，这些参数可以被用到Listen, frontend, backend组件

log global              #引入global 定义的日志模式

mode http               #模式为 http （7层代理http， 4层代理tcp）

option httplog           #日志类别为http 日志格式

option dontlognull       #不记录健康检查日志信息

retries 3                        #检查节点服务器失败次数，连续达到三次失败，则认为节点不可用

redispatch                       #当服务器负载很高时，自动结束当前队列处理比较久的连接

maxconn 2000                  #最大连接数，“defaults”中的值不能超过“global” 段中的定义

#contimeout 5000                #设置连接超时时间，默认单位是毫秒

#clitimeout 50000               #设置客户端超时时间，默认单位是毫秒

#srvtimeout 50000               #设置服务器超时时间，默认单位为毫秒

timeout http-request 10s      #默认http请求超时时间

timeout queue 1m                   #默认队列连接超时时间

timeout connect 10s               #默认连接超时时间，新版本中替代 contimeout, 该参数向后兼容

timeout server 1m                    #默认客户端超时时间，新版本中替代 clitimeout, 该参数向后兼容

timeout server 1m                    #默认服务器超时时间，新版本中替代contimeout,该参数向后兼容

timeout http-keep-alive 10s    #默认持久连接超时时间

timeout check 10s                   #设置心跳检查超时时间

 

#删除下面所有listen项--，添加
listen   webcluster 0.0.0.0:80                #haproxy实例状态监控部分配置，定义一个名为webcluster的应用
            option httpchk GET /test.html         #检查服务器的test.html 文件
            balance roundrobin                        #负载均衡调度算法使用轮询算法 roundrobin
            server inst1 20.0.0.7:80 check inter 2000 fall 3     #定义在线节点 （check inter 2000 表示启用对此后端服务器执行健康检查，设置健康状态的时间间隔，单位为毫秒）
            server inst2 20.0.0.8:80 check inter 2000 fall 3     # fall 3 表示连续三次检测不到心跳频率则认为该节点失效

                  （若节点配置后带有“back up”表示该节点是个备份节点，仅在所有在线节点都失效该节点才启用。不携带back up，表示为主节点，和其他在线节点共同提供服务)

 

4、添加 haproxy 系统服务

cp /opt/haproxy-1.5.19/examples/haproxy.init /etc/init.d/haproxy      #复制

chmod +x haproxy                                                            #添加权限
chkconfig --add /etc/init.d/haproxy

 

ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy      #软链接

service haproxy start 或 /etc/init.d/haproxy start     #启动

 

二、节点服务器部署

1、关闭防火墙，源码编译安装 nginx （节点服务器1: 20.0.0.7； 节点服务器2: 20.0.0.8）

systemctl stop firewalld              #关闭防火墙、se 安全
setenforce 0     

 

yum install -y pcre-devel zlib-devel gcc gcc-c++ make   #安装依赖包

useradd -M -s /sbin/nologin nginx                   #创建程序用户
 
cd /opt/                                                           #传入软件包
tar zxvf nginx-1.12.0.tar.gz -C /opt/               #解压

 

cd nginx-1.12.0/

./configure --prefix=/usr/local/nginx --user=nginx --group=nginx   #安装configure模块

make && make install               #编译安装

nginx                                   #启动nginx服务

 

 

 

 2、在nginx默认首页目录下创建指定检查的首页文件并注入内容

echo "this is xxx web" > /usr/local/nginx/html/test.html        #节点服务器1:  20.0.0.7

echo "this is aaa web" > /usr/local/nginx/html/test.html        #节点服务器2：20.0.0.8

三、测试 Web 群集

在客户端使用浏览器打开 http://20.0.0.6/test.html ,不断刷线新浏览器测试负载均衡效果

 

四、日志定义

（1）默认haproxy的日志是输出到系统的syslog中，查看起来不是非常方便，为了更好的管理haproxy的日志，我们在生产环境中一般单独定义出来。

需要将haproxy的info及notice日志分别记录到不同的日志文件中。

vim /etc/haproxy/haproxy.cfg
global
  log /dev/log local0 info
  log /dev/log local0 notice

service haproxy restart

（2）需要修改rsyslog配置，为了便于管理。将haproxy相关的配置独立定义到haproxy.conf，并放到/etc/rsyslog.d/下，

rsyslog启动时会自动加载此目录下的所有配置文件。

vim /etc/rsyslog.d/haproxy.conf

if ($programname == 'haproxy' and $syslogseverity-text == 'info')
then -/var/log/haproxy/haproxy-info.log
&~
if ($programname == 'haproxy' and $syslogseverity-text == 'notice')
then -/var/log/haproxy/haproxy-notice.log
&~

 

说明：

这部分配置是将haproxy的info日志记录到/var/log/haproxy/haproxy-info.log下，将notice日志记录到/var/log/haproxy/haproxy-notice.log下。

“&~”表示当日志写入到日志文件后，rsyslog停止处理这个信息。  

systemctl restart rsyslog.service

 

tail -f /var/log/haproxy/haproxy-info.log        #查看haproxy的访问请求日志信息