LVS

LVS：Linux Virtual Server，章文嵩主导研发的内核集成的4层负载调度器

lvs集群类型中的术语：

VS：Virtual Server，Director Server(DS)，Dispatcher(调度器)，Load Balancer

RS：Real Server(lvs), upstream server(nginx)，backend server(haproxy)

CIP：Client IP，客户端IP

VIP: Virtual serve IP ，配置在VS上负责和CIP通信

DIP: Director IP ，配置在VS上负责和RIP通信

RIP: Real server IP，真正提供服务的IP

访问流程：

CIP <--> VIP == DIP <--> RIP

 

lvs: ipvsadm/ipvs

ipvsadm：用户空间的命令行工具，规则管理器，用于管理集群服务及RealServer

ipvs：工作于内核空间netfilter的INPUT钩子上的框架

vs集群的类型：

lvs-nat：修改请求报文的目标IP，多目标IP的DNAT，两次DNAT。

lvs-dr：操纵封装新的MAC地址，源地址和目标地址一直不变。

lvs-tun：在原请求IP报文之外新加一个IP首部。

lvs-fullnat：修改请求报文的源和目标IP。

lvs-nat：

本质是多目标IP的DNAT，通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和PORT实现转发

（1）RIP和DIP应在同一个IP网络，且应使用私网地址；RS的网关要指向DIP。

（2）请求报文和响应报文都必须经由Director转发，Director易于成为系统瓶颈。

（3）支持端口映射，可修改请求报文的目标PORT

（4）VS必须是Linux系统，RS可以是任意OS系统

（5）director打开路由转发功能

NAT体系结构

NAT模式IP包调度过程

LVS-DR模式

LVS-DR：Direct Routing，直接路由，LVS默认模式,应用最广泛,通过为请求报文重新封装一个MAC首部进行转发，源MAC是DIP所在的接口的MAC，目标MAC是某挑选出的RS的RIP所在接口的MAC地址；源IP/PORT，以及目标IP/PORT均保持不变

（1） Director和各RS都配置有VIP

（2）确保前端路由器将目标IP为VIP的请求报文发往Director

　  　在前端网关做静态绑定VIP和Director的MAC地址

　  　在RS上使用arptables工具

 　　　　arptables -A IN -d $VIP -j DROP

 　　　　arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP

　　  在RS上修改内核参数以限制arp通告及应答级别

　　　　/proc/sys/net/ipv4/conf/all/arp_ignore

　　　　/proc/sys/net/ipv4/conf/all/arp_announce

（3）RS的RIP可以使用私网地址，也可以是公网地址；RIP与DIP在同一IP网络；RIP的网关不能指向DIP，以确保响应报文不会经由Director

（4）RS和Director要在同一个物理网络

（5）请求报文要经由Director，但响应报文不经由Director，而由RS直接发往Client

（6）不支持端口映射（端口不能修败）

（7）RS可使用大多数OS系统

DR体系结构

DR数据流转过程

 

lvs-tun模式

lvs-tun：

转发方式：不修改请求报文的IP首部（源IP为CIP，目标IP为VIP），而在原IP报文之外再封装一个IP首部（源IP是DIP，目标IP是RIP），将报文发往挑选出的目标RS；RS直接响应给客户端（源IP是VIP，目标IP是CIP）

(1) DIP, VIP, RIP都应该是公网地址

(2) RS的网关一般不能指向DIP

(3) 请求报文要经由Director，但响应不经由Director

(4) 不支持端口映射

(5) RS的OS须支持隧道功能

lvs-fullnat模式

lvs-fullnat：通过同时修改请求报文的源IP地址和目标IP地址进行转发

　　CIP --> DIP

　　VIP --> RIP

(1) VIP是公网地址，RIP和DIP是私网地址，且通常不在同一IP网络；因此，RIP的网关一般不会指向DIP

(2) RS收到的请求报文源地址是DIP，因此，只需响应给DIP；但Director还要将其发往Client

(3) 请求和响应报文都经由Director

(4) 支持端口映射

注意：此类型kernel默认不支持

ipvs scheduler

ipvs scheduler：根据其调度时是否考虑各RS当前的负载状态，分为两种：静态方法和动态方法

静态方法：仅根据算法本身进行调度

1、RR：roundrobin，轮询

2、WRR：Weighted RR，加权轮询

3、SH：Source Hashing，实现session sticky，源IP地址hash；将来自于同一个IP地址的请求始终发往第一次挑中的RS，从而实现会话绑定

4、DH：Destination Hashing；目标地址哈希，第一次轮询调度至RS，后续将发往同一个目标地址的请求始终转发至第一次挑中的RS，典型使用场景是正向代理缓存场景中的负载均衡，如：宽带运营商

 

动态方法：主要根据每RS当前的负载状态及调度算法进行调度Overhead=value较小的RS将被调度

1、LC：least connections 适用于长连接应用Overhead=activeconns*256+inactiveconns

2、WLC：Weighted LC，默认调度方法Overhead=(activeconns*256+inactiveconns)/weight

3、SED：Shortest Expection Delay,初始连接高权重优先Overhead=(activeconns+1)*256/weight

4、NQ：Never Queue，第一轮均匀分配，后续SED

5、LBLC：Locality-Based LC，动态的DH算法，使用场景：根据负载状态实现正向代理

6、LBLCR：LBLC with Replication，带复制功能的LBLC，解决LBLC负载不均衡问题，从负载重的复制到负载轻的RS