1 LVS 简介
LVS是Linux Virtual Server的简称,也就是Linux虚拟服务器, 是一个由章文嵩博士发起的自由软件项目,现在已经是 Linux标准内核的一部分。LVS是一种叫基于TCP/IP的负载均衡技术,转发效率极高,具有处理百万计并发连接请求的能力。
LVS的IP负载均衡技术是通过IPVS模块实现的。IPVS模块是LVS集群的核心软件模块,它安装在LVS集群作为负载均衡的主节点上,虚拟出一个IP地址和端口对外提供服务。用户通过访问这个虚拟服务(VS),然后访问请求由负载均衡器(LB)调度到后端真实服务器(RS)中,由RS实际处理用户的请求给返回响应。
2 LVS转发模式
根据负载均衡器转发客户端请求以及RS返回响应机制的不同,将IPVS的转发模式分为三种:VS/NAT,VS/DR,VS/TUN
2.1DR模式(Direct Routing)
DR模式下,客户端的请求包到达负载均衡器的虚拟服务IP端口后,负载均衡器不会改写请求包的IP和端口,但是会改写请求包的MAC地址为后端RS的MAC地址,然后将数据包转发;真实服务器处理请求后,响应包直接回给客户端,不再经过负载均衡器。所以DR模式的转发效率是最高的,特别适合下行流量较大的业务场景,比如请求视频等大文件。
DR模式的特点:
- 数据包在LB转发过程中,源/目的IP端口都不会变化
LB只是将数据包的MAC地址改写为RS的MAC地址,然后转发给相应的RS。
- 每台RS上都必须在环回网卡上绑定LB的虚拟服务IP
因为LB转发时并不会改写数据包的目的IP,所以RS收到的数据包的目的IP仍是LB的虚拟服务IP。为了保证RS能够正确处理该数据包,而不是丢弃,必须在RS的环回网卡上绑定LB的虚拟服务IP。这样RS会认为这个虚拟服务IP是自己的IP,自己是能够处理这个数据包的。否则RS会直接丢弃该数据包!
- RS上的业务进程必须监听在环回网卡的虚拟服务IP上,且端口必须和LB上的虚拟服务端口一致
因为LB不会改写数据包的目的端口,所以RS服务的监听端口必须和虚拟服务端口一致,否则RS会直接拒绝该数据包。
- RS处理完请求后,响应直接回给客户端,不再经过LB
因为RS收到的请求数据包的源IP是客户端的IP,所以理所当然RS的响应会直接回给客户端,而不会再经过LB。这时候要求RS和客户端之间的网络是可达的。
- LB和RS须位于同一个子网
因为LB在转发过程中需要改写数据包的MAC为RS的MAC地址,所以要能够查询到RS的MAC。而要获取到RS的MAC,则需要保证二者位于一个子网,否则LB只能获取到RS网关的MAC地址。
2.2 NAT模式(Network Address Translation)
NAT模式下,请求包和响应包都需要经过LB处理。当客户端的请求到达虚拟服务后,LB会对请求包做目的地址转换(DNAT),将请求包的目的IP改写为RS的IP。当收到RS的响应后,LB会对响应包做源地址转换(SNAT),将响应包的源IP改写为LB的IP。
NAT模式的特点:
- LB会修改数据包的地址
对于请求包,会进行DNAT;对于响应包,会进行SNAT。
- LB会透传客户端IP到RS(DR模式也会透传)
虽然LB在转发过程中做了NAT转换,但是因为只是做了部分地址转发,所以RS收到的请求包里是能看到客户端IP的。
- 需要将RS的默认网关地址配置为LB的浮动IP地址
因为RS收到的请求包源IP是客户端的IP,为了保证响应包在返回时能走到LB上面,所以需要将RS的默认网关地址配置为LB的虚拟服务IP地址。当然,如果客户端的IP是固定的,也可以在RS上添加明细路由指向LB的虚拟服务IP,不用改默认网关。
- LB和RS须位于同一个子网,并且客户端不能和LB/RS位于同一子网
因为需要将RS的默认网关配置为LB的虚拟服务IP地址,所以需要保证LB和RS位于同一子网。
又因为需要保证RS的响应包能走回到LB上,则客户端不能和RS位于同一子网。否则RS直接就能获取到客户端的MAC,响应包就直接回给客户端了,不会走网关,也就走不到LB上面了。这时候由于没有LB做SNAT,客户端收到的响应包源IP是RS的IP,而客户端的请求包目的IP是LB的虚拟服务IP,这时候客户端无法识别响应包,会直接丢弃。
2.3 TUNNEL模式
IP隧道(IP tunneling)是将一个IP报文封装在另一个IP报文的技术,这可以使得目标为一个IP地址的数据报文能被封装和转发到另一个IP地址。IP隧道技 术亦称为IP封装技术(IP encapsulation)。IP隧道主要用于移动主机和虚拟私有网络(Virtual Private Network),在其中隧道都是静态建立的,隧道一端有一个IP地址,另一端也有唯一的IP地址。
利用IP隧道技术将请求报文封装转发给后端服务器,响应报文能从后端服务器直接返回给客户。但在这里,后端服务器有一组而非一个,所以我们不可 能静态地建立一一对应的隧道,而是动态地选择一台服务器,将请求报文封装和转发给选出的服务器。这样,可以利用IP隧道的原理将一组服务器上的网络服 务组成在一个IP地址上的虚拟网络服务。各个服务器将VIP地址配置在自己的IP隧道设备上。
它的连接调度和管理与VS/NAT中的一样,只是它的报文转发方法不同。调度器根据各个服务器的负载情况, 动态地选择一台服务器,将请求报文封装在另一个IP报文中,再将封装后的IP报文转发给选出的服务器;服务器收到报文后,先将报文解封获得原来目标地址为 VIP的报文,服务器发现VIP地址被配置在本地的IP隧道设备上,所以就处理这个请求,然后根据路由表将响应报文直接返回给客户。
3 IPVS调度算法
3.1 轮叫调度(Round-Robin Scheduling)
轮叫调度(Round Robin Scheduling)算法就是以轮叫的方式依次将请求调度不同的服务器,即每次调度执行i = (i + 1) mod n,并选出第i台服务器。算法的优点是其简洁性,它无需记录当前所有连接的状态,所以它是一种无状态调度。
3.2 加权轮叫调度(Weighted Round-Robin Scheduling)
LB会根据RS上配置的权重,将消息按权重比分发到不同的RS上。可以给性能更好的RS节点配置更高的权重,提升集群整体的性能。
3.3 最小连接调度(Least-Connection Scheduling)
最小连接调度(Least-Connection Scheduling)算法是把新的连接请求分配到当前连接数最小的服务器。最小连接调度是一种动态调度算法,它通过服务器当前所活跃的连接数来估计服务 器的负载情况。调度器需要记录各个服务器已建立连接的数目,当一个请求被调度到某台服务器,其连接数加1;当连接中止或超时,其连接数减一。
3.4 加权最小连接调度(Weighted Least-Connection Scheduling)
加权最小连接调度(Weighted Least-Connection Scheduling)算法是最小连接调度的超集,各个服务器用相应的权值表示其处理性能。服务器的缺省权值为1,系统管理员可以动态地设置服务器的权 值。加权最小连接调度在调度新连接时尽可能使服务器的已建立连接数和其权值成比例。
3.5 基于局部性的最少链接(Locality-Based Least Connections Scheduling)
基于局部性的最少链接调度(Locality-Based Least Connections Scheduling,以下简称为LBLC)算法是针对请求报文的目标IP地址的负载均衡调度,目前主要用于Cache集群系统,因为在Cache集群中 客户请求报文的目标IP地址是变化的。这里假设任何后端服务器都可以处理任一请求,算法的设计目标是在服务器的负载基本平衡情况下,将相同目标IP地址的 请求调度到同一台服务器,来提高各台服务器的访问局部性和主存Cache命中率,从而整个集群系统的处理能力。
3.6 带复制的基于局部性最少链接(Locality-Based Least Connections with Replication Scheduling)
带复制的基于局部性最少链接调度(Locality-Based Least Connections with Replication Scheduling,以下简称为LBLCR)算法也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要 维护从一个目标IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。对于一个“热门”站点的服务请求,一台Cache 服务器可能会忙不过来处理这些请求。这时,LBLC调度算法会从所有的Cache服务器中按“最小连接”原则选出一台Cache服务器,映射该“热门”站 点到这台Cache服务器,很快这台Cache服务器也会超载,就会重复上述过程选出新的Cache服务器。这样,可能会导致该“热门”站点的映像会出现 在所有的Cache服务器上,降低了Cache服务器的使用效率。LBLCR调度算法将“热门”站点映射到一组Cache服务器(服务器集合),当该“热 门”站点的请求负载增加时,会增加集合里的Cache服务器,来处理不断增长的负载;当该“热门”站点的请求负载降低时,会减少集合里的Cache服务器 数目。这样,该“热门”站点的映像不太可能出现在所有的Cache服务器上,从而提供Cache集群系统的使用效率。
3.7 目标地址散列调度(Destination Hashing Scheduling)
目标地址散列调度(Destination Hashing Scheduling)算法也是针对目标IP地址的负载均衡,但它是一种静态映射算法,通过一个散列(Hash)函数将一个目标IP地址映射到一台服务器。
目标地址散列调度算法先根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。
3.8 源地址散列调度(Source Hashing Scheduling)
源地址散列调度(Source Hashing Scheduling)算法正好与目标地址散列调度算法相反,它根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。它采用的散列函数与目标地址散列调度算法 的相同。它的算法流程与目标地址散列调度算法的基本相似,除了将请求的目标IP地址换成请求的源IP地址。
4 LVS DR实验
4.1 LVS转发流程及原理
客户端发送对VIP的请求,lvs负载到后端某一台server,后端server处理后,直接封包回送客户端,源IP地址一定是lvs上面配的那个公网服务地址,也就后端server要配置这个ip,后端server收到的数据包是lvs没有变动过的(IP:vip),多个server,接入互联网的server持有相同的IP,是不允许的,因此,必须将后端server中的vip隐藏起来(对外隐藏,对自己可见)
4.2 名词解释
VIP: 虚拟服务器地址
DIP: 转发的网络地址
1,和RIP通信:ARP协议,获取Real Server的RIP:MAC地址;
2,转发Client的数据包到RIP上,RIP上要求有VIP(对外隐藏VIP);
RIP: 后端真实主机(后端服务器)
CIP: 客户端IP地址
4.3 隐藏VIP方法
对外隐藏,对内可见
kernel parameter:
目标mac地址为全F,交换机触发广播
# 每个网卡对应一个目录
[root@common conf]# pwd
/proc/sys/net/ipv4/conf
[root@common conf]# ls
all default docker0 ens33 ens37 lo tunl0
arp_ignore: 定义接收到ARP请求时的响应级别;
0:只要本地配置的有相应地址,就给予响应;
1:仅在请求的目标(MAC)地址配置请求
到达的接口上的时候,才给予响应;
arp_announce:定义将自己地址向外通告时的通告级别;
0:将本地任何接口上的任何地址向外通告;
1:试图仅向目标网络通告与其网络匹配的地址;
2:仅向与本地接口上地址匹配的网络进行通告;
4.4 环境准备
lvs 主机:192.168.56.118
RIP主机:也就是需要负载的服务器,192.168.56.101-103
LVS是Linux Virtual Server的简写,意即Linux虚拟服务器,是一个虚拟的服务器集群系统,后来将lvs嵌入到linux内核,叫做ipvs
4.5 LVS命令
ipvs参数
添加虚拟服务器
语法:ipvsadm -A [-t|u|f] [vip_addr:port] [-s:指定算法]
-A:添加
-t:TCP协议
-u:UDP协议
-f:防火墙标记
-D:删除虚拟服务器记录
-E:修改虚拟服务器记录
-C:清空所有记录
-L:查看
添加后端RealServer
语法:ipvsadm -a [-t|u|f] [vip_addr:port] [-r ip_addr] [-g|i|m] [-w 指定权重]
-a:添加
-t:TCP协议
-u:UDP协议
-f:防火墙标记
-r:指定后端realserver的IP
-g:DR模式
-i:TUN模式
-m:NAT模式
-w:指定权重
-d:删除realserver记录
-e:修改realserver记录
-l:查看
通用:
ipvsadm -ln:查看规则
保存规则
-S
ipvsadm -S > /path/to/somefile
载入此前的规则:
-R
ipvsadm -R < /path/form/somefile
4.6 LVS主机操作
配置lvs的VIP
[root@common conf]# ifconfig ens37:0 192.168.56.188/24
ens37:0: flags=4163<UP,BROADCAST,RUNNING,MULTICAST> mtu 1500
inet 192.168.56.188 netmask 255.255.255.0 broadcast 192.168.56.255
ether 00:0c:29:1f:1f:e2 txqueuelen 1000 (Ethernet)
确保/proc/sys/net/ipv4/ip_forward 内容是1
echo “1” > /proc/sys/net/ipv4/ip_forward
调整RS的响应。通告级别(每一台RS都配):
echo 1 > /proc/sys/net/ipv4/conf/ens37/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/ens37/arp_announce
echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
配置RS的VIP(每一台RS都配)
ifconfig lo:8 192.168.56.188 netmask 255.255.255.255
lo:8: flags=73<UP,LOOPBACK,RUNNING> mtu 65536
inet 192.168.56.188 netmask 255.255.255.255
loop txqueuelen 1000 (Local Loopback)
启动RS上的httpd
yum install httpd -y
编写测试文件
# vim /var/www/html/index.html
from masterxxx
启动httpd
[root@k8s-master1 html]# systemctl start httpd
客户端验证:
RIP:80 能显示
VIP:80不能显示
负载服务器安装LVS管理工具—ipvsadm
yum install ipvsadm -y
# 配置规则
ipvsadm -A -t 192.168.56.188:80 -s rr
ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.11 -g
ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.12 -g
ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.13 -g
# 查看规则
ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 192.168.56.188:80 rr
-> 192.168.56.11:80 Route 1 0 0
-> 192.168.56.12:80 Route 1 0 0
-> 192.168.56.13:80 Route 1 0 0
浏览器刷新: 访问vip:80
[root@common nginx]# ipvsadm -lnc
IPVS connection entries
pro expire state source virtual destination
TCP 01:44 FIN_WAIT 192.168.56.1:57636 192.168.56.188:80 192.168.56.13:80
TCP 01:49 FIN_WAIT 192.168.56.1:57698 192.168.56.188:80 192.168.56.12:80
TCP 01:48 FIN_WAIT 192.168.56.1:57687 192.168.56.188:80 192.168.56.11:80
TCP 01:47 FIN_WAIT 192.168.56.1:57677 192.168.56.188:80 192.168.56.13:80
TCP 01:46 FIN_WAIT 192.168.56.1:57668 192.168.56.188:80 192.168.56.11:80
TCP 00:10 FIN_WAIT 192.168.56.1:56189 192.168.56.188:80 192.168.56.13:80
TCP 14:46 ESTABLISHED 192.168.56.1:51771 192.168.56.188:80 192.168.56.11:80
TCP 01:48 FIN_WAIT 192.168.56.1:57697 192.168.56.188:80 192.168.56.13:80
TCP 01:47 FIN_WAIT 192.168.56.1:57686 192.168.56.188:80 192.168.56.12:80
TCP 01:49 FIN_WAIT 192.168.56.1:57703 192.168.56.188:80 192.168.56.11:80
TCP 01:45 FIN_WAIT 192.168.56.1:57653 192.168.56.188:80 192.168.56.12:80
TCP 14:48 ESTABLISHED 192.168.56.1:54055 192.168.56.188:80 192.168.56.12:80
4 LVS TUNNEL实验
4.1 原理
在DR模式中是所有服务机共享一个VIP,但是在IP隧道模式中,就相当于主代理机将包经过自己打包之后,将IP转化成公网可传递的IP,并将消息经过自己又一次的打包,发送给真实服务器,真实服务器对这个请求作出响应,这样就达到一个可以跨地区的传输。并且也避免了DR模式中代理机与真实服务机必须在同一局域网的不便。
说明:
1、当用户请求到达Director Server,此时请求的数据报文会先到内核空间的PREROUTING链。此时报文的源IP为CIP,目标IP为VIP 。
2、PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
3、IPVS比对数据包请求的服务是否为集群服务,若是,在请求报文的首部再次封装一层IP报文,封装源IP为为DIP,目标IP为RIP。然后发至POSTROUTING链。此时源IP为DIP,目标IP为RIP
4、POSTROUTING链根据最新封装的IP报文,将数据包发至RS(因为在外层封装多了一层IP首部,所以可以理解为此时通过隧道传输)。此时源IP为DIP,目标IP为RIP
5、RS接收到报文后发现是自己的IP地址,就将报文接收下来,拆除掉最外层的IP后,会发现里面还有一层IP首部,而且目标是自己的lo接口VIP,那么此时RS开始处理此请求,处理完成之后,通过lo接口送给eth0网卡,然后向外传递。此时的源IP地址为VIP,目标IP为CIP
4.2 LVS TUNNEL特性
RIP、VIP、DIP全是公网地址
RS的网关不会也不可能指向DIP
所有的请求报文经由Director Server,但响应报文必须不能进过Director Server
不支持端口映射
RS的系统必须支持隧道
4.3 实验环境
LVS服务器:192.168.56.100
RS服务器:192.168.56.101,192.168.56.102,192.168.56.103
4.4 LVS服务器配置
4.4.1 安装ipvsadm
[root@hadoop100 ~]# yum install ipvsadm -y
4.4.2 清空ipvs配置,如果之前有的话
[root@hadoop100 ~]# ipvsadm -C
4.4.3 配置tunnel信息
[root@hadoop100 ~]# modprobe ipip # 加入ip隧道命令
[root@hadoop100 ~]# ip addr add 192.168.56.188/24 dev tunl0 # 配置VIP
[root@hadoop100 ~]# ip link set up tunl0 启动隧道,使这个隧道IP生效
# 查看配置是否生效
[root@hadoop100 ~]# ip addr show
...
4: tunl0@NONE: <NOARP,UP,LOWER_UP> mtu 1480 qdisc noqueue state UNKNOWN group default qlen 1000
link/ipip 0.0.0.0 brd 0.0.0.0
inet 192.168.56.188/24 scope global tunl0
valid_lft forever preferred_lft forever
4.4.4 配置ipvs
[root@hadoop100 ~]# ipvsadm -A -t 192.168.56.188:80 -s rr # 添加vip访问记录
[root@hadoop100 ~]# ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.101:80 -i # 添加RS
[root@hadoop100 ~]# ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.102:80 -i # 添加RS
[root@hadoop100 ~]# ipvsadm -a -t 192.168.56.188:80 -r 192.168.56.103:80 -i # 添加RS
[root@hadoop100 ~]# ipvsadm -ln # 查看ipvs配置信息
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 192.168.56.188:80 rr
-> 192.168.56.101:80 Tunnel 1 0 0
-> 192.168.56.102:80 Tunnel 1 0 0
-> 192.168.56.103:80 Tunnel 1 0 0
4.4.5 ### 系统配置 vim /etc/sysctl.conf
net.ipv4.ip_forward=0
net.ipv4.conf.tunl0.send_redirects=1
net.ipv4.conf.default.send_redirects=1
net.ipv4.conf.all.send_redirects=1
net.ipv4.conf.ens33.send_redirects=1
net.ipv4.conf.ens34.send_redirects=1
4.4.6 生效配置
[root@hadoop100 ~]# sysctl -p
net.ipv4.ip_forward = 0
net.ipv4.conf.tunl0.send_redirects = 1
net.ipv4.conf.default.send_redirects = 1
net.ipv4.conf.all.send_redirects = 1
net.ipv4.conf.ens33.send_redirects = 1
net.ipv4.conf.ens34.send_redirects = 1
4.5 RS服务器配置,所有后台服务器配置相同
4.5.1 安装http
yum install httpd -y
4.5.2 配置httpd页面并启动httpd服务
[root@hadoop101 conf]# cat /var/www/html/index.html
i am real server1
[root@hadoop102 conf]# cat /var/www/html/index.html
i am real server2
[root@hadoop103 conf]# cat /var/www/html/index.html
i am real server3
systemct start httpd # 启动httpd
4.5.3 访问测试
[hadoop@hadoop ~]$ curl 192.168.56.101
i am real server1
[hadoop@hadoop ~]$ curl 192.168.56.102
i am real server2
[hadoop@hadoop ~]$ curl 192.168.56.103
i am real server3
4.5.4 LVS Tunnel配置, 以101服务器为例
[root@hadoop101 ~]# modprobe ipip # 加入ip隧道命令
[root@hadoop101 ~]# ip addr add 192.168.56.188/32 dev tunl0 # 配置VIP
[root@hadoop101 ~]# ip link set up tunl0 启动隧道,使这个隧道IP生效
[root@hadoop103 conf]# ip addr show # 查看网卡信息
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
valid_lft forever preferred_lft forever
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:cb:09:2b brd ff:ff:ff:ff:ff:ff
inet 10.4.7.131/24 brd 10.4.7.255 scope global dynamic ens33
valid_lft 1094sec preferred_lft 1094sec
inet6 fe80::20c:29ff:fecb:92b/64 scope link
valid_lft forever preferred_lft forever
3: ens34: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000
link/ether 00:0c:29:cb:09:35 brd ff:ff:ff:ff:ff:ff
inet 192.168.56.103/24 brd 192.168.56.255 scope global ens34
valid_lft forever preferred_lft forever
inet6 fe80::20c:29ff:fecb:935/64 scope link
valid_lft forever preferred_lft forever
4: tunl0@NONE: <NOARP,UP,LOWER_UP> mtu 1480 qdisc noqueue state UNKNOWN group default qlen 1000
link/ipip 0.0.0.0 brd 0.0.0.0
inet 192.168.56.188/32 scope global tunl0
valid_lft forever preferred_lft forever
4.5.5 ### 系统配置 vim /etc/sysctl.conf
net.ipv4.ip_forward=0
net.ipv4.conf.tunl0.rp_filter=0
net.ipv4.conf.all.rp_filter=0
net.ipv4.conf.tunl0.arp_ignore=1
net.ipv4.conf.tunl0.arp_announce=2
net.ipv4.conf.ens33.arp_ignore=1
net.ipv4.conf.ens33.arp_announce=2
net.ipv4.conf.ens34.arp_ignore=1
net.ipv4.conf.ens34.arp_announce=2
4.5.6 生效配置
[root@hadoop101 conf]# sysctl -p
vm.max_map_count = 655360
fs.file-max = 655360
net.ipv4.ip_forward = 0
net.ipv4.conf.tunl0.rp_filter = 0
net.ipv4.conf.all.rp_filter = 0
net.ipv4.conf.tunl0.arp_ignore = 1
net.ipv4.conf.tunl0.arp_announce = 2
net.ipv4.conf.ens33.arp_ignore = 1
net.ipv4.conf.ens33.arp_announce = 2
net.ipv4.conf.ens34.arp_ignore = 1
net.ipv4.conf.ens34.arp_announce = 2
4.6 测试
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server3
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server2
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server1
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server3
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server2
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server1
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server3
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server2
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server1
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server3
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server2
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server1
[hadoop@hadoop ~]$ curl 192.168.56.188
i am real server3
[hadoop@hadoop ~]$ curl 192.168.56.188