Keepalived+LVS+Nginx负载均衡之高可用

系统整体设计是采用Nginx做负载均衡，若出现Nginx单机故障，则导致整个系统无法正常运行。针对系统架构设计的高可用要求，我们需要解决Nginx负载均衡出现单机故障时，系统正常运行的需求。所以系统架构引入Keepalived组件，实现系统高可用。

　　一、Keepalived介绍

　　Keepalived是分布式部署系统解决系统高可用的软件，结合LVS（Linux Virtual Server）使用，其功能类似于heartbeat，解决单机宕机的问题。

　　二、Keepalived技术原理

　　keepalived是以VRRP协议为实现基础的，VRRP全称Virtual Router Redundancy Protocol，即虚拟路由冗余协议。通过VRRP协议结合LVS，对组群服务器监控情况，若master出现宕机情况，则将VIP漂移到backup机上。实现了分布式系统高可用。可以理解为：keepalived是LVS的管理软件，根据监控情况，将宕机服务器从ipvsadm移除掉。

　　三、Keepalived+LVS+Nginx实现系统高可用

服务器 IP地址说明
虚拟IP 192.168.1.120:80
主机 192.168.1.104:80
备机 192.168.1.103:80
Web站点A 192.168.1.101:8081 不同端口
Web站点B 192.168.1.101:8082 不同端口

　　1、安装ipvsadm，CentOS7自带安装包，通过yum进行安装。实现系统支持LVS

1
yum install ipvsadm
　　2、安装Keepalived软件，并将keepalived设置开机启动

1
yum install Keepalived
1
systemctl enable keepalived
　　

　　3、进行Keepalived.conf配置，如果是MASTER机，将state BACKUP改为state MASTER。
vim /etc/keepalived/keepalived.conf

配置的内容

! Configuration File for keepalived

global_defs {
notification_email {
xxx@126.com #收到通知的邮件地址
}
notification_email_from XX@126.com
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
}

vrrp_script monitor_nginx{
script "/usr/local/etc/keepalived/script/monitor_nginx.sh"
interval 1
weight -15
}

vrrp_instance VI_1 {
state BACKUP
interface eno16777736
virtual_router_id 51
priority 80
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
192.168.1.120
}
track_script {
monitor_nginx
}
}

virtual_server 192.168.1.120 80 {
delay_loop 6
lb_algo wrr
lb_kind DR
persistence_timeout 50
protocol TCP

real_server 192.168.1.103 80 {
    weight 1
    TCP_CHECK {
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
    }
}

real_server 192.168.1.104 80 {
    weight 5
    TCP_CHECK {
        connect_timeout 10
        nb_get_retry 3
        delay_before_retry 3
        connect_port 80
    }
}

}
　　4、配置监控shell脚本

（1）创建：vim /usr/local/etc/keepalived/script/monitor_nginx.sh

（2）SHELL文件内容
#!/bin/bash
if [ "$(ps -ef | grep "nginx: master process"| grep -v grep )" == "" ]
then
systemclt start nginx.service
sleep 5
if [ "$(ps -ef | grep "nginx: master process"| grep -v grep )" == "" ]
then
killall keepalived
fi
fi
　　以上完成相关配置，nginx和web服务以上一篇博客内容一致。如下对功能进行验证测试。

　　四、实现测试展示

　　1、访问系统情况：通过VIP（192.168.1.120）访问系统页面。因为设置了轮询调度，所以刷新页面访问不同站点。

　　2、将 MASTER（192.168.1.104）关机前后，查看相关VLS情况：

　　（1）关机前：

　　（2）关机后：

　　我们看到将104服务器从 LVS移除掉。此时则将后续请求转发到103服务器。

　　3、关机后，BACKUP服务器 keepalived日志显示无法连接104，并移除掉

　　5、开机后，将自动检测到服务器正常，并加入LVS中。