Ubuntu编译安装HAprox+Keepalived+MySQL负载高可用架构(结合Docker容器配置)

系统环境：Ubuntu16.04(Docker容器)

架构环境：

Keepalived/HAproxy MASTER: 172.17.0.4

Keepalived/HAproxy BACKUP: 172.17.0.6

MySQL MASTER: 172.17.0.2

MySQL SLAVE: 172.17.0.3

HAproxy版本：haproxy-2.0.8.tar.gz

Keepalived版本：keepalived-2.0.19.tar.gz

 

一、安装HAproxy（MASTER/BACKUP两台都要装）

1、前往官网https://www.haproxy.org/ 下载HAproxy

解压，进入haproxy-2.0.8目录

vim INSTALL；查看安装说明

 

 

2、编译安装HAproxy

（1）编译

报错1：bash: make: command not found

 

我直接用docker容易，make命令没安装，安装一下：

apt-get -y install make

然后执行：

make -j 2 TARGET=generic USE_GZIP=1

 

报错2：/bin/sh: 1: gcc: not found

 

未安装gcc，安装gcc：

apt-get -y install gcc

然后再执行：

make -j 2 TARGET=generic USE_GZIP=1

 

暂时未报错：

 

 

（2）安装

直接执行：

make install PREFIX=/usr/local/HAproxy2.0.8

 

 

（3）复制命令至/usr/local/sbin/下

 

 

3、添加服务启动脚本文件

 vim /etc/init.d/haproxy

[code]#!/bin/bash
#
# chkconfig: 2345 85 15
# descrition: haproxy loadbalancer

DAEMON=haproxy
PROG_DIR=/usr/local/HAproxy2.0.8
RETVAL=0

success() {                       #跟朋友的探讨，使用shell本身来实现；当然也可以使用for的遍历循环，
总之方法有很多种
for ((i=0;i<=5;i++))
do
sleep 0.2
echo -n "."
done
}

start ()
{
PROG_STAT=$(netstat -tlnp | grep ${DAEMON})
if [ -z "$PROG_STAT" ]; then
$PROG_DIR/sbin/$DAEMON -f $PROG_DIR/conf/${DAEMON}.cfg
echo -ne "Starting ${DAEMON}......\t\t\t"  && success
echo -e "\e[32m[OK]\e[0m"
else
echo "$DAEMON is already running"
RETVAL=65
fi
}

stop ()
{
PROG_STAT=$(netstat -tlnp | grep ${DAEMON})
if [ -n "$PROG_STAT" ]; then
echo -ne "stopping ${DAEMON}......\t\t\t"  && success
PROG_PID=$(cat $PROG_DIR/run/${DAEMON}.pid)
kill $PROG_PID
echo -e "\e[32m[OK]\e[0m"
else
echo "$DAEMON is already stopped"
RETVAL=66
fi
}

restart()
{
echo -ne "restarting ${DAEMON}......\t\t\t"   && success
PROG_PID=$(cat $PROG_DIR/run/${DAEMON}.pid)
$PROG_DIR/sbin/$DAEMON -f $PROG_DIR/conf/${DAEMON}.cfg -st $PROG_PID
echo -e "\e[32m[OK]\e[0m"
}

status ()
{
PROG_STAT=$(netstat -tlnp | grep ${DAEMON})
if [ -z "$PROG_STAT" ]; then
echo "${DAEMON} stopped"
else
echo "${DAEMON} running"
fi
}

case "$1" in
start)
start
;;
stop)
stop
;;
restart)
restart
;;
status)
status
;;
*)
echo "Usage /etc/init.d/$DAEMON {start | stop | restart | status}"
RETVAL=67
esac
exit $RETVAL

赋予执行权限：

chmod +x /etc/init.d/haproxy

 

4、添加haproxy.conf配置文件

先创建haproxy用户与组：

 

 

再创建配置文件：

mkdir -p /etc/haproxy

vim /etc/haproxy/haproxy.conf

[code]global
log 127.0.0.1 local2 info    # 设置日志文件输出定向，info为日志级别
chroot /usr/local/HAproxy2.0.8    # 改变当前工作目录
pidfile /usr/local/HAproxy2.0.8/run/haproxy.pid    #PID文件位置
user haproxy    # 用户与用户组
group haproxy
daemon    # 守护进程启动，运维方式为后台工作
maxconn 4000    # 最大连接数

# 作用于其后紧跟的listen块，直至下一个defaults 块，下一个default 将替换上一个块作用于以后的listen
defaults
log global      #启动每个实例日志记录事件和流量
mode http       #默认的模式mode {tcp|http|health},tcp是四层,http是七层，health只会返回ok
retries 3       #对server的connection失败后，重试的次数
option redispatch       #启用或禁止在连接故障情况下的会话重新分配
maxconn 4096    #maxconn每个进程可用的最大连接数
timeout http-request    10s
timeout queue   1m
timeout connect 10s
timeout client 1m
timeout server 1m
timeout http-keep-alive 10s

frontend main
bind 0.0.0.0:3307
default_backend mysql

backend mysql
balance leastconn    #算法：最少连接数
server mysql1 172.17.0.2:3306 check port 3306 maxconn 300
server mysql2 172.17.0.3:3306 check port 3306 maxconn 300

复制一份配置文件到该目录：

cp -a /etc/haproxy/haproxy.conf /usr/local/HAproxy2.0.8/conf/haproxy.cfg

来启动haproxyd服务

/etc/init.d/haproxy start

 

显示服务启动成功，端口也在

 

二、安装Keepalived

1、前往官网下载所需版本https://www.keepalived.org/

同样解压，进入目录，查看安装说明文档（此处忽略）

 

2、编译扮装

（1）检查环境

./configure --prefix=/usr/local/keepalived-2.0.19

 

报错1：Can not include OpenSSL headers files

 

没有openssl，执行：

apt-get -y install openssl libssl-dev

注意：redhat和centos中是需要安装openssl和openssl-devel的，在ubuntu中，openssl-devel被libssl-dev所代替，安装libssl-dev即可

再重新检查环境~

 

ok，每问题，警告忽视

 

（2）编译、编译安装

make && make install

 

ok，编译安装完成

 

3、编辑配置文件

cp /usr/local/keepalived-2.0.19/etc/keepalived/keepalived.conf /etc/keepalived/  #复制配置文件

cp /usr/local/keepalived-2.0.19/sbin/keepalived /usr/local/sbin/

cp /usr/local/keepalived-2.0.19/etc/rc.d/init.d/keepalived /etc/init.d/  #复制服务启动文件

chmod +x /etc/init.d/keepalived

 

vim /etc/keepalived/keepalived.conf（MASTER机）

[code]! Configuration File for keepalived

global_defs {
router_id r1         #虚拟路由名称，master和backup不能一致
}

vrrp_script chk_haproxy {       #定义检查脚本
script "/etc/keepalived/chk_haproxy.sh"         #脚本位置
interval 3      #每3秒检测一次
fall 3          #失败判断3次
#       weight  -2      #失败后权重-2
}

vrrp_instance VI_1 {
state MASTER        #状态，只有MASTER或BACKUP
interface eth0      #网卡名称，注意一定要是自己正在使用的网卡名称
virtual_router_id 53        #虚拟路由id，是虚拟路由的mac最后两位
priority 100                #优先级
advert_int 1                #通告间隔时间
authentication {            #认证
auth_type PASS
auth_pass 1111
}

track_script {     #执行以上脚本
chk_haproxy
}

virtual_ipaddress {         #VIP地址，同网段
172.17.0.253
}
#   notify_master "/etc/init.d/haproxy start"   #当 当前节点成为master时，执行的任务
#   notify_backup "/etc/init.d/haproxy restart" #当 当前节点成为backup时，执行的任务
#   notify_fault  "/etc/init.d/haproxy stop"    #当 当前节点出现故障时，执行的任务
}

ok，创建健康检查脚本文件

vim /etc/keepalived/chk_haproxy.sh

[code]#/bin/bash

STAT=`ps -C haproxy --no-header | wc -l`

if [[ ! "$STAT" -eq 1  ]];then
/etc/init.d/keepalived stop
fi

如果进程未在，直接关闭keepalived

chmod +x chk_haproxy.sh #给个执行权限

 

4、启动keepalived服务

启动文件中某些文件不存在，需要手动链接一下（ubuntu就是麻烦）：

 

ln -s /lib/lsb/init-functions /etc/init.d/functions

mkdir /etc/rc.d

ln -s /etc/init.d /etc/rc.d/

cp /src/keepalived-2.0.19/keepalived/etc/sysconfig/keepalived /etc/sysconfig/

 

然后安装daemon命令：

apt-get -y install daemon

注意图中，daemon -- keepalived 之前是 daemon keepalived，加了两条横杠

这个命令是有问题的，其中的-D本来是给keepalived用的，但这样组合后被认为是daemon命令的参数。这会导致服务不能启动。  如果不修改，会提示启动失败，但却不输出具体信息。

 

注意，由于我是使用docker容器安装的keepalived,所以我需要将此容器保存成镜像，然后再重新docker run，要加上--privileged这个参数，才能显示keepalived的VIP（不是用容器安装的可以忽略）

docker run -dit --privileged --name ha_keep  -p 3308:3307 ha_keep

 

下边启动服务：

/etc/init.d/keepalived start

 

执行：ip addr

 

 

5、配置BACKUP机

haproxy服务于MASTER机一致，keepalived服务主要修改主配置文件

Keepalived/BACKUP机配置文件：

[code]! Configuration File for keepalived

global_defs {
router_id r2         #虚拟路由名称，master和backup不能一致
}

vrrp_script chk_haproxy {       #定义检查脚本
script "/etc/keepalived.chk_haproxy.sh"         #脚本位置
interval 3      #每3秒检测一次
fall 3          #失败判断3次
#       weight  -2      #失败后权重-2
}

vrrp_instance VI_1 {
state BACKUP        #状态，只有MASTER或BACKUP
interface eth0      #网卡名称，注意一定要是自己正在使用的网卡名称
virtual_router_id 53        #虚拟路由id，是虚拟路由的mac最后两位
priority 99                 #优先级
advert_int 1                #通告间隔时间
authentication {            #认证
auth_type PASS
auth_pass 1111
}

track_script {
chk_haproxy
}

virtual_ipaddress {         #VIP地址，同网段
172.17.0.253
}
#   notify_master "/etc/init.d/haproxy start"   #当 当前节点成为master时，执行的任务
#   notify_backup "/etc/init.d/haproxy restart" #当 当前节点成为backup时，执行的任务
#   notify_fault  "/etc/init.d/haproxy stop"    #当 当前节点出现故障时，执行的任务
}

其他配置相同，然后启动keepalived

 

6、测试将MASTER机的haproxy服务stop，会不会自动将keepalived服务关掉，将VIP转移到BAKUP机

下图所示VIP到BACKUP机就说明配置ok

 

 

7、负载均衡高可用配置完毕，不过此架构适用于mysql主主复制或有共享存储服务器。