规避单点故障，MySQL 8.0 MGR软负载怎么选？
作者介绍
毛思平，12年IT工作经验，7年数据库管理维护经验，现就职于中国农业银行软开中心，从事数据库应用研究。
一、背景简介
近期笔者所在部门计划批量上线一批基于MySQL 8.0社区版的系统，数据库部署架构为MySQL MGR一主两从并由MySQL Router组件实现读写分离，为了规避MySQL Router单点故障，提高系统稳定性架构设计过程中增加了软负载和以及Keepalived，并将软负载及Keepalived部署在管理节点，管理节点主备部署达到高可用目的，整体架构如下图。
另外目前市场上负载软件比较多但大部分面向web应用，笔者梳理发现Haproxy和Nginx在数据库方面有一定应用案例，尤其Haproxy在MySQL主从复制方面应用较广。那么这两款软负载是否可以应用在MySQL8.0 MGR上，谁的性能更好呢，该如何选择呢？带着疑问笔者做了一系列性能比较。
二、环境配置
测试硬件环境均采用虚拟机，具体配置如下表：
序号 |
节点 |
CPU |
内存 |
磁盘 |
IP |
1 |
管理节点1 |
2 |
4G |
32G |
10.*.*.216 |
2 |
管理节点2 |
2 |
4G |
32G |
10.*.*.217 |
3 |
数据库节点1 |
2 |
8G |
128G |
10.*.*.210 |
3 |
数据库节点2 |
2 |
8G |
128G |
10.*.*.211 |
5 |
数据库节点3 |
2 |
8G |
128G |
10.*.*.212 |
6 |
虚拟IP |
- |
- |
- |
10.*.*.218 |
参与测试软件版本配置如下表：
序号 |
节点 |
版本 |
1 |
操作系统 |
CentOS 8.0 |
2 |
数据库 |
MYSQL 8.0.18 |
3 |
keepalived |
2.0.10 |
3 |
haproxy |
1.8.15 |
5 |
ngnix |
1.18.0 |
三、软件配置
关于MySQL MGR配置网上有很多相关教程此处不赘述，以下是关于软负载及高可用插件关键配置。
完成keepalived软件安装后，只需要在/etc/keepalived目录下修改keepalived.conf文件，修改完成后执行systemctl start keepalived即可，需要修改地方如下：
vrrp_instance VI_1 {
state MASTER #不用修改，本方案采用争抢模式管理节点主备一致
interface ens192 #在用网卡名称
virtual_router_id 51 #虚拟路由ID取值0-255
priority 100 #优先级 本方案采用争抢模式管理节点主备一致
advert_int 1 #探活频率 单位秒
authentication { #认证机制及密码
auth_type PASS
auth_pass 11111111 }
10.*.*.218 }
track_script { #自定义探活方法
chk_alived
}
vrrp_script chk_haproxy {
script "/etc/keepalived/checkalived.sh" #探活脚本位置
interval 3 #重新探活时间间隔
weight -5 #失败后权重设置
}
探活脚本Checkalived.sh配置如下以Nginx为例：
#!/bin/bash
if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
systemctl stop keepalived #当发现Nginx不存在时停止该节点Keepalived由备节点接管
fi
以上配置主备管理节点一致即可。
完成Haproxy安装后，只需在/etc/haproxy修改haproxy.cfg文件后执行systemctl start haproxy即可。配置文件主要修改以下内容：
listen mysqlrw
bind :3366 #虚拟IP读写访问端口
mode tcp #访问协议
balance roundrobin #负载均衡算法
server mysql1 10.*.*.210:6446 check port 6446 maxconn 300
server mysql2 10.*.*.211:6446 check port 6446 maxconn 300
server mysql3 10.*.*.212:6446 check port 6446 maxconn 300
listen mysqlro
bind :3367 #虚拟IP读访问端口
mode tcp #访问协议
balance roundrobin #负载均衡算法
server mysql1 10.*.*.210:6447 check port 6447 maxconn 300
server mysql2 10.*.*.211:6447 check port 6447 maxconn 300
server mysql3 10.*.*.212:6447 check port 6447 maxconn 300
bind 10.230.137.218:1080
mode http
option httplog
maxconn 10
stats refresh 30s
stats uri /dbs
stats realm XingCloud\ Haproxy
stats auth admin:admin
stats hide-version
stats admin if TRUE
完成Haproxy安装后,只需在/etc/nginx/conf下修改nginx.conf,在stream方法下添加以下内容即可，添加完成后执行systemctl start nginx即可启动服务，添加如下：
stream {-
upstream db{
server 10.*.*.210:6446;
server 10.*.*.211:6446;
server 10.*.*.212:6446;
}
server{
listen 3366;
proxy_pass db;
proxy_connect_timeout 2s;
access_log /usr/local/nginx/logs/access3366_log mysql; --读写日志输出路径
}
upstream dbro{
server 10.*.*.210:6447;
server 10.*.*.211:6447;
server 10.*.*.212:6447;
}
server{
listen 3367;
proxy_pass dbro;
proxy_connect_timeout 2s;
access_log /usr/local/nginx/logs/access3367_log mysql; --读日志输出路径
}
}
四、测试方法
测试功能点 |
测试方法 |
判断依据 |
负载软件负载分发是否均衡 |
批量执行数据库查询操作，检测负载软件负载分发情况。 |
各个数据库节点均匀获得分发会话。 |
负载软件是否能识别MySQL Router单点故障 |
通过Kill掉任意数据库节点单个MySQL Router进程，检测负载软件负载分发情况。 |
无MySQL Router故障节点，各数据库匀获得相同分发会话。 |
负载软件负载分发性能比较 |
批量执行数据库查询操作，统计同等会话量，负载软件耗时。 |
同会话数量会话分发耗时短的负载能力更强。 |
负载软件高可用验证 |
通过Kill掉管理节点负载进程模拟负载软件故障，通过虚拟IP登陆数据库验证备管理节点是否正常。 |
虚拟IP登陆数据库正常，表明备节点软负载正常分发会话。 |
五、测试结果
通过编写批量执行SQL的形式，访问数据库，并统计两款负载软件各节点分发情况。Haproxy通过软件自带图行界面统计，Nginx由于采用的是免费版通过后台日志统计负载分发情况。
批量SQL核心算法如下：
echo -e
while true
do
mysql -u$USER -p$PASSWORD -h$ROUTE_HOST -P$RW_PORT --protocol=TCP -e"${SQL_TEXT1}"
let COUNT+=1
if [ $COUNT -ge $SESS_NUM ]
then
break
fi
done
Haproxy发起64次查询后各个节点会话分发情况，如下图。
Nginx发起64次查询后各个节点会话分发情况，如下图。
测试结果如下：
选择任意数据库节点，Kill -9 杀死MySQL Router进程，同样的方法测试验证负载软件会话分发情况，测试结果如下。
通过批量执行空查询SQL：select @@hostname,统计相同并发下不同负载软件分发耗时测算负载软件负载分发效率，测试结果如下：
当在主节点杀死负载程序后，虚拟IP切换到了备节点，通过虚拟IP能正常登陆数据库，以Nginx为例。
1）在主管理节点杀死Nginx进程：
2）在主节点查看虚拟IP是否存在：
3）在备节点查看虚拟IP是否切换过来，判断Keepalived是否主备切换。
4）在以虚拟IP登陆数据库验证备节点负载分发是否正常。
由上测试可以看出该架构满足软负载高可用需求，即管理节点软负载故障，备节点通过keepalived探测异常后接管升级成主。同样方法测试Haproxy也满足，在此不赘述。
六、结论
功能方面，Haproxy和Nginx两款软负载软件均能实现多并发读写均衡分发，在MySQL Router出现故障时Haproxy和Nginx均能识别故障并转移连接到正常运行节点。Haproxy和Nginx均能在keepalived下实现高可用。
性能方面，在并发能力发面，同等软硬件条件Haproxy与Nginx相差不大，相同并发量两个负载软件分发耗时相近。
易用性方面，Haproxy提供图形界面能直观查看各个服务端口负载分配情况，连接时长，失败连接次数，并能直观显示故障节点等。Nginx无图形管理界面，需要单独加载日志监控模块，需要手动配置日志输出，从后台日志查找个节点连接情况比较麻烦。
高可用性方面，两款软负载+Keepalived均能规避MySQL Router单点故障，同时主备模式的设计使负载软件自身也具备高可用，避免单点故障对整个集群架构造成影响。