【MySQL运维】MySQL双主高可用架构之MMM实战

MMM

MMM 即 Master-Master Replication Manager for MySQL （ mysql 主主复制管理器），是关于 mysql 主主复制配置的监控、故障转移和管理的一套可伸缩的脚本套件（在任何时候只有一个节点可以被写入），这个套件也能基于标准的主从配置的任意数量的从服务器进行读负载均衡，所以你可以用它来在一组居于复制的服务器启动虚拟 ip ，除此之外，它还有实现数据备份、节点之间重新同步功能的脚本。 MySQL 本身没有提供 replication failover 的解决方案，通过 MMM 方案能实现服务器的故障转移，从而实现 mysql 的高可用。 MMM 项目来自 Google ： http://code.google.com/p/mysql-master-master

官方网站为： http://mysql-mmm.org

mmm_control ：通过命令行管理 mmm_mond 进程

关于此架构的优缺点：优点：安全性、稳定性高，可扩展性好,当主服务器挂掉以后，另一个主立即接管，其他的从服务器能自动切换，不用人工干预。

缺点：至少三个节点，对主机的数量有要求，需要实现读写分离，可以在程序扩展上比较难实现。同时对 主从(双主)同步延迟要求比较高！因此不适合数据安全非常严格的场合。

实用场所：高访问量，业务增长快，并且要求实现读写分离的场景。

MySQL_Master2: 192.168.8.33-----(MySQL-M2)

VIP_Write: 192.168.8.30-----(VIP0)

VIP_Read1: 192.168.8.34-----(VIP1)

VIP_Read2: 192.168.8.35-----(VIP2)

架构原理图：

一、环境基础配置

1. 设置 hosts 解析

三台服务器配置如下：

二、安装配置 mysql

具体安装过过程略，如果不会安装 mysql 的可以不用看本教程了！

这里说下 my.cnf 配置文件的细节：

MySQL-M1 的配置：

MySQL-M2 的配置：

三、安装 mysql-mmm

在三台服务器安装

四、配置 MySQL-M1 和 MySQL-M2 主主模式

1. 首先创建三个账号

要注意一点是：由于 MySQL-M1 和 MySQL-M2 之间有复制，所以只要在一台服务器上执行就可以了，不过要在 MySQL-MON 上执行后面两条！

2. 配置主主模式

2.1 把 MySQL-M1 服务器作为 MySQL-M2 服务器主

在 MySQL-M1 服务器操作：

然后在 MySQL-M2 服务器操作：

2.2 把 MySQL-M2 服务器作为 MySQL-M1 服务器主

在 MySQL-M2 服务器上操作：

在 MySQL-M1 服务器上操作：

OK... 主主模式配置成功！主主复制同步测试这里不再说明，接着下面的步骤。

五、配置 MMM 监控、代理服务

1. 在三台服务器修改 mmm_common.conf 配置文件 ( 三台服务器此配置文件内容相同 )

修改后的内容如下：

说明： mode  exclusive

这个地方有两种模式：

exclusive ：在这种模式下任何时候只能一个主机拥有该角色

balanced : 该模式下可以多个主机同时拥有此角色。

通常情况下 writer 是 exclusive ， reader 是 balanced

2. 在 MySQL-M1 服务器上修改 mmm_agent.conf 配置文件

修改后的内容如下：

3. 在 MySQL-M2 服务器上修改 mmm_agent.conf 配置文件

修改后的内容如下：

4. 在 MySQL-MON 服务器上配置 mmm_mon.conf 配置文件

修改后的内容如下：

5. 启动代理 ( 默认是启用，这里只是说明下 )

[root@MySQL-M1 mysql-mmm]# cat /etc/default/mysql-mmm-agent

[root@MySQL-M2 mysql-mmm]# cat /etc/default/mysql-mmm-agent

六、启动各服务器的相关服务

MySQL-M1 和 MySQL-M2 服务器上启动

/etc/init.d/mysql-mmm-agent start

MySQL-MON 服务器上启动

/etc/init.d/mysql-mmm-monitor start

在 MySQL-MON 监控机上查看 MMM 状态信息：

下面分别查看各服务器的日志信息：

[root@MySQL-M1 mysql-mmm]# cat /var/log/mysql-mmm/mmm_agentd.log

2012/10/15 05:06:06  INFO We have some new roles added or old rules deleted!

2012/10/15 05:06:06  INFO Added:   reader(192.168.8.35), writer(192.168.8.30)

[root@MySQL-M2 mysql-mmm]# cat /var/log/mysql-mmm/mmm_agentd.log

2012/10/16 14:53:51  INFO We have some new roles added or old rules deleted!

2012/10/16 14:53:51  INFO Added:   reader(192.168.8.34)

[root@MySQL-MON ~]# cat /var/log/mysql-mmm/mmm_mond.log

2012/10/15 05:07:36 FATAL Couldn't open status file '/var/lib/mysql-mmm/mmm_mond.status': Starting up without status information.

2012/10/15 05:08:38 FATAL State of host 'MySQL-M2' changed from AWAITING_RECOVERY to ONLINE because of auto_set_online(10 seconds). It was in state AWAITING_RECOVERY for 10 seconds

2012/10/15 05:08:38 FATAL State of host 'MySQL-M1' changed from AWAITING_RECOVERY to ONLINE because of auto_set_online(10 seconds). It was in state AWAITING_RECOVERY for 10 seconds

下面再看下各服务器的服务进程信息：

[root@MySQL-MON ~]# ps aux |grep mmm

root     19176  0.0  2.8 115784 14320 ?        S    05:07   0:00 mmm_mond

root     19178  0.3 14.4 331756 71556 ?        Sl   05:07   0:18 mmm_mond

root     19185  0.1  1.8 105824  9376 ?        S    05:07   0:06 perl /usr/libexec/mysql-mmm/monitor/checker ping_ip

root     19188  0.0  2.2 137644 10940 ?        S    05:07   0:05 perl /usr/libexec/mysql-mmm/monitor/checker mysql

root     19190  0.0  1.8 105824  9384 ?        S    05:07   0:02 perl /usr/libexec/mysql-mmm/monitor/checker ping

root     19192  0.1  2.2 137644 10984 ?        S    05:07   0:07 perl /usr/libexec/mysql-mmm/monitor/checker rep_backlog

root     19194  0.1  2.2 137644 10984 ?        S    05:07   0:07 perl /usr/libexec/mysql-mmm/monitor/checker rep_threads

root     19308  0.0  0.1  61228   720 pts/1    R+   06:42   0:00 grep mmm

[root@MySQL-M1 mysql-mmm]# ps aux |grep mmm

root      1371  0.0  0.1  61228   724 pts/1    R+   06:40   0:00 grep mmm

root     24228  0.0  2.2 106096 11068 ?        S    04:58   0:00 mmm_agentd

root     24230  0.2  2.6 140148 13204 ?        S    04:58   0:16 mmm_agentd

下面再看下VIP绑定信息：

七、模拟宕机切换测试

1. 现在把 MySQL-M1 的 mysqld 服务停掉

[root@MySQL-M1 mysql-mmm]# service mysqld stop

Shutting down MySQL.                                       [  OK  ]

[root@MySQL-M1 mysql-mmm]# ps aux |grep mysqld |grep -v grep

[root@MySQL-MON ~]# mmm_control show

MySQL-M1(192.168.8.32) master/HARD_OFFLINE. Roles:

MySQL-M2(192.168.8.33) master/ONLINE. Roles: reader(192.168.8.34), reader(192.168.8.35), writer(192.168.8.30)

2. 现在再恢复 MySQL-M1

[root@MySQL-M1 mysql-mmm]# service mysqld start

Starting MySQL.....                                        [  OK  ]

[root@MySQL-M1 mysql-mmm]# ps aux |grep mysqld |grep -v grep

root     19328  1.2  0.2  66116  1340 pts/1    S    09:51   0:00 /bin/sh /opt/webserver/mysql/bin/mysqld_safe --datadir=/data/mysql/data/ --pid-file=/data/mysql/data//MySQL-M1.pid

mysql    20139  7.0 10.3 420060 51348 pts/1    Sl   09:51   0:00 /opt/webserver/mysql/bin/mysqld --basedir=/opt/webserver/mysql --datadir=/data/mysql/data/ --plugin-dir=/opt/webserver/mysql/lib/plugin --user=mysql --log-error=/data/mysql/logs/mysql.err --open-files-limit=10240 --pid-file=/data/mysql/data//MySQL-M1.pid --socket=/tmp/mysql.sock --port=3306

然后再到 MySQL-MON 上查看 MMM 信息：

[root@MySQL-MON ~]# mmm_control show

MySQL-M1(192.168.8.32) master/ONLINE. Roles: reader(192.168.8.34)

MySQL-M2(192.168.8.33) master/ONLINE. Roles: reader(192.168.8.35), writer(192.168.8.30)

可以看到 MySQL-M1 恢复后又 OK 了。。。。但是 MySQL-M1 此时不再提供写代理了，只提供读代理了！

接下来看下VIP绑定信息：

[root@MySQL-M1 mysql-mmm]# ip a |grep eth0

2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast qlen 1000

inet 192.168.1.32/24 brd 192.168.1.255 scope global eth0

inet 192.168.8.34/32 scope global eth0

[root@MySQL-M2 mysql-mmm]# ip a |grep eth0

2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast qlen 1000

inet 192.168.8.33/24 brd 192.168.8.255 scope global eth0

inet 192.168.8.35/32 scope global eth0

inet 192.168.8.30/32 scope global eth0

总结： mmm_mond 监控各 mysql-server 的运行状态

1 、当 Roles 为 reader 和 write 的 MySQL-M1 发生故障的时候，就将 reader 和 writer 角色从 MySQL-M1 上移除，并标记为 HARD_OFFLINE 状态，由 Roles 为 reader 的 MySQL-M2 取代该服务器，并分配 writer 角色和浮动 IP ，此时 MySQL-M2 为主服务器，承担服务器的读写代理。当 MySQL-M1 恢复后， mysql-mmm 会自动分配 Roles 为 reader ，标记为 ONLINE 状态，并和 MySQL-M2 一起承担读压力 , 此时 MySQL-M1 为 slave ，提供只读代理功能。

2 、当 Roles 为 reader 的 MySQL-M1 发生故障，就将 reader 的角色从 MySQL-MMM 上移除，并标记为 HARD_OFFLINE 状态。当该 MySQL-M1 恢复后又会自动分配 reader 角色给该服务器，标记为 ONLINE 状态，并和 MySQL-M2 一起承担读压力。

这里只测试下 MySQL-MMM 故障转移，有兴趣的朋友还要以测试下当主主复制出现问题时，会导致 MMM 出现什么问题！

附录： mmm_control 命令相关参数说明

[root@MySQL-MON ~]# /usr/sbin/mmm_control help

Valid commands are:

help                              - show this message   # 查看帮助信息

ping                              - ping monitor     #ping 监控 , 用于监控检测 agent 服务器

show                              - show status     # 查看状态信息

checks [<host>|all [<check>|all]] - show checks status   # 显示检查状态，包括 (ping 、 mysql 、 rep_threads 、 rep_backlog)

set_online <host>                 - set host <host> online   # 设置某 host 为 online 状态

set_offline <host>                - set host <host> offline  # 设置某 host 为 offline 状态

mode                              - print current mode.      # 打印当前的模式，是 ACTIVE 、 MANUAL 、 PASSIVE( 默认是 ACTIVE 模式 )

set_active                        - switch into active mode.  # 更改为 active 模式

set_manual                        - switch into manual mode.  # 更改为 manual 模式

set_passive                       - switch into passive mode. # 更改为 passive 模式

move_role [--force] <role> <host> - move exclusive role <role> to host <host>   # 更改 host 的模式，比如更改处于 slave 的 mysql 数据库角色为 writer

(Only use --force if you know what you are doing!)

set_ip <ip> <host>                - set role with ip <ip> to host <host>    help    # 为 host 设置 ip ，只有 passive 模式的时候才允许更改!

最后再总结MMM的两点不足：

1、MMM不允许两台Master同时挂掉

2、MMM对主主复制之间的延迟控制比较严格

后期博文发写一篇关于MHA高可用架构的切换实验。。。。