北京网站建设dqcx,注册微信公众号流程,广州网站建设制作价格,购物商城网页模板MySQL 是实际生产中最常用的数据库#xff0c;生产环境数据量极为庞大#xff0c;对性能和安全要求很高#xff0c;单机的 MySQL 是远远达不到的#xff0c;所以必须搭建一个主从复制架构#xff0c;同时可以基于一些工具实现高可用架构#xff0c;在此基础上#xff0c…MySQL 是实际生产中最常用的数据库生产环境数据量极为庞大对性能和安全要求很高单机的 MySQL 是远远达不到的所以必须搭建一个主从复制架构同时可以基于一些工具实现高可用架构在此基础上基于一些中间件实现读写分离架构如果数据量非常庞大还要考虑分库分表。
本文不讲解 MySQL 数据库的安装和高可用架构搭建的具体细节只为探索生产环境常用的高可用方案和各个方案的优劣。
主从集群
主从集群可以缓解 MySQL 的数据存储以及访问的压力具备一下几个优点
1. 数据安全
为了给主服务增加一个数据备份可以搭建主从架构基于此架构也可以搭建互主架构
2. 读写分离
对于大部分系统来说都是读多写少的当主库的访问压力较大时可以将数据的读请求交给从库承担主库只负责数据的写入。 可以大大缓解主库的压力。
【注意】 MySQL 的主从架构只是实现读写分离的基础。要实现读写分离还需要一些中间件来实现如 ShardingSphere
3. 故障转移-高可用
当 MySQL 主服务宕机后可以由一台从服务切换成主服务。
对于高可用架构主从架构也只是实现故障转移的基础要实现自动主从切换还需要一些其他中间件实现如 MMM, MHA MGR
【重要】
在一般项目中如果数据库的访问压力没有那么大不一定必须要做读写分离但是主从架构高可用架构是一定要搭建的
主从同步的原理
MySQL 主从同步架构一般是通过 binlog 日志文件来进行的。 简要步骤如下
在主服务上打开 binlog 记录每一步的数据操作。从服务会有一个 IO 线程负责和主服务建立 TCP 连接请求主服务将 binlog 日志传送过来这时主库上会有一个 IO dump 线程负责通过这个 TCP 连接把 binlog 日志传输给从库从服务的 IO 线程会把接收到的 binlog 日志数据写入自己的 relay 日志文件中进行操作重演。达到还原数据的目的 MySQL 的 binlog 日志不仅仅可以用于主从同步还可以用于缓存数据同步的场景如 Canal, 它可以模拟一个 slave 节点向 MySQL 发起 binlog 同步然后将数据落地到 redis等其它组件中实现数据的实时流转 【注意】 搭建主从同步有两个必要的要求
双方的 MySQL 版本必须一致。 至少要求主服务版本低于从服务两节点的时间需要同步
搭建主从集群
1. 配置 master 主服务器
修改 /etc/my.cnf, 主要是有两点
打开 binlog 日志指定 serverId
示例配置如下
[mysqld]
server-id47
#开启 binlog
log_binmaster-bin
log_bin-indexmaster-bin.index
skip-name-resolve
# 设置连接端口
port3306
# 设置 mysql 的安装目录
basedir/usr/local/mysql
# 设置 mysql 数据库的数据的存放目录
datadir/usr/local/mysql/mysql-files
# 允许最大连接数
max_connections200
# 允许连接失败的次数。
max_connect_errors10
# 服务端使用的字符集默认为 UTF8
character-set-serverutf8
# 创建新表时将使用的默认存储引擎
default-storage-engineINNODB
# 默认使用“mysql_native_password”插件认证
#mysql_native_password
default_authentication_pluginmysql_native_password配置说明
server-id服务节点的唯一标识。需要给集群中的每个服务分配一个单独的 ID。log_bin打开 Binlog 日志记录并指定文件名。log_bin-indexBinlog 日志文件
2. 重启服务
service mysqld restart
3. 分配 replication slave 权限
#登录主数据库
mysql -u root -p
# 分配权限
GRANT REPLICATION SLAVE ON *.* TO root%;
flush privileges;
#查看主节点同步状态
show master status;这个权限赋予从服务器与主服务器建立复制连接和接收主服务器上的数据更新的能力。具有REPLICATION SLAVE权限的从服务器可以连接到主服务器并从主服务器接收数据更改事件如插入、更新和删除操作。这使得从服务器能够保持与主服务器上数据的实时同步。 **注意**在实际生产中一般不会直接使用 root 用户而是会创建一个拥有全部权限的用户来负责主从同步 这个指令结果中的
File 是当前日志的 binlog 文件Position 是文件中的索引Binlog_DO_DB 标识 binlog 要记录的库也就特殊指定哪些库中的更改需要在 binlog 中记录下来Binglog_Ignore_DB 表示不要把某个库的更改记录到 binlog 文件中。主从同步时自然也不会同步这个库 开启 binlog 后数据库中的所有操作都会被记录到 datadir 当中以一组 轮询文件的方式循环记录。而指令查到的 File 和 Position 就是当前日志的 文件和位置。而在后面配置从服务时就需要通过这个 File 和 Position 通知从服务从哪个地方开始记录 binLog。 4. 配置从服务
也是有几个关键的配置
server-id: 服务节点的唯一标识relay-log 打开从服务的 bin-log 日志记录log-bin: 打开从服务的 binlog 日志记录
示例配置如下
[mysqld]
#主库和从库需要不一致
server-id48
#打开 MySQL 中继日志
relay-log-indexslave-relay-bin.index
relay-logslave-relay-bin
#打开从服务二进制日志
log-binmysql-bin
#使得更新的数据写进二进制日志中
log-slave-updates1
# 设置 3306 端口
port3306
# 设置 mysql 的安装目录
basedir/usr/local/mysql
# 设置 mysql 数据库的数据的存放目录
datadir/usr/local/mysql/mysql-files
# 允许最大连接数
max_connections200
# 允许连接失败的次数。
max_connect_errors10
# 服务端使用的字符集默认为 UTF8
character-set-serverutf8
# 创建新表时将使用的默认存储引擎
default-storage-engineINNODB
# 默认使用“mysql_native_password”插件认证
#mysql_native_password
default_authentication_pluginmysql_native_password5. 重启从服务设置与主节点的同步状态
#登录从服务
mysql -u root -p;
#设置同步主节点
CHANGE MASTER TO
MASTER_HOST192.168.232.128,
MASTER_PORT3306,
MASTER_USERroot,
MASTER_PASSWORDroot,
MASTER_LOG_FILEmaster-bin.000004,
MASTER_LOG_POS156
GET_MASTER_PUBLIC_KEY1;
#开启 slave
start slave;
#查看主从同步状态
show slave status;
# 或者用 show slave status \G; 这样查看比较简洁注意 CHANGE MASTER 指令中需要指定的 MASTER_LOG_FILE 和 MASTER_LOG_POS 必须与主服务中查到的保持一致。并且后续如果要检查主从架构是否成功也可以通过检查主服务与从服务之间的 File 和 Position 这两个属性是否一致来确定。 重点关注其中红色方框的两个属性与主节点保持一致就表示这个主从同步搭建是成功的。
从这个指令的结果能够看到有很多 Replicate_开头的属性这些属性指定了两个服务之间要同步哪些数据库、哪些表的配置。只是在我们这个示例中全都没有进行配置就标识是全库进行同步。后面补充如何配置需要同步的库和表。
6. 主从集群测试
在主新建表在从查看是否存在在主新增表在从查看是否存在在主新增数据在从查看是否存在
7. 主从同步失败的检查与恢复
主从同步是有可能失败的可以在从上执行命令 show slave status \G, 如果发现 Slave_SQL_Runningno 就表示同步失败了这有可能是
在从库上进行了写操作与不同过来的 SQL 冲突了也可能是从服务重启后有事务回滚了。
如果是因为从服务事务回滚的原因可以按照一下方式重启同步
mysql stop slave ;
mysql set GLOBAL SQL_SLAVE_SKIP_COUNTER1;
mysql start slave ;另一种解决方法 重新记录主节点的 binlog 文件消息
mysql stop slave ;
mysql change master to .... # 省略与前面开启同步方法一样
mysql start slave ;这种方案需要注意 binlog 文件和位置 如果修改后和之前同步的接不上就会丢失部分数据不太常用
集群搭建扩展
1. 全库同步与部分同步
目前配置的主从同步是针对全库配置的而实际环境中一般是不需要进行全量同步的只需要对一些特别重要的库进行同步。请看如下配置
先在主库中指定需要同步的库或表
#需要同步的数据库名
binlog-do-dbmasterdemo
#只保留 7 天的二进制日志以防磁盘被日志占满可选
expire-logs-days 7
#不备份的数据库
binlog-ignore-dbinformation_schema
binlog-ignore-dbperformation_schema
binlog-ignore-dbsys然后在从库中配置与主库的对应关系
#如果 salve 库名称与 master 库名相同使用本配置
replicate-do-db masterdemo
#如果 master 库名 [mastdemo] 与 salve 库名 [mastdemo01] 不同使用以下配置 [需要做映射]
replicate-rewrite-db masterdemo - masterdemo01
#如果不是要全部同步 [默认全部同步]则指定需要同步的表
replicate-wild-do-tablemasterdemo01.t_dict
replicate-wild-do-tablemasterdemo01.t_num分别重启数据库后在主库中执行 show master status 就可以看到 Binlog_Do_DB 和 Binlog_Ignore_DB 参数的作用了
2. 限制从库写数据
目前的架构数据的同步是单向的只能主库到从库进行同步反之不行。为了保证数据的一致性不可以在从库上进行写操作。可以通过set global read_only1; 指令限制用户写入数据但是这个指令有两个需要注意的地方
read_only1 设置的只读模式不会影响从库的同步复制功能只能限定普通用户修改数据不会限制具有 super 权限的用户如果想限制 super 用户可以设置 super_read_only0,
如果为了分担主库的压力可以在主库上只进行写数据从库只读数据这就是读写分离 【注意】 mysql 主从本身是无法提供读写分离服务的。需要有业务自己来实现也就是下文提到的 ShardingSphere 的一个重要功能
3. 其他集群方式
一主多从
当业务中使用了读写分离后为了进一步提高整个集群的读能力可以扩展出一主多从同步为了避免发生主从复制风暴减轻主节点同步数据的压力可以扩展出多级的主从集群
多主
为了提高整个集群的高可用能力可以扩展出
多主的集群互为主从集群环形主从集群
互为主从集群搭建方式和主从一样只是在主服务打开一个slave进程并指向从节点的binlog当前文件地址和位置。也就在从节点做的配置在主节点做一遍。
GTID 同步集群
上面是基于Binlog日志记录点来搭建的集群这也是最为传统的MySQL集群搭建方式这种方式会因为日志偏移量的问题造成数据的不一致。在MySQL5.6版本引入了 GTID 集群方式
GTID的本质也是基于Binlog来实现的主从同步只是他会基于一个全局的事务ID来表示同步事务GTID即全局事务ID全局唯一并且递增可以保证每一个主节点提交的事务在集群中生成一个唯一的事务ID
在基于GTID集群中 从服务器会告诉主服务器它已经执行了哪些事务然后主库会把从库没有执行的事务发送到从库执行。并且保证同一个事务只指定的从库上执行一次可以避免由于偏移量问题造成的数据不一致。
搭建方式
和上面的主从架构差不多示例配置如下 主节点
gtid_modeon
enforce_gtid_consistencyon
log_binon
server_id{唯一值}
binlog_formatrow从节点
gtid_modeon
enforce_gtid_consistencyon
log_slave_updates1
server_id单独设置一个然后分别重启主从服务就可以开启GTID同步复制
集群扩容
未完待续… 联系方式dccmmtopfoxmail.com
