一、背景
这两天在策划一套Redis多机房多集群的部署方案，一主多从部署；目的是将一些重要、核心、且敏感的数据放在Redis中进行管理，通过异步消息队列的方式，同步到db。
二、方案
1、机房与主库的设定
假设有三个机房，分别是
JF-A
、JF-B
、JF-C
，其中涉及到Redis数据写操作的只在JF-A，其余两个机房只存有读操作，所以Redis主库部署在JF-A。为了提前考虑到灾备的情况，假设Redis主库宕机，此时需要有快速的主库恢复方案，所以在JF-A同步部署一个
Redis master backup
，通过运维手段，控制master与backup之间的自动切换。进一步再考虑到JF-A断网的情况（比如光钎被挖断了：just a joke），需要在B机房也部署一套
Redis master backup
，通过运维手段控制所有Redis的主从对应关系
2、各机房部署方案
考虑到主库的同步压力，以及跨机房大数据进行VPN同步耗资源的情况，采取树状主从同步方案：
A机房主库：JF-A-Master
A级方备用主库：JF-A-M-Backup（slaveof JF-A-Master）
B级方备用主库：JF-B-M-Backup（slaveof JF-A-Master）
A机房从库1：JF-A-S-1（slaveof JF-A-Master）
A机房从库2：JF-A-S-2（slaveof JF-A-S-1），S-1和S-2属于同一台机器的不同实例
B机房从库1：JF-B-S-1（slaveof JF-A-Master）
B机房从库2：JF-B-S-2（slaveof JF-B-S-1），S-1和S-2属于同一台机器的不同实例
C机房从库1：JF-C-S-1（slaveof JF-A-Master）
C机房从库2：JF-C-S-2（slaveof JF-C-S-1），S-1和S-2属于同一台机器的不同实例
三、通过Master配置检测主从关系
如上图，从slave0~4，分别表示各机房的备用主库以及从库，各从库机器上，还有另外一个从库实例，通过树状方式挂载到这些从库上。
四、主从同步方案
Redis的主从同步基本是采取Pull&Push
搭配的方式：
新增Redis从库时，从库采取Pull方式，发送SYNC信号从主库拉数据（第一次）
主库有数据更新时，会遍历
connected_slaves
主动将数据Push到从库从库维持一个与主库的连接心跳，以此保证主库能实时将数据同步从库（repl-ping-slave-peroid配置，默认10s）
以下内容转载自：Redis主从实现分析原理
一、主从实现原理
Slave服务器连接到Master服务器.
Slave服务器发送SYNC命令.
Master服务器备份数据库到.rdb文件.
Master服务器把.rdb文件传输给Slave服务器.
Slave服务器把.rdb文件数据导入到数据库中.
上面的这5步是同步的第一阶段, 接下来在Master服务器上调用每一个命令都使用replicationFeedSlaves()来同步到Slave服务器.
二、主从同步实现细节
1、Slave服务器连接到Master服务器 / 发送SYNC命令
Slave服务器通过syncWithMaster()函数来连接Master服务器(如果Master服务器需要密码登陆的话, 先登陆), 并且发送SYNC命令请求同步, 接着打开rdb文件(用于存储由Master发送过来的数据), 创建读rdb的IO事件(readSyncBulkPayload). 代码如下:
int syncWithMaster(void) { ...... //登陆master服务器 if(server.masterauth) { syncWrite(fd, "AUTH xxx\r\n", strlen(server.masterauth)+7, 5); ...... } //发送SYNC命令 syncWrite(fd,"SYNC \r\n",7,5); ...... //打开rdb文件 dfd = open(tmpfile,O_CREAT|O_WRONLY|O_EXCL,0644); ...... //创建读rdb的IO事件 aeCreateFileEvent(server.el, fd, AE_READABLE, readSyncBulkPayload, NULL); ...... return REDIS_OK; }复制
2、Master服务器备份数据库到.rdb文件
当Slave服务器发送SYNC命令到Master服务器时, Master服务器便会调用syncCommand()函数来进行同步. 同步的第一步是把数据库的数据存储为rdb文件, 存储完毕后调用updateSlavesWaitingBgsave()函数来发送rdb文件给所有的Slave服务器.代码如下:
void syncCommand(redisClient *c) { //如果正在保存rdb文件 if (server.bgsavechildpid != -1) { ...... //主要判断当前存储rdb文件是不是由SYNC命令触发的 //如果当前存储rdb文件不是由SYNC命令触发, 则要等到下一次 ...... } else {//否则调用rdbSaveBackground()存储rdb文件 rdbSaveBackground(server.dbfilename); } }复制
当rdbSaveBackground()函数执行完毕, 就会调用updateSlavesWaitingBgsave()来发送rdb文件到所有的Slave服务器, 代码如下:
void updateSlavesWaitingBgsave(int bgsaveerr) { listRewind(server.slaves,&li); while((ln = listNext(&li))) { slave->repldbfd = open(server.dbfilename,O_RDONLY); ....... aeCreateFileEvent(server.el,slave->fd,AE_WRITABLE, sendBulkToSlave,slave); } }复制
updateSlavesWaitingBgsave()要做的事情是, 打开rdb文件, 创建发送rdb文件IO事件(sendBulkToSlave). 而sendBulkToSlave()主要的工作就是把rdb文件发送给Slave服务器。而当Slave服务器接收rdb文件完毕之后(readSyncBulkPayload()函数处理), 会清空原来数据库的数据, 然后把rdb文件的数据导入到数据库中。
3、增量同步
完成上面的步骤之后, 同步基本完成. 接下来的工作就是增量同步, 也就是当Master服务器有数据更新的时候, 会立刻同步到所有的Slave服务器. 由replicationFeedSlaves()函数完成。当我们在Master服务器增减数据的时候, 就会触发replicationFeedSlaves(), 代码如下:
void call(redisClient *c, struct redisCommand *cmd) { ...... if ((dirty || cmd->flags & REDIS_CMD_FORCE_REPLICATION) && listLength(server.slaves)) { replicationFeedSlaves(server.slaves,c->db->id,c->argv,c->argc); } ...... }复制
call()函数就是当用户执行命令的时候触发. 而dirty表示是否有数据更新, 如果有数据更新而且slave服务器不为空, 就执行replicationFeedSlaves()。而replicationFeedSlaves()主要做的工作就是把用户执行的命令发送到所有的Slave服务器, 让Slave服务器执行，这样就可以实施同步功能。
