Redis 主从复制介绍

Redis 复制功能简单介绍

1)使用异步复制。

2)一个主服务器可以有多个从服务器。

3)从服务器也可以有自己的从服务器。

4)复制功能不会阻塞主服务器。

5)可以通过复制功能来让主服务器免于执行持久化操作,由从服务器去执行持久化操作即可。

Redis 复制功能介绍(重点了解)

1)Redis 使用异步复制。从 Redis2.8 开始,从服务器会以每秒一次的频率向主服务器报告复制流(replication stream)的处理进度。

2)一个主服务器可以有多个从服务器。

3)不仅主服务器可以有从服务器,从服务器也可以有自己的从服务器,多个从服务器之间可以构成一个图状结构。

4)复制功能不会阻塞主服务器:即使有一个或多个从服务器正在进行初次同步, 主服务器也可以继续处理命令请求。

5)复制功能也不会阻塞从服务器:只要在 redis.conf 文件中进行了相应的设置, 即使从服务器正在进行初次同步, 服务器也可以使用旧版本的数据集来处理命令查询。

6)在从服务器删除旧版本数据集并载入新版本数据集的那段时间内,连接请求会被阻塞。

7)还可以配置从服务器,让它在与主服务器之间的连接断开时,向客户端发送一个错误。

8)复制功能可以单纯地用于数据冗余(data redundancy),也可以通过让多个从服务器处理只读命令请求来提升扩展性(scalability): 比如说,繁重的 SORT 命令可以交给附属节点去运行。

9)可以通过复制功能来让主服务器免于执行持久化操作:只要关闭主服务器的持久化功能,然后由从服务器去执行持久化操作即可。

Redis 架构图

image-20230905093956656

关闭主服务器持久化时,复制功能的数据安全

\1. 当配置 Redis 复制功能时,强烈建议打开主服务器的持久化功能。 否则的话,由于延迟等问题,部署的服务应该要避免自动拉起。

\2. 为了帮助理解主服务器关闭持久化时自动拉起的危险性,参考一下以下会导致主从服务器数据全部丢失的例子:

  • 1)假设节点 A 为主服务器,并且关闭了持久化。并且节点 B 和节点 C 从节点 A 复制数据
  • 2)节点 A 崩溃,然后由自动拉起服务重启了节点 A. 由于节点 A 的持久化被关闭了,所以重启之后没有任何数据
  • 3)节点 B 和节点 C 将从节点 A 复制数据,但是 A 的数据是空的,于是就把自身保存的数据副本删除。

结论:

1)在关闭主服务器上的持久化,并同时开启自动拉起进程的情况下,即便使用 Sentinel(哨兵模式)来实现 Redis 的高可用性,也是非常危险的。因为主服务器可能拉起得非常快,以至于 Sentinel(哨兵模式)在配置的心跳时间间隔内没有检测到主服务器已被重启,然后还是会执行上面的数据丢失的流程。

2)无论何时,数据安全都是极其重要的,所以应该禁止主服务器关闭持久化的同时自动拉起。(不能关闭持久化的同时还想实现自愈)

主从复制的原理

image-20230905094824117

1)从服务器向主服务器发送 SYNC 命令。

2)接到 SYNC 命令的主服务器会调用 BGSAVE 命令,创建一个 RDB 文件,并使用缓冲区记录接下来执行的所有写命令。

3)当主服务器执行完 BGSAVE 命令时,它会向从服务器发送 RDB 文件,而从服务器则会接收并载入这个文件。

4)主服务器将缓冲区储存的所有写命令发送给从服务器执行。

Redis 主从复制工作机制

SYNC 命令执行示例

image-20230905100254958

命令传播

在主从服务器完成同步之后,主服务器每执行一个写命令,它都会将被执行的写命令发送给从服务器执行,这个操作被称为 “命令传播”(command propagate)。

image-20230905100457972

命令传播是一个持续的过程:只要复制仍在继续,命令传播就会一直进行,使得主从服务器的状态可以一直保持一致。

SYNC 与 PSYNC

1)在 Redis2.8 版本之前,断线之后重连的从服务器总要执行一次完整重同步(fullresynchronization)操作。

2)从 Redis2.8 开始,Redis 使用 PSYNC 命令代替 SYNC 命令。

3)PSYNC 比起 SYNC 的最大改进在于 PSYNC 实现了部分重同步(partial resync)特性: 在主从服务器断线并且重新连接的时候,只要条件允许,PSYNC 可以让主服务器只向从服务器同步断线期间缺失的数据,而不用重新向从服务器同步整个数据库。

注:

PSYNC 这个特性需要主服务器为被发送的复制流创建一个内存缓冲区(in-memory backlog), 并且主服务器和所有从服务器之间都记录一个复制偏移量(replication offset)和一个主服务器 ID(master run id),当出现网络连接断开时,从服务器会重新连接,并且向主服务器请求继续执行原来的复制进程:

1)如果从服务器记录的主服务器 ID 和当前要连接的主服务器的 ID 相同,并且从服务器记录的偏移量所指定的数据仍然保存在主服务器的复制流缓冲区里面,那么主服务器会向从服务器发送断线时缺失的那部分数据,然后复制工作可以继续执行。

2)否则的话,从服务器就要执行完整重同步操作。

Redis 的断线重连

从库宕机后,重新连接主库时,如何保证数据的完整性

SYNC 处理断线重连示例

image-20230905100806548

如果我们仔细地观察整个断线并重连的过程,就会发现:

从服务器在断线之前已经拥有主服务器的绝大部分数据,要让主从服务器重新回到一致状态,从服务器真正需要的是 k10087、k10088 和 k10089 这三个键的数据,而不是主服务器整个数据库的数据。SYNC 命令在处理断线并重连时的做法 —— 将主服务器的整个

数据库重新同步给从服务器,是极度浪费的!

PSYNC 处理断线重连示例

image-20230905101108905

1)PSYNC 只会将从服务器断线期间缺失的数据发送给从服务器。两个例子的情况是相同的,但 SYNC 需要发送包含整个数据库的 RDB 文件,而 PSYNC 只需要发送三个命令。

2)如果主从服务器所处的网络环境并不那么好的话(经常断线),那么请尽量使用 Redis 2.8 或以上版本:通过使用 PSYNC 而不是 SYNC 来处理断线重连接,可以避免因为重复创建和传输 RDB 文件而浪费大量的网络资源、计算资源和内存资源。

复制的一致性问题

image-20230905101316257

1)在读写分离环境下,客户端向主服务器发送写命令 SET k10086 v10086,主服务器在执行这个写命令之后,向客户端返回回复,并将这个写命令传播给从服务器。

2)接到回复的客户端继续向从服务器发送读命令 GET k10086 ,并且因为网络状态的原因,客户端的 GET 命令比主服务器传播的 SET 命令更快到达了从服务器。

3)因为从服务器键 k10086 的值还未被更新,所以客户端在从服务器读取到的将是一个错误(过期)的 k10086 值。

Redis 是怎么保证数据安全的呢?

1)主服务器只在有至少 N 个从服务器的情况下,才执行写操作

2)从 Redis 2.8 开始,为了保证数据的安全性,可以通过配置,让主服务器只在有至少 N 个当前已连接从服务器的情况下,才执行写命令。

3)不过,因为 Redis 使用异步复制,所以主服务器发送的写数据并不一定会被从服务器接收到,因此, 数据丢失的可能性仍然是存在的。

4)通过以下两个参数保证数据的安全:(直接在最末尾添加)

#执行写操作所需的至少从服务器数量
min-slaves-to-write <number of slaves>
#指定网络延迟的最大值
min-slaves-max-lag <number of seconds>

# 写入配置(主机)
[root@db01 ~]# vim /app/redis/redis.conf
min-slaves-to-write 1
min-slaves-max-lag 30

这个特性的运作原理:

1)从服务器以每秒一次的频率 PING 主服务器一次, 并报告复制流的处理情况。主服务器会记录各个从服务器最后一次向它发送 PING 的时间。用户可以通过配置, 指定网络延迟的最大值 min-slaves-max-lag , 以及执行写操作所需的至少从服务器数量 min-slaves-to-write 。

2)如果至少有 min-slaves-to-write 个从服务器, 并且这些服务器的延迟值都少于 min-slaves-max-lag 秒, 那么主服务器就会执行客户端请求的写操作。你可以将这个特性看作 CAP 理论中的 C 的条件放宽版本: 尽管不能保证写操作的持久性, 但起码丢失数据的窗口会被严格限制在指定的秒数中。

3)另一方面, 如果条件达不到 min-slaves-to-write 和 min-slaves-max-lag 所指定的条件, 那么写操作就不会被执行, 主服务器会向请求执行写操作的客户端返回一个错误。

Redis 多实例主从复制实例

角色 主机 IP 端口
主库(master) db01 10.0.0.51 6379
从库(slave01) db01 10.0.0.51 6380
从库(slave02) db02 10.0.0.52 6379
从库(slave03) db02 10.0.0.52 6380
从库(slave04) db03 10.0.0.53 6379
从库(slave05) db03 10.0.0.53 6380

redis 多实例配置

6379 端口安装可查看 TP

# 创建多实例目录(db01-db03)
[root@db01 ~]# mkdir -p /etc/redis/6380
[root@db02 ~]# mkdir -p /etc/redis/6380
[root@db03 ~]# mkdir -p /etc/redis/6380

# 编写redis 6380 配置文件
##db01
[root@db01 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.51
protected-mode no

##db02
[root@db02 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.52
protected-mode no

##db03
[root@db03 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.53
protected-mode no

# 使用system管理redis
##db01
[root@db01 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db01 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

##db02
[root@db02 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db02 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

##db03
[root@db03 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db03 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

# 启动redis
##db01
[root@db01 ~]# systemctl start redis
[root@db01 ~]# systemctl start redis6380

##db02
[root@db02 ~]# systemctl start redis
[root@db02 ~]# systemctl start redis6380

##db03
[root@db03 ~]# systemctl start redis
[root@db03 ~]# systemctl start redis6380

开启主从复制

# 修改主库配置文件
[root@db01 ~]# vim /app/redis/redis.conf 
requirepass 123

# 修改从库配置文件(从库其实只需要配置masterauth就可以成功进行主从复制了)
[root@db01 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

[root@db02 ~]# vim /app/redis/redis.conf
requirepass 123
masterauth 123
[root@db02 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

[root@db03 ~]# vim /app/redis/redis.conf
requirepass 123
masterauth 123
[root@db03 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

# 重启redis
[root@db01 ~]# systemctl restart redis redis6380
[root@db02 ~]# systemctl restart redis redis6380
[root@db03 ~]# systemctl restart redis redis6380

# 连接从库(每连接一个从库就执行下方的开启主从命令)
[root@db01 ~]# redis-cli -a 123 -p 6380 
[root@db02 ~]# redis-cli -a 123 -p 6379
[root@db02 ~]# redis-cli -a 123 -p 6380
[root@db03 ~]# redis-cli -a 123 -p 6379
[root@db03 ~]# redis-cli -a 123 -p 6380
# 开启主从
127.0.0.1:6380> SLAVEOF 172.16.1.51 6379

# 连接master(6379)
[root@db01 ~]# redis-cli -a 123 -p 6379
Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

# 查看主从复制详情
127.0.0.1:6379> INFO replication
# Replication
role:master
connected_slaves:5
slave0:ip=172.16.1.51,port=6380,state=online,offset=350,lag=0
slave1:ip=172.16.1.52,port=6379,state=online,offset=350,lag=1
slave2:ip=172.16.1.52,port=6380,state=online,offset=350,lag=1
slave3:ip=172.16.1.53,port=6379,state=online,offset=350,lag=0
slave4:ip=172.16.1.53,port=6380,state=online,offset=350,lag=0
master_failover_state:no-failover
master_replid:75e2468491ef8092ffd85374314f5197f41815d6
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:350
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:350

主从连接方式

# 取消主从复制(哪台机器想取消主从就执行这条命令)
slaveof no one

# 开启主从复制
slaveof 172.16.1.51 6379

主从切换

当主库宕机了,主从是如何切换的

# 关闭主机的redis
[root@db01 ~]# systemctl stop redis

# 取消51机器上6380端口的主从复制
[root@db01 ~]# redis-cli -a 123 -p 6380
127.0.0.1:6380> SLAVEOF no one

# 连接从库(每连接一个从库就执行下方的开启主从命令)
[root@db02 ~]# redis-cli -a 123 -p 6379
[root@db02 ~]# redis-cli -a 123 -p 6380
[root@db03 ~]# redis-cli -a 123 -p 6379
[root@db03 ~]# redis-cli -a 123 -p 6380
# 开启主从
127.0.0.1:6380> SLAVEOF 172.16.1.51 6380

Redis多实例主从复制

角色 主机 IP 端口
主库(master) db01 10.0.0.51 6379
从库(slave01) db01 10.0.0.51 6380
从库(slave02) db02 10.0.0.52 6379
从库(slave03) db02 10.0.0.52 6380
从库(slave04) db03 10.0.0.53 6379
从库(slave05) db03 10.0.0.53 6380

redis多实例配置

# 创建多实例目录(db01-db03)
[root@db01 ~]# mkdir -p /etc/redis/6380
[root@db02 ~]# mkdir -p /etc/redis/6380
[root@db03 ~]# mkdir -p /etc/redis/6380

# 编写redis 6380 配置文件
##db01
[root@db01 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.51
protected-mode no

##db02
[root@db02 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.52
protected-mode no

##db03
[root@db03 ~]# vim /etc/redis/6380/redis.conf
port 6380
daemonize yes
pidfile /etc/redis/6380/redis.pid
loglevel notice
logfile /etc/redis/6380/redis.log
dbfilename dump.rdb
dir /etc/redis/6380
bind 127.0.0.1 172.16.1.53
protected-mode no

# 使用system管理redis
##db01
[root@db01 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db01 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

##db02
[root@db02 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db02 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

##db03
[root@db03 ~]# cp /usr/lib/systemd/system/{redis,redis6380}.service
[root@db03 ~]# vim /usr/lib/systemd/system/redis6380.service 
[Unit]
Description=Redis
After=network.target

[Service]
Type=forking
ExecStart=/app/redis/src/redis-server /etc/redis/6380/redis.conf

[Install]
WantedBy=multi-user.target

# 启动redis
##db01
[root@db01 ~]# systemctl start redis
[root@db01 ~]# systemctl start redis6380

##db02
[root@db02 ~]# systemctl start redis
[root@db02 ~]# systemctl start redis6380

##db03
[root@db03 ~]# systemctl start redis
[root@db03 ~]# systemctl start redis6380

开启主从复制

# 修改主库配置文件
[root@db01 ~]# vim /app/redis/redis.conf 
requirepass 123

# 修改从库配置文件
[root@db01 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

[root@db02 ~]# vim /app/redis/redis.conf
requirepass 123
masterauth 123
[root@db02 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

[root@db03 ~]# vim /app/redis/redis.conf
requirepass 123
masterauth 123
[root@db03 ~]# vim /etc/redis/6380/redis.conf
requirepass 123
masterauth 123

# 重启redis
[root@db01 ~]# systemctl restart redis redis6380
[root@db02 ~]# systemctl restart redis redis6380
[root@db03 ~]# systemctl restart redis redis6380

# 连接从库
[root@db01 ~]# redis-cli -a 123 -p 6380 
[root@db02 ~]# redis-cli -a 123 -p 6379
[root@db02 ~]# redis-cli -a 123 -p 6380
[root@db03 ~]# redis-cli -a 123 -p 6379
[root@db03 ~]# redis-cli -a 123 -p 6380
# 开启主从
127.0.0.1:6380> SLAVEOF 172.16.1.51 6379

# 连接master(6379)
[root@db01 ~]# redis-cli -a 123 -p 6379
Warning: Using a password with '-a' or '-u' option on the command line interface may not be safe.

# 查看主从复制详情
127.0.0.1:6379> INFO replication
# Replication
role:master
connected_slaves:5
slave0:ip=172.16.1.51,port=6380,state=online,offset=350,lag=0
slave1:ip=172.16.1.52,port=6379,state=online,offset=350,lag=1
slave2:ip=172.16.1.52,port=6380,state=online,offset=350,lag=1
slave3:ip=172.16.1.53,port=6379,state=online,offset=350,lag=0
slave4:ip=172.16.1.53,port=6380,state=online,offset=350,lag=0
master_failover_state:no-failover
master_replid:75e2468491ef8092ffd85374314f5197f41815d6
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:350
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:350