编程好记

主题

分布式缓存 ​

单点 Redis 的问题 ​

  1. 数据丢失（持久化）
  2. 并发能力不如集群（主从集群、读写分离）
  3. Redis宕机导致服务不可用（Redis哨兵）
  4. 存储能力差（分片集群）

Redis 持久化 ​

RDB 持久化 ​

什么是RDB ​

RDB (Redis Database Backup file)：数据快照

默认保存在运行目录

sh
# 主进程保存快照（阻塞）
save

# 子进程保存快照
bgsave

Redis 停机时会执行一次RDB。

RDB 触发机制 ​

在 redis.conf 中配置

sh
# 900秒内，如果至少有1个key被修改，则执行bgsave
# 如果是 save "" 则表示禁用RDB
save 900 1  
save 300 10  
save 60 10000 

# 是否压缩：建议不开启，压缩也会消耗cpu，磁盘的话不值钱
rdbcompression yes

# RDB文件名称
dbfilename dump.rdb  

# 文件保存的路径目录
dir ./

RDB 原理 ​

  1. fork主进程得到一个子进程，共享内存空间
  2. 子进程读取内存数据并写入新的RDB文件
  3. 用新RDB文件替换旧的RDB文件。

fork采用的是copy-on-write技术：

  • 当主进程执行读操作时，访问共享内存；
  • 当主进程执行写操作时，则会拷贝一份数据，执行写操作。

AOF 持久化 ​

什么是AOF ​

AOF (Append Only File)：命令日志

AOF 配置 ​

AOF默认是关闭的，需要在 redis.conf 中配置

sh
# 是否开启AOF功能，默认是no
appendonly yes
# AOF文件的名称
appendfilename "appendonly.aof"

在 redis.conf 中配置命令记录的频率（刷盘时机）

sh
# 表示每执行一次写命令，立即记录到AOF文件
appendfsync always 
# 写命令执行完先放入AOF缓冲区，然后表示每隔1秒将缓冲区数据写到AOF文件，是默认方案
appendfsync everysec 
# 写命令执行完先放入AOF缓冲区，由操作系统决定何时将缓冲区内容写回磁盘
appendfsync no
配置项刷盘时机优点缺点
Always同步刷盘可靠性高，几乎不丢数据性能影响大
everysec每秒刷盘性能适中最多丢失1秒数据
no操作系统控制性能最好可靠性较差，可能丢失大量数据

配置重写AOF文件：执行bgrewriteaof命令，可以让AOF文件执行重写功能

AOF会记录对同一个key的多次写操作，但只有最后一次写操作才有意义

sh
# AOF文件比上次文件 增长超过多少百分比则触发重写
auto-aof-rewrite-percentage 100

# AOF文件体积最小多大以上才触发重写 
auto-aof-rewrite-min-size 64mb

持久化方式对比 ​

持久化方式RDBAOF
数据完整性不完整，两次备份之间会丢失相对完整，取决于刷盘策略
文件大小会有压缩，文件体积小记录命令，文件体积很大
宕机恢复速度很快慢
数据恢复优先级低，因为数据完整性不如AOF高，因为数据完整性更高
系统资源占用高，大量CPU和内存消耗低，主要是磁盘IO资源，
但AOF重写时会占用大量CPU和内存资源
使用场景可以容忍数分钟的数据丢失，追求更快的启动速度对数据安全性要求较高常见

Redis 主从集群 ​

搭建主从架构 ​

主从集群：提高并发能力，实现读写分离。

集群结构 ​

共包含三个节点，一个主节点，两个从节点。

这里我们会在同一台虚拟机中开启3个redis实例，模拟主从集群，信息如下：

IPPORT角色
192.168.150.1017001master
192.168.150.1017002slave
192.168.150.1017003slave

准备实例和配置 ​

要在同一台虚拟机开启3个实例，必须准备三份不同的配置文件和目录，配置文件所在目录也就是工作目录。

1）创建目录

我们创建三个文件夹，名字分别叫7001、7002、7003：

sh
# 进入/tmp目录
cd /tmp
# 创建目录
mkdir 7001 7002 7003

如图：

image-20210630113929868

2）恢复原始配置

修改redis-6.2.4/redis.conf文件，将其中的持久化模式改为默认的RDB模式，AOF保持关闭状态。

properties
# 开启RDB
# save ""
save 3600 1
save 300 100
save 60 10000

# 关闭AOF
appendonly no

3）拷贝配置文件到每个实例目录

然后将redis-6.2.4/redis.conf文件拷贝到三个目录中（在/tmp目录执行下列命令）：

sh
# 方式一：逐个拷贝
cp redis-6.2.4/redis.conf 7001
cp redis-6.2.4/redis.conf 7002
cp redis-6.2.4/redis.conf 7003

# 方式二：管道组合命令，一键拷贝
echo 7001 7002 7003 | xargs -t -n 1 cp redis-6.2.4/redis.conf

4）修改每个实例的端口、工作目录

修改每个文件夹内的配置文件，将端口分别修改为7001、7002、7003，将rdb文件保存位置都修改为自己所在目录（在/tmp目录执行下列命令）：

sh
sed -i -e 's/6379/7001/g' -e 's/dir .\//dir \/tmp\/7001\//g' 7001/redis.conf
sed -i -e 's/6379/7002/g' -e 's/dir .\//dir \/tmp\/7002\//g' 7002/redis.conf
sed -i -e 's/6379/7003/g' -e 's/dir .\//dir \/tmp\/7003\//g' 7003/redis.conf

5）修改每个实例的声明IP

虚拟机本身有多个IP，为了避免将来混乱，我们需要在redis.conf文件中指定每一个实例的绑定ip信息，格式如下：

properties
# redis实例的声明 IP
replica-announce-ip 192.168.150.101

每个目录都要改，我们一键完成修改（在/tmp目录执行下列命令）：

sh
# 逐一执行
sed -i '1a replica-announce-ip 192.168.150.101' 7001/redis.conf
sed -i '1a replica-announce-ip 192.168.150.101' 7002/redis.conf
sed -i '1a replica-announce-ip 192.168.150.101' 7003/redis.conf

# 或者一键修改
printf '%s\n' 7001 7002 7003 | xargs -I{} -t sed -i '1a replica-announce-ip 192.168.150.101' {}/redis.conf

启动 ​

为了方便查看日志，我们打开3个ssh窗口，分别启动3个redis实例，启动命令：

sh
# 第1个
redis-server 7001/redis.conf
# 第2个
redis-server 7002/redis.conf
# 第3个
redis-server 7003/redis.conf

启动后：

image-20210630183914491

如果要一键停止，可以运行下面命令：

sh
printf '%s\n' 7001 7002 7003 | xargs -I{} -t redis-cli -p {} shutdown

开启主从关系 ​

现在三个实例还没有任何关系，要配置主从可以使用replicaof 或者slaveof（5.0以前）命令。

有临时和永久两种模式：

  • 修改配置文件（永久生效）

    • 在redis.conf中添加一行配置：slaveof <masterip> <masterport>

  • 使用redis-cli客户端连接到redis服务，执行slaveof命令（重启后失效）：

    sh
    slaveof <masterip> <masterport>

注意：在5.0以后新增命令replicaof，与salveof效果一致。

这里我们为了演示方便，使用方式二。

通过redis-cli命令连接7002，执行下面命令：

sh
# 连接 7002
redis-cli -p 7002
# 执行slaveof
slaveof 192.168.150.101 7001

通过redis-cli命令连接7003，执行下面命令：

sh
# 连接 7003
redis-cli -p 7003
# 执行slaveof
slaveof 192.168.150.101 7001

然后连接 7001节点，查看集群状态：

sh
# 连接 7001
redis-cli -p 7001
# 查看状态
info replication

结果：

image-20210630201258802

测试 ​

执行下列操作以测试：

  • 利用redis-cli连接7001，执行set num 123

  • 利用redis-cli连接7002，执行get num，再执行set num 666

  • 利用redis-cli连接7003，执行get num，再执行set num 888

可以发现，只有在7001这个master节点上可以执行写操作，7002和7003这两个slave节点只能执行读操作。

数据主从同步原理 ​

全量同步 ​

主从第一次同步是全量同步

slave 做数据同步，必须向master声明自己的 Replid 和offset，master才可以判断到底需要同步哪些数据

  • Replication Id是数据集的身份标识，每个主节点（master）都有一个唯一的标识，而从节点（slave）会继承主节点的标识。通过比较 Replid 可以确定是否同步的是同一个数据集。
  • 偏移量（offset）是一个数字，随着数据在备份日志（repl_baklog）中的增加而逐渐增大。从节点在完成数据同步时也会记录当前的偏移量。如果从节点的偏移量小于主节点的偏移量，说明从节点的数据落后于主节点，需要进行数据更新同步。

简述全量同步的流程：

  1. slave节点请求增量同步
  2. master节点判断replid，发现不一致，拒绝增量同步
  3. master将完整内存数据生成RDB，发送RDB到slave
  4. slave清空本地数据，加载master的RDB
  5. master将RDB期间的命令记录在repl_baklog，并持续将log中的命令发送给slave
  6. slave执行接收到的命令，保持与master之间的同步

增量同步 ​

如果slave重启后同步，则执行增量同步

repl_baklog大小有上限，写满后会覆盖最早的数据。如果slave断开时间过久，导致尚未备份的数据被覆盖，则无法基于log做增量同步，只能再次全量同步。

主从集群优化 ​

  1. 在master中配置repl-diskless-sync yes启用无磁盘复制RDB，避免全量同步时的磁盘IO。
  2. Redis单节点上的内存占用不要太大，减少RDB导致的过多磁盘IO
  3. 适当提高repl_baklog的大小，发现slave宕机时尽快实现故障恢复，尽可能避免全量同步
  4. 限制一个master上的slave节点数量，如果实在是太多slave，则可以采用主-从-从链式结构，减少master压力

Redis 哨兵机制 ​

哨兵作用和原理 ​

Redis提供了哨兵（Sentinel）机制来实现主从集群的自动故障恢复。

哨兵的作用 ​

  • 监控：Sentinel 会不断检查您的master和slave是否按预期工作
  • 自动故障恢复：如果master故障，Sentinel会将一个slave提升为master。当故障实例恢复后也以新的master为主
  • 通知：Sentinel充当Redis客户端的服务发现来源，当集群发生故障转移时，会将最新信息推送给Redis的客户端

服务状态监控 ​

Sentinel基于心跳机制监测服务状态。

每隔1秒发送一次ping命令，如果超过一定时间没有相向则认为是主观下线

如果大多数sentinel都认为实例主观下线，则判定服务客观下线

quorum值最好超过Sentinel实例数量的一半。

image-20240506174805745

选举新的master ​

一旦发现master故障，sentinel需要在salve中选择一个作为新的master

  1. 首先会判断slave节点与master节点断开时间长短，如果超过指定值（down-after-milliseconds * 10）则会排除该slave节点
  2. 然后判断slave节点的slave-priority值，越小优先级越高，如果是0则永不参与选举
  3. 如果slave-prority一样，则判断slave节点的offset值，越大说明数据越新，优先级越高
  4. 最后是判断slave节点的运行id大小 (随机数)，越小优先级越高。

故障转移 ​

  1. 首先选定一个slave作为新的master，执行slaveof no one
  2. 然后让所有节点都执行slaveof 新master
  3. 修改故障节点，执行slaveof 新master
image-20240506175021137

搭建哨兵集群 ​

集群结构 ​

这里我们搭建一个三节点形成的Sentinel集群，来监管之前的Redis主从集群。如图：

image-20210701215227018

三个sentinel实例信息如下：

节点IPPORT
s1192.168.150.10127001
s2192.168.150.10127002
s3192.168.150.10127003

准备实例和配置 ​

要在同一台虚拟机开启3个实例，必须准备三份不同的配置文件和目录，配置文件所在目录也就是工作目录。

我们创建三个文件夹，名字分别叫s1、s2、s3：

sh
# 进入/tmp目录
cd /tmp
# 创建目录
mkdir s1 s2 s3

如图：

image-20210701215534714

然后我们在s1目录创建一个sentinel.conf文件，添加下面的内容：

ini
port 27001
sentinel announce-ip 192.168.150.101
sentinel monitor mymaster 192.168.150.101 7001 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
dir "/tmp/s1"

解读：

  • port 27001：是当前sentinel实例的端口
  • sentinel monitor mymaster 192.168.150.101 7001 2：指定主节点信息
    • mymaster：主节点名称，自定义，任意写
    • 192.168.150.101 7001：主节点的ip和端口
    • 2：选举master时的quorum值

然后将s1/sentinel.conf文件拷贝到s2、s3两个目录中（在/tmp目录执行下列命令）：

sh
# 方式一：逐个拷贝
cp s1/sentinel.conf s2
cp s1/sentinel.conf s3
# 方式二：管道组合命令，一键拷贝
echo s2 s3 | xargs -t -n 1 cp s1/sentinel.conf

修改s2、s3两个文件夹内的配置文件，将端口分别修改为27002、27003：

sh
sed -i -e 's/27001/27002/g' -e 's/s1/s2/g' s2/sentinel.conf
sed -i -e 's/27001/27003/g' -e 's/s1/s3/g' s3/sentinel.conf

启动 ​

为了方便查看日志，我们打开3个ssh窗口，分别启动3个redis实例，启动命令：

sh
# 第1个
redis-sentinel s1/sentinel.conf
# 第2个
redis-sentinel s2/sentinel.conf
# 第3个
redis-sentinel s3/sentinel.conf

启动后：

image-20210701220714104

测试 ​

尝试让master节点7001宕机，查看sentinel日志：

image-20210701222857997

查看7003的日志：

image-20210701223025709

查看7002的日志：

image-20210701223131264

RedisTemplate 哨兵模式 ​

1、在pom文件中引入redis的starter依赖

xml
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

2、在application.yml中指定sentinel

yaml
spring:
	redis:
		sentinel:
		master: mymaster # 指定master名称
		nodes: # 指定redis-sentinel集群信息 
			- 192.168.150.101:27001
			- 192.168.150.101:27002
			- 192.168.150.101:27003

3、配置主从读写分离

java
@Bean
public LettuceClientConfigurationBuilderCustomizer configurationr(){
    return configBuilder -> configBuilder.readFrom(ReadFrom.REPLICA_PREFERRED);
}

这里的ReadFrom是配置Redis的读取策略，是一个枚举，包括下面选择：

  1. MASTER：从主节点读取
  2. MASTER_PREFERRED：优先从master节点读取，master不可用才读取replica
  3. REPLICA：从slave（replica）节点读取
  4. REPLICA _PREFERRED：优先从slave（replica）节点读取，所有的slave都不可用才读取master

Redis 分片集群 ​

搭建分片集群 ​

集群结构 ​

分片集群需要的节点数量较多，这里我们搭建一个最小的分片集群，包含3个master节点，每个master包含一个slave节点，结构如下：

image-20210702164116027

这里我们会在同一台虚拟机中开启6个redis实例，模拟分片集群，信息如下：

IPPORT角色
192.168.150.1017001master
192.168.150.1017002master
192.168.150.1017003master
192.168.150.1018001slave
192.168.150.1018002slave
192.168.150.1018003slave

准备实例和配置 ​

删除之前的7001、7002、7003这几个目录，重新创建出7001、7002、7003、8001、8002、8003目录：

sh
# 进入/tmp目录
cd /tmp
# 删除旧的，避免配置干扰
rm -rf 7001 7002 7003
# 创建目录
mkdir 7001 7002 7003 8001 8002 8003

在/tmp下准备一个新的redis.conf文件，内容如下：

ini
port 6379
# 开启集群功能
cluster-enabled yes
# 集群的配置文件名称，不需要我们创建，由redis自己维护
cluster-config-file /tmp/6379/nodes.conf
# 节点心跳失败的超时时间
cluster-node-timeout 5000
# 持久化文件存放目录
dir /tmp/6379
# 绑定地址
bind 0.0.0.0
# 让redis后台运行
daemonize yes
# 注册的实例ip
replica-announce-ip 192.168.150.101
# 保护模式
protected-mode no
# 数据库数量
databases 1
# 日志
logfile /tmp/6379/run.log

将这个文件拷贝到每个目录下：

sh
# 进入/tmp目录
cd /tmp
# 执行拷贝
echo 7001 7002 7003 8001 8002 8003 | xargs -t -n 1 cp redis.conf

修改每个目录下的redis.conf，将其中的6379修改为与所在目录一致：

sh
# 进入/tmp目录
cd /tmp
# 修改配置文件
printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t sed -i 's/6379/{}/g' {}/redis.conf

启动 ​

因为已经配置了后台启动模式，所以可以直接启动服务：

sh
# 进入/tmp目录
cd /tmp
# 一键启动所有服务
printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t redis-server {}/redis.conf

通过ps查看状态：

sh
ps -ef | grep redis

发现服务都已经正常启动：

image-20210702174255799

如果要关闭所有进程，可以执行命令：

sh
ps -ef | grep redis | awk '{print $2}' | xargs kill

或者（推荐这种方式）：

sh
printf '%s\n' 7001 7002 7003 8001 8002 8003 | xargs -I{} -t redis-cli -p {} shutdown

创建集群 ​

虽然服务启动了，但是目前每个服务之间都是独立的，没有任何关联。

我们需要执行命令来创建集群，在Redis5.0之前创建集群比较麻烦，5.0之后集群管理命令都集成到了redis-cli中。

1）Redis5.0之前

Redis5.0之前集群命令都是用redis安装包下的src/redis-trib.rb来实现的。因为redis-trib.rb是有ruby语言编写的所以需要安装ruby环境。

sh
# 安装依赖
yum -y install zlib ruby rubygems
gem install redis

然后通过命令来管理集群：

sh
# 进入redis的src目录
cd /tmp/redis-6.2.4/src
# 创建集群
./redis-trib.rb create --replicas 1 192.168.150.101:7001 192.168.150.101:7002 192.168.150.101:7003 192.168.150.101:8001 192.168.150.101:8002 192.168.150.101:8003

2）Redis5.0以后

我们使用的是Redis6.2.4版本，集群管理以及集成到了redis-cli中，格式如下：

sh
redis-cli --cluster create --cluster-replicas 1 192.168.150.101:7001 192.168.150.101:7002 192.168.150.101:7003 192.168.150.101:8001 192.168.150.101:8002 192.168.150.101:8003

命令说明：

  • redis-cli --cluster或者./redis-trib.rb：代表集群操作命令
  • create：代表是创建集群
  • --replicas 1或者--cluster-replicas 1 ：指定集群中每个master的副本个数为1，此时节点总数 ÷ (replicas + 1) 得到的就是master的数量。因此节点列表中的前n个就是master，其它节点都是slave节点，随机分配到不同master

运行后的样子：

image-20210702181101969

这里输入yes，则集群开始创建：

image-20210702181215705

通过命令可以查看集群状态：

sh
redis-cli -p 7001 cluster nodes

image-20210702181922809

测试 ​

尝试连接7001节点，存储一个数据：

sh
# 连接
redis-cli -p 7001
# 存储数据
set num 123
# 读取数据
get num
# 再次存储
set a 1

结果悲剧了：

image-20210702182343979

集群操作时，需要给redis-cli加上-c参数才可以：

sh
redis-cli -c -p 7001

这次可以了：

image-20210702182602145

散列插槽 ​

Redis 会把每一个master节点映射到0~16383共16384个插槽（hash slot）上

数据key不是与节点绑定，而是与插槽绑定。（方便集群伸缩）

  • key中包含"{}"，且“{}”中至少包含1个字符，“{}”中的部分是有效部分
  • key中不包含“{}”，整个key都是有效部分

连接集群任何一个节点即可，不同节点会重定向。

如何将同一类数据固定的保存在同一个 Redis 实例？

这一类数据使用相同的有效部分，例如key都以{typeId}为前缀

集群伸缩 ​

1、添加节点

sh
redis-cli --cluster add-node 192.168.150.101:7004 192.168.150.101:7001

2、分配插槽

sh
redis-cli --cluster reshard 192.168.150.101:7001

故障转移 ​

  1. 该实例与其它实例失去连接
  2. 疑似宕机
  3. 确定下线，自动提升一个slave为新的master

数据迁移 ​

利用cluster failover命令可以手动让集群中的某个master宕机，切换到执行cluster failover命令的这个slave节点，实现无感知的数据迁移。

  • 缺省：默认的流程，如图1~6步
  • force：省略了对offset的一致性校验
  • takeover：直接执行第5步，忽略数据一致性、忽略master状态和其它master的意见

RedisTemplate 访问分片集群 ​

  1. 引入redis的starter依赖
  2. 配置分片集群地址（指定分片集群的每一个节点信息）
  3. 配置读写分离

Released under the MIT License.

code by wmh1024