1、简述redis集群的实现原理
在哨兵sentinel机制中,可以解决redis高可用问题,即当master故障后可以自动将slave提升为master,从而可以保证redis服务的正常使用,但是无法解决redis单机写入的瓶颈问题,即单机redis写入性能受限于单机的内存大小、并发数量、网卡速率等因素。
为了解决单机性能的瓶颈,提高Redis 性能,可以使用分布式集群的解决方案
redis 3.0版本之后推出了无中心架构的redis cluster机制,在无中心的redis集群当中,其每个节点保存当前节点数据和整个集群状态,每个节点都和其他所有节点连接
Redis Cluster特点如下:
- 所有Redis节点使用(PING机制)互联
- 集群中某个节点的是否失效,是由整个集群中超过半数的节点监测都失效,才能算真正的失效
- 客户端不需要proxy即可直接连接redis,应用程序中需要配置有全部的redis服务器IP
- redis cluster把所有的redis node 平均映射到 0-16383个槽位(slot)上,读写需要到指定的redis node上进行操作,因此有多少个redis node相当于redis 并发扩展了多少倍,每个redis node 承担16384/N个槽位
- Redis cluster预先分配16384个(slot)槽位,当需要在redis集群中写入一个key -value的时候,会使用CRC16(key) mod 16384之后的值,决定将key写入值哪一个槽位从而决定写入哪一个Redis节点上,从而有效解决单机瓶颈。
2、基于redis5的redis cluster部署
1. 创建 redis cluster集群的环境准备
- 每个redis 节点采用相同的redis版本、相同的密码、硬件配置
- 所有redis服务器必须没有任何数据
- 准备六台主机,地址如下:
10.0.0.7
10.0.0.17
10.0.0.27
10.0.0.37
10.0.0.47
10.0.0.57
2. 启用 redis cluster 配置
6个主机都执行以下配置
[root@centos7 ~]#yum -y install redis #或编译安装redis(脚本)
- 每个节点修改redis配置,必须开启cluster功能的参数
#手动修改配置文件
[root@node1 ~]# vim /apps/redis/etc/redis.conf
bind 0.0.0.0
masterauth 123456 #建议配置,否则后期的master和slave主从复制无法成功,还需再配置
requirepass 123456
cluster-enabled yes #取消此行注释,必须开启集群,开启后redis 进程会有cluster标识
cluster-config-file nodes-6379.conf #取消此行注释,此为集群状态文件,记录主从关系及slot范围信息,由redis cluster 集群自动创建和维护
cluster-require-full-coverage no #默认值为yes,设为no可以防止一个节点不可用导致整个cluster不可用
#或者执行下面命令,批量修改
[root@node1 ~]# sed -i.bak -e 's/bind 127.0.0.1/bind 0.0.0.0/' -e '/masterauth/a
masterauth 123456' -e '/# requirepass/a requirepass 123456' -e '/# cluster-
enabled yes/a cluster-enabled yes' -e '/# cluster-config-file nodes-6379.conf/a
cluster-config-file nodes-6379.conf' -e '/cluster-require-full-coverage yes/c
cluster-require-full-coverage no' /apps/redis/etc/redis.conf
[root@node1 ~]# systemctl enable --now redis
- 验证当前Redis服务状态:
#开启了16379的cluster的端口,实际的端口=redis port + 10000
[root@node1 ~]# ss -ntl #*:16379端口打开
#注意进程有[cluster]状态
[root@node1 ~]# ps aux | grep redis
3. 创建集群
#命令redis-cli的选项 --cluster-replicas 1 表示每个master对应一个slave节点
[root@node1 ~]# redis-cli -a 123456 --cluster create 10.0.0.7:6379 10.0.0.17:6379 10.0.0.27:6379 10.0.0.37:6379 10.0.0.47:6379 10.0.0.57:6379 --cluster-replicas 1
4. 查看主从状态
[root@node1 ~]# redis-cli -a 123456 INFO replication
5. 验证集群状态
[root@node1 ~]# redis-cli -a 123456 CLUSTER INFO
#查看任意节点的集群状态
[root@node1 ~]# redis-cli -a 123456 --cluster info 10.0.0.37:6379
6. 查看集群node对应关系
[root@node1 ~]# redis-cli -a 123456 CLUSTER NODES
7. 验证集群写入key
#使用选项-c 以集群模式连接
[root@node1 ~]# redis-cli -c -a 123456 --no-auth-warning
127.0.0.1:6379> set age 20
OK
127.0.0.1:6379> get age
"20"
127.0.0.1:6379> set class M47
-> Redirected to slot [7755] located at 10.0.0.17:6379
OK
10.0.0.17:6379> get class
"M47"
8. python脚本实现RedisCluster集群写入
官网:https://github.com/Grokzen/redis-py-cluster
范例:
[root@node1 ~]# yum -y install python3
[root@node1 ~]# pip3 install redis-py-cluster
[root@node1 ~]# vim redis_cluster_test.py
#!/usr/bin/env python3
from rediscluster import RedisCluster
startup_nodes = [
{"host":"10.0.0.7", "port":6379},
{"host":"10.0.0.17", "port":6379},
{"host":"10.0.0.27", "port":6379},
{"host":"10.0.0.37", "port":6379},
{"host":"10.0.0.47", "port":6379},
{"host":"10.0.0.57", "port":6379},
]
redis_conn= RedisCluster(startup_nodes=startup_nodes,password='123456',decode_responses=True)
for i in range(0, 10000):
redis_conn.set('key'+str(i),'value'+str(i))
print('key'+str(i)+':',redis_conn.get('key'+str(i)))
[root@node1 ~]# chmod +x redis_cluster_test.py
[root@node1 ~]# ./redis_cluster_test.py
......
key9998: value9998
key9999: value9999
#验证数据
[root@node1 ~]# redis-cli -a 123456
127.0.0.1:6379> dbsize
(integer) 3331
#第一个槽位内key的数量
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 1
(integer) 0
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 2
(integer) 0
[root@node1 ~]# redis-cli -a 123456 cluster countkeysinslot 3
(integer) 1
9. 模拟master故障,对应的slave节点自动提升为新master
#模拟node1节点出故障,需要相应的数秒故障转移时间
[root@node1 ~]# redis-cli -a 123456 shutdown #10.0.0.7主节点宕机
[root@node1 ~]# ss -ntl #6379端口关闭
[root@node2 ~]# redis-cli -a 123456 cluster nodes #10.0.0.47为新的master
#恢复故障节点node1自动成为slave节点
[root@node1 ~]# systemctl start redis
#查看自动生成的配置文件,可以查看node1自动成为slave节点
[root@node5 ~]# redis-cli -a 123456
127.0.0.1:6379> INFO replication
# Replication
role:master
connected_slaves:1
slave0:ip=10.0.0.7,port=6379,state=online,offset=2912564,lag=1
……