快速搭建分布式高可用的Redis集群

这里的Redis集群指的是Redis Cluster，它是Redis在3.0版本正式推出的专用集群方案，有效地解决了Redis分布式方面的需求。当单机内存、并发、流量等遇到瓶颈的时候，可以采用这种Redis Cluster方案进行解决。

分区规则

Redis Cluster采用虚拟槽（slot）进行数据分区，即使用分散度良好的哈希函数把所有键映射到一个固定范围的整数集合里，这里的整数就是槽（slot）。Redis Cluster槽的范围是0~16383，计算公式：slot=CRC16(key) & 16383。

白嫖小贴士：CRC16是一种高质量的哈希算法，可以使每个槽所映射的键通常比较均匀。

当集群中有3个节点时，每个节点平均大概负责5461个槽以及槽所映射的键值数据。这样一来，可以解耦数据与节点之间的关系，简化节点扩容和缩容的难度。节点自身维护槽的映射关系，不需要客户端或代理服务维护分区信息。

不过，Redis Cluster相对于单机还是存在一些限制的，比如：

批量操作键支持有限，仅支持具有相同槽的键进行批量操作。

事务操作键支持有限，仅支持在同一个节点上多个键的事务操作。

不支持多个数据空间。单机Redis可以支持16个数据库，而Cluster模式下只能使用一个数据库空间。

扯了这么多Redis Cluster的分区规则，下面我们开始步入正题。

手动搭建

把Redis Cluster搭建起来总共几步？答：三步！第一步把冰箱门打开。第二步把大象关进去。第三步把冰箱门带上。不好意思，段子暴露年龄了。集群搭建需要以下三个步骤：

准备节点。

节点握手。

分配槽。

Redis Cluster由多个节点组成，节点数量至少有6个才能组成一个完整高可用的集群，其中有3个主节点和3个从节点，我们就以此为例搭建一个Redis Cluster。

准备节点

首先，为6个节点（同一台机器上的6380、6381、6382、6383、6384、6385端口）分别创建配置文件，以6380端口的节点为例：

# 节点端口port6380#日志文件logfile"log/redis-6380.log"# 开启集群模式cluster-enabledyes# 集群配置文件cluster-config-file"data/nodes-6380.conf"

保持文件名为redis-6380.conf，其他节点的配置文件替换成各自的端口。准备好配置文件后启动所有节点，命令如下：

src/redis-server conf/redis-6380.conf &src/redis-server conf/redis-6381.conf &src/redis-server conf/redis-6382.conf &src/redis-server conf/redis-6383.conf &src/redis-server conf/redis-6384.conf &src/redis-server conf/redis-6385.conf &

检测日志是否正确，以下是6380端口的节点的日志：

# oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo # Redis version=4.0.14, bits=64, commit=00000000, modified=0, pid=3031, just started # Configuration loaded* No cluster configuration found, I'm df1ac987f47dea35f1d0a83c3b405f0ef86892ab * Running mode=cluster, port=6380.

6380端口的节点启动成功，第一次启动时如果没有集群配置文件，Redis会自动创建一个。6380端口的节点创建的集群配置文件如下：

df1ac987f47dea35f1d0a83c3b405f0ef86892ab :0@0myself,master -000connectedvars currentEpoch0lastVoteEpoch0

集群文件中记录的集群的状态，这里最重要的是节点ID，它是一个40位的16进制字符串，用于唯一标识集群中的这个节点。同样，也可以通过cluster nodes命令查看集群节点状态。比如在6380端口的节点上执行命令：

127.0.0.1:6380>clusternodesdf1ac987f47dea35f1d0a83c3b405f0ef86892ab:6380@16380myself,master -000connected

目前，我们已经成功启动了6个节点，但是它们只能识别自己的节点信息，互相之间并不认识。下面我们通过节点握手让这6个节点互相之间建立联系从而组成一个集群。

节点握手

节点握手是一些运行在集群模式下的节点通过Gossip协议互相通信，达到感知彼此的过程。

白嫖小贴士：Gossip协议是基于流行病传播方式的节点或者进程之间信息交换的协议，在分布式系统中被广泛使用。

节点握手通过客户端执行cluster meet命令实现，它是一个异步命令，执行之后立刻返回，在Redis内部异步发起与目标节点的握手通信，该命令的语法如下：

clustermeet 目标节点IP 目标节点端口

把6个节点加到一个集群中：

127.0.0.1:6380>clustermeet127.0.0.16381OK127.0.0.1:6380>clustermeet127.0.0.16382OK127.0.0.1:6380>clustermeet127.0.0.16383OK127.0.0.1:6380>clustermeet127.0.0.16384OK127.0.0.1:6380>clustermeet127.0.0.16385OK

只需要在集群中任意节点上执行cluster meet命令加入新的节点，握手状态会通过消息在集群中传播，其他节点也会自动发现新节点并与之发起握手流程。

我们再执行一下cluster nodes命令，检查一下6个节点是否已经组成集群：

127.0.0.1:6380>clusternodes1e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385master -015866179190215connecteddf1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master -015866179160002connected5846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381master -015866179170051connecteda435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master -015866179149884connected71e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383master -015866179180133connectede25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master -015866179160000connected

可以看到，6个节点都在集群中了。不过，此时因为还没有为集群中的节点分配槽，集群还处于下线状态，所有的数据读写都是被禁止的。比如：

127.0.0.1:6380>setonemorestudy(error)CLUSTERDOWNHashslotnotserved

接下来，我们为集群中的节点分配槽。

分配槽

我们把6380、6382、6384端口的节点作为主节点，负责处理槽和相关数据；6381、6383、6385端口的节点分别作为从节点，负责故障转移。先把16384个槽平均分配给6380、6382、6384端口的节点，为节点分配槽是通过cluster addslots命令实现：

# ./redis-cli -h 127.0.0.1 -p 6380 cluster addslots {0..5461}OK# ./redis-cli -h 127.0.0.1 -p 6382 cluster addslots {5462..10922}OK# ./redis-cli -h 127.0.0.1 -p 6384 cluster addslots {10923..16383}OK

我们再执行一下cluster nodes命令，检查一下槽是否已经分配：

127.0.0.1:6380>clusternodes1e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385master -015866194680005connecteddf1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master -015866194640002connected0-54615846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381master -015866194670001connecteda435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master -015866194670004connected10923-1638371e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383master -015866194673483connectede25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master -015866194683550connected5462-10922

再使用cluster replicate命令把一个节点变成从节点.，这个命令必须在从节点上运行，它的语法是：

clusterreplicate 主节点ID

把6381、6383、6385端口的节点变成对应6380、6382、6384端口的节点的从节点：

# ./redis-cli -h 127.0.0.1 -p 6381127.0.0.1:6381> cluster replicate df1ac987f47dea35f1d0a83c3b405f0ef86892abOK127.0.0.1:6381>exit# ./redis-cli -h 127.0.0.1 -p 6383127.0.0.1:6383> cluster replicate e25590603c7a254cce43aa8437861c5c425d753dOK127.0.0.1:6383>exit# ./redis-cli -h 127.0.0.1 -p 6385127.0.0.1:6385> cluster replicate a435cf98c3444b0b110a224401e397a107c453efOK127.0.0.1:6385>exit

我们再执行一下cluster nodes命令，检查一下集群状态和主从关系：

127.0.0.1:6380>clusternodesdf1ac987f47dea35f1d0a83c3b405f0ef86892ab127.0.0.1:6380@16380myself,master -015866201480002connected0-54615846b66ebe4fb4a5dcfd035652cc471f7e412752127.0.0.1:6381@16381slave df1ac987f47dea35f1d0a83c3b405f0ef86892ab015866201500002connectede25590603c7a254cce43aa8437861c5c425d753d127.0.0.1:6382@16382master -015866201510000connected5462-1092271e0e9e9a6f0c7c85dbe0d396846a9072625c5e8127.0.0.1:6383@16383slave e25590603c7a254cce43aa8437861c5c425d753d015866201522203connecteda435cf98c3444b0b110a224401e397a107c453ef127.0.0.1:6384@16384master -015866201500004connected10923-163831e1f45677d7b9b0130d03193f0bcec34578ac47d127.0.0.1:6385@16385slave a435cf98c3444b0b110a224401e397a107c453ef015866201490005connected

自此，RedisCluster已经手动搭建完成。手动搭建可以理解集群建立的流程和细节，不过大家也会发现手动搭建有很多步骤，当集群的节点比较多的时候，肯定会让人头大。所以Redis官方提供了redis-trib.rb工具，可以让我们快速地搭建集群。

自动搭建

redis-trib.rb是使用Ruby开发的Redis Cluster的管理工具，不需要额外下载，默认位于源码包的src目录下，但因为该工具是用Ruby开发的，所以需要准备相关的依赖环境。

环境准备

安装Ruby：

yum -y install zlib-develwgethttps://cache.ruby-lang.org/pub/ruby/2.5/ruby-2.5.1.tar.gztar xvf ruby-2.5.1.tar.gzcd ruby-2.5.1/./configure -prefix=/usr/local/rubymakemake installcd/usr/local/ruby/cp bin/ruby /usr/local/bincp bin/gem /usr/local/bin

安装rubygem redis依赖：

wgethttp://rubygems.org/downloads/redis-3.3.0.gemgem install -l redis-3.3.0.gem

安装redis-trib.rb：

cp src/redis-trib.rb /usr/local/bin

执行redis-trib.rb命令确认一下环境是否准备正确：

# redis-trib.rb helpUsage:redis-trib<command><options><arguments...>createhost1:port1...hostN:portN --replicas<arg>checkhost:portinfohost:portfixhost:port --timeout<arg>reshardhost:port --from<arg>...此处省略一万个字...

搭建集群

像前面的内容讲的，准备好节点配置并启动：

src/redis-server conf/redis-7380.conf &src/redis-server conf/redis-7381.conf &src/redis-server conf/redis-7382.conf &src/redis-server conf/redis-7383.conf &src/redis-server conf/redis-7384.conf &src/redis-server conf/redis-7385.conf &

使用redis-trib.rb create命令完成节点握手和槽分配的工作，命令如下：

redis-trib.rbcreate--replicas1 127.0.0.1:7380127.0.0.1:7382127.0.0.1:7384127.0.0.1:7381127.0.0.1:7383127.0.0.1:7385

其中--replicas参数用来指定集群中每个主节点有几个从节点，这里设置的是1。命令执行后，会首先给出主从节点的分配计划：

>>>Creatingcluster>>>Performinghashslotsallocationon6nodes...Using3masters:127.0.0.1:7380127.0.0.1:7382127.0.0.1:7384Addingreplica127.0.0.1:7383to127.0.0.1:7380Addingreplica127.0.0.1:7385to127.0.0.1:7382Addingreplica127.0.0.1:7381to127.0.0.1:7384>>>Tryingtooptimizeslavesallocationforanti-affinity[WARNING]SomeslavesareinthesamehostastheirmasterM:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380slots:0-5460(5461slots)masterM:58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382slots:5461-10922(5462slots)masterM:3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384slots:10923-16383(5461slots)masterS:6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381replicates3f00a37d2c7a5ea40671c8f2934f66d059157a4aS:03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383replicatesc25675d021c377c91f860986025e3779d89ede79S:2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385replicates58980a81b49de31383802d7d21d6782881678922CanIsettheaboveconfiguration? (type'yes'to accept):

如果我们同意这份计划就输入yes，之后就会开始执行节点握手和槽分配，输入如下：

>>>Nodesconfigurationupdated>>>Assignadifferentconfigepochtoeachnode>>>SendingCLUSTERMEETmessagestojointheclusterWaitingfortheclustertojoin....>>>PerformingClusterCheck(usingnode127.0.0.1:7380)M:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380slots:0-5460(5461slots)master1additionalreplica(s)M: 58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382slots:5461-10922(5462slots)master1additionalreplica(s)S: 2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385slots: (0slots)slavereplicates58980a81b49de31383802d7d21d6782881678922S: 03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383slots: (0slots)slavereplicatesc25675d021c377c91f860986025e3779d89ede79S: 6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381slots: (0slots)slavereplicates3f00a37d2c7a5ea40671c8f2934f66d059157a4aM: 3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384slots:10923-16383(5461slots)master1additionalreplica(s)[OK]Allnodesagreeaboutslotsconfiguration.>>>Checkforopenslots...>>>Checkslotscoverage...[OK]All16384slotscovered.

集群创建完成后，还可以使用redis-trib.rb check命令检查集群是否创建成功，具体命令如下：

#redis-trib.rbcheck127.0.0.1:7380>>>PerformingClusterCheck(usingnode127.0.0.1:7380)M:c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380slots:0-5460(5461slots)master1additionalreplica(s)M: 58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382slots:5461-10922(5462slots)master1additionalreplica(s)S: 2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385slots: (0slots)slavereplicates58980a81b49de31383802d7d21d6782881678922S: 03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383slots: (0slots)slavereplicatesc25675d021c377c91f860986025e3779d89ede79S: 6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381slots: (0slots)slavereplicates3f00a37d2c7a5ea40671c8f2934f66d059157a4aM: 3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384slots:10923-16383(5461slots)master1additionalreplica(s)[OK]Allnodesagreeaboutslotsconfiguration.>>>Checkforopenslots...>>>Checkslotscoverage...[OK]All16384slotscovered.

可以看到，所有的槽都已分配到节点上，大功告成！