Redis集群简单使用

Redis集群简单使用
一、前言
这篇文档主要是工作使用到redis,记录一下平时的使用。其中不免有些不足和错误，望大家在看到之后跟帖指点出，在此先谢谢大家。
本篇文档先介绍redis的一些基本基本知识和一些常用的命令，redis集群在行业中的作用，接着是实操集群的安装和基本使用，及在开发中对集群的操作。
二、redis集群方案
2.1、Redis简单介绍
大家都知道Redis是一个开源的，内存中的数据结构存储系统，它可以用作数据库、缓存和消息中间件。它有多种类型的数据结构:

中文名	英文名	简明
字符串	strings	这是最简单的redis类型
散列	hashes	由field和关联的value组成的map。field和value都是字符串的
列表	list	按插入顺序排序的字符串元素的集合
集合	sets	不重复且无序的字符串元素的集合
有序集合	sorted sets	类似Sets,但是每个字符串元素都关联到一个叫score浮动数值，里面的元素总是通过score进行着排序

除这些之外还有范围查询bitmaps，hyperloglogs和地理空间(geospatial)索引半径查询。
Redis内置了复制，事务，Redis哨兵和自动分区为集群提高可靠等等。
下面看看redis集群，但是还有很多知识，这里只是做简单的介绍。
2.2、Redis集群
集群一般都是都满足容错，可扩展做到高可用。当然Redis集群也不例外了。
Redis集群的几种方案。
Ø  Redis 单副本
Ø  Redis 多副本（主从）
Ø  Redis Sentinel（哨兵）
Ø  Redis Cluster
 
Redis各种使用方式的优缺点：
 
1、redis单副本

图片：单副本1.png

Redis 单副本，采用单个Redis节点部署架构，没有备用节点实时同步数据，不提供数据持久化和备份策略，适用于数据可靠性要求不高的纯缓存业务场景。
 
优点：
1、架构简单、部署方便
2、高性价比，当缓存使用时无需备用节点（单实例可用性可以用supervisor或crontab保证），当然为了满足业务的高可用性，也可以牺牲一个备用节点，但同时刻只有一个实例对外提供服务。
3、高性能
 
缺点：
1、不保证数据的可靠性
2、当缓存使用，进程重启后，数据丢失，即使有备用的节点解决高可用性，但是仍然不能解决缓存预热问题，因此不适用于数据可靠性要求高的业务。
3、高性能受限于单核CPU的处理能力（Redis是单线程机制），CPU为主要瓶颈，所以适合操作命令简单，排序、计算较少的场景。也可以考虑用memcached替代。
 
2、Redis多副本（主从）

图片：多副本.png

Redis 多副本，采用主从（replication）部署结构，相较于单副本而言最大的特点就是主从实例间数据实时同步，并且提供数据持久化和备份策略。主从实例部署在不同的物理服务器上，根据公司的基础环境配置，可以实现同时对外提供服务和读写分离策略。
 
优点：
1、高可靠性，一方面，采用双机主备架构，能够在主库出现故障时自动进行主备切换，从库提升为主库提供服务，保证服务平稳运行。另一方面，开启数据持久化功能和配置合理的备份策略，能有效的解决数据误操作和数据异常丢失的问题。
2、读写分离策略，从节点可以扩展主库节点的读能力，有效应对大并发量的读操作。
 
缺点：
1、故障恢复复杂，如果没有RedisHA系统（需要开发），当主库节点出现故障时，需要手动将一个从节点晋升为主节点，同时需要通知业务方变更配置，并且需要让其他从库节点去复制新主库节点，整个过程需要人为干预，比较繁琐。
2、主库的写能力受到单机的限制，可以考虑分片
3、主库的存储能力受到单机的限制，可以考虑Pika
4、原生复制的弊端在早期的版本也会比较突出，如：Redis复制中断后，Slave会发起psync，此时如果同步不成功，则会进行全量同步，主库执行全量备份的同时可能会造成毫秒或秒级的卡顿；又由于COW机制，导致极端情况下的主库内存溢出，程序异常退出或宕机；主库节点生成备份文件导致服务器磁盘IO和CPU（压缩）资源消耗；发送数GB大小的备份文件导致服务器出口带宽暴增，阻塞请求。建议升级到最新版本。
 
3、Redis
Sentinel（哨兵）

图片：redis sentinel2.png

Redis Sentinel是社区版本推出的原生高可用解决方案，Redis Sentinel部署架构主要包括两部分：Redis Sentinel集群和Redis数据集群，其中Redis Sentinel集群是由若干Sentinel节点组成的分布式集群。可以实现故障发现、故障自动转移、配置中心和客户端通知。Redis Sentinel的节点数量要满足2n+1（n>=1）的奇数个。
 
优点：
1、Redis Sentinel集群部署简单
2、能够解决Redis主从模式下的高可用切换问题
3、很方便实现Redis数据节点的线形扩展，轻松突破Redis自身单线程瓶颈，可极大满足对Redis大容量或高性能的业务需求。
4、可以实现一套Sentinel监控一组Redis数据节点或多组数据节点
 
缺点：
1、部署相对Redis 主从模式要复杂一些，原理理解更繁琐
2、资源浪费，Redis数据节点中slave节点作为备份节点不提供服务
3、Redis Sentinel主要是针对Redis数据节点中的主节点的高可用切换，对Redis的数据节点做失败判定分为主观下线和客观下线两种，对于Redis的从节点有对节点做主观下线操作，并不执行故障转移。
4、不能解决读写分离问题，实现起来相对复杂。
 
4、Redis
Cluster

图片：redis_cluster.png

Redis Cluster是社区版推出的Redis分布式集群解决方案，主要解决Redis分布式方面的需求，比如，当遇到单机内存，并发和流量等瓶颈的时候，Redis
Cluster能起到很好的负载均衡的目的。Redis
Cluster集群节点最小配置6个节点以上（3主3从），其中主节点提供读写操作，从节点作为备用节点，不提供请求，只作为故障转移使用。Redis Cluster采用虚拟槽分区，所有的键根据哈希函数映射到0～16383个整数槽内，每个节点负责维护一部分槽以及槽所印映射的键值数据。
 
优点：
1、无中心架构
2、数据按照slot存储分布在多个节点，节点间数据共享，可动态调整数据分布。
3、可扩展性，可线性扩展到1000多个节点，节点可动态添加或删除。
4、高可用性，部分节点不可用时，集群仍可用。通过增加Slave做standby数据副本，能够实现故障自动failover，节点之间通过gossip协议交换状态信息，用投票机制完成Slave到Master的角色提升。
5、降低运维成本，提高系统的扩展性和可用性。
 
缺点：
1、Client实现复杂，驱动要求实现Smart
Client，缓存slots
mapping信息并及时更新，提高了开发难度，客户端的不成熟影响业务的稳定性。目前仅JedisCluster相对成熟，异常处理部分还不完善，比如常见的“max redirect exception”。
2、节点会因为某些原因发生阻塞（阻塞时间大于clutser-node-timeout），被判断下线，这种failover是没有必要的。
3、数据通过异步复制,不保证数据的强一致性。
4、多个业务使用同一套集群时，无法根据统计区分冷热数据，资源隔离性较差，容易出现相互影响的情况。
5、Slave在集群中充当“冷备”，不能缓解读压力，当然可以通过SDK的合理设计来提高Slave资源的利用率。
6、key批量操作限制，如使用mset、mget目前只支持具有相同slot值的key执行批量操作。对于映射为不同slot值的key由于keys 不支持跨slot查询，所以执行mset、mget、sunion等操作支持不友好。
7、key事务操作支持有限，只支持多key在同一节点上的事务操作，当多个key分布于不同的节点上时无法使用事务功能。
8、key作为数据分区的最小粒度，因此不能将一个很大的键值对象如hash、list等映射到不同的节点。
9、不支持多数据库空间，单机下的redis可以支持到16个数据库，集群模式下只能使用1个数据库空间，即db 0。
10、复制结构只支持一层，从节点只能复制主节点，不支持嵌套树状复制结构。
 
三、集群安装介绍
上面介绍redis集群的几种方案，但是我工作中用到时第四种redis cluster。所以这里就只介绍这种。
Reids集群是一个提供在多个Rdis间节点共享数据，redis集群不支持处理多个keys的命令，因为这需要在不同的节点间移动数据，从而达不到单个redis那样的性能，在高负载情况下可能会导致不可估计的错误，但是集群在一定程度提供可用性，在实际生产环境中某个节点宕机或不可达情况可用继续处理命令，集群的优势：
l  自动分割数据到不同的节点上。
l  整个集群的部分节点失败或不可达时还能够继续处理命令，这里部分节点数量是不过半的。超过半集群不可用了。
集群的数据分片，redis集群没有使用一致性hash，而是引入了哈希槽的概念，redis集群有16864个哈希槽，每个key通过CRC16检验后对16834取模决定放置在哪个槽，集群的每个节点负责一部分hash槽，比如当前集群的有3节点那么：
l  节点 A 包含 0 到 5500号哈希槽。
l  节点 B 包含5501 到 11000 号哈希槽。
l  节点 C 包含11001 到 16384号哈希槽。
这种结构很容易添加或者删除节点. 比如如果我想新添加个节点D, 我需要从节点 A, B, C中得部分槽到D上. 如果我想移除节点A,需要将A中的槽移到B和C节点上,然后将没有任何槽的A节点从集群中移除即可. 由于从一个节点将哈希槽移动到另一个节点并不会停止服务,所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用的状态。
3.1、下载并上传到服务器
下载地址网上有很多，但是这里给推荐这个网站上地址，这里推荐的是官网地址https://redis.io/download和国内比较正式地址http://redis.cn/download.html点击下载之后，利用工具上传到服务器又直接在服务器上下载。这里是先下载到本地，在上传到FTP工具服务器。
上传到服务器之后，解压tar包，利用命令tar命令解压。
3.2、集群搭建
集群规划，这里计划是：

IP	主机名	端口
192.168.184.129	sv1	7000
192.168.184.129	sv1	7001
192.168.184.130	sv2	7000
192.168.184.130	sv2	7001
192.168.184.131	sv3	7000
192.168.184.131	sv3	7001

从表格中各个虚拟机上有两个节点分别是7000和7001这两个端口号。每个主机创建分别创建7000和7001两个目录。
 
在192.168.184.129:7000和192.168.184.130:7000、192.168.184.131:7000配置如下图

描述：122

图片：122.png

上面的配置中就不同的是
Ø  bind的IP地址不一样，其他的都是一样的。
这里必须配置bind,不然其他的节点是访问不了，自然集群也就，建立不了。端口号，就不用过多解释了。
Ø  daemonize yes是开启守护线程，也是启动之后不在控制台运行，而是在后台。
Ø  cluster-enabled yes 启动集群，自然这个配置是yes了
Ø  cluster-config-file nodes.conf 是集群的配置，在创建集群时候，redis会把集群的信息配置写到nodes.conf文件中。
Ø  cluster-node-timeout 5000 这是连接集群超时时间。
Ø  timeout 300 这是连接到集群中成为空闲的连接超时时间单位秒。当超时会杀掉。
Ø  pidfile
/redis/redis_cluster/7000/pid/redis.pid 这是进程文件，这里默认是var目录下面的，但是为方便集群管理，所以配置的到集群的目录中。
Ø  loglevel verbose 这是日志的级别。日志级别有四种分别是
Specify the server verbosity level.
 This can be one of:
debug (a lot of information, useful for
development/testing)
verbose (many rarely useful info, but not a mess like the
debug level)
 notice (moderately
verbose, what you want in production probably)
 warning (only very
important / critical messages are logged)
loglevel notice
从官方的解释道，debug是适用于开发测试，verbose日志量比debug少一些，由于debug日志量比较大，很多不是需要的，所以使用了verbose。
Ø  logfile
"/redis/redis_cluster/7000/logs/redis.log"
日志输出路径及文件，这里必须去创建该文件，不然启动时候会报没有该文件日志文件。
Ø  notify-keyspace-events Ex
最后一个配置是Redis键空间通知的配置，键空间通知功能自2.8.0版本开始可用，这比较适用登录超时的场景中。
再在192.168.184.129:7001和192.168.184.130:7001、192.168.184.131:7001中配置如下图

描述：123

图片：123.png

不同就是依然是端IP地址和日志和PID文件的路径不一样，其他的都是一样的。参数已经解释过了，就过多累述了。
 
2、安装依赖
第一：
先编译redis,在Redis的主目录下执行make命令

make PREFIX=/usr/local/redis   install

第二安装ruby,执行集群创建的时候依赖ruby，这里就不多的介绍安装rubyle ,如果网络允许就在线安装，如果不允许就离线安装下载tar.gz包。
这里是在线安装参考博客链接地址是：https://ruby-china.org/wiki/rvm-guide
第二：创建集群
执行命令：

src/redis-trib.rb create --replicas 1 192.168.184.129:7000   192.168.184.129:7001 192.168.184.130:7000 192.168.184.130:7001   192.168.184.131:7000 192.168.184.131:7001

给予的警告是：

描述：124

图片：124.png

说明从警告的信息中知道redis-trib.rb命令已经弃用了，属于redis-trib的命令和功能都被移动至redis-cli,所以这里创建集群就使用警告信息中案例直接复制粘贴，并执行该命令得到下图所示：

描述：125

图片：redis_cluster_create.png

从图中我们可知
192.168.184.1299(sv1):7000为主节点，槽(slots)从0到5460总槽数量5641，它的从节点是192.168.184.131(sv3):7001。
192.168.184.130(sv2):7000为主节点，槽(slots)从5641到10922，总槽数是5642，它的从节点是192.168.184.129(sv1):7001。
192.168.181.131(sv3):7000为主节点，槽(slots)从10923到1683，总槽数是5651，它的从节点是192.168.184.130(sv2)。
主从节点不在同一台机器，同意这集群的分布。
 
3.3集群测试
集群测试在，通过命令行进行简单测试一下。
登录集群命令：
命令中的-c就表示连接到集群。登录完成之后，执行一个set命令随意存储一个字符串。
在图中可知mmm这个key通过CRC16校验后对16384取模之后，存储到了192.168.184.130:7000这个节点上的6471槽中，同时连接也切换到130:7000上，说明数据是在存储在三个mater上，同时数据副本也在三个从点上。
现在把130:7000挂掉
下面测试集群的高可用，刚刚数据是存储到在130:7000端口，同时的从节点129(sv1):7001，如果这个时候把130:7000节点可挂掉，这个时候应该129:7001节点，并且还可以获取刚刚存储数据。先看看集群节点：

在连接集群，查看接节点
这个时候129:7001节点已经变为主节点，并且130:7000节点的状态为失败，已经断开连接。这个时候执行get命令获取mmm值。
我们可以看到数据是从
 129:7001上6471上取出的。
这个时候我们在把130:7000恢复启动
这时候
 130:7000已经恢复启动了。