Redis3.0集群搭建和测试（cluster）

介绍安装环境与版本用一台虚拟机模拟6个节点，创建出3 master、3 salve 环境。redis 采用 redis-3.2.4版本。一台虚拟机是 CentOS6.5 （IP:192.168.1.174，此处使用127.0.0.1）。安装过程1. 下载并解压cd/root/software
wgethttp://download.redis.io/releases/redis-3.2.4.tar.gz
tar-zxvfredis-3.2.4.tar.gz
2. 编译安装cd redis-3.2.4
make && make install
3. 将 redis-trib.rb 复制到 /usr/local/bin 目录下cd src
cp redis-trib.rb /usr/local/bin/
4. 创建 Redis 节点首先在 127.0.0.1 机器上 /etc 目录下创建 redis_cluster 目录；mkdir redis_cluster
在 redis_cluster 目录下，创建名为7000、7001、7002的目录，并将 redis.conf 拷贝到这三个目录中 mkdir 700070017002 7003 7004 7005
cp /etc/redis/6379.conf redis_cluster/7000.conf
cp /etc/redis/6379.conf redis_cluster/7001.conf
cp /etc/redis/6379.conf redis_cluster/7002.conf
cp /etc/redis/6379.conf redis_cluster/7003.conf
cp /etc/redis/6379.conf redis_cluster/7004.conf
cp /etc/redis/6379.conf redis_cluster/7005.conf

分别修改这三个配置文件，修改如下内容


port 7000 //端口7000,7002,7003
bind 本机ip //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口，无法创建集群
daemonize yes //redis后台运行
pidfile /var/run/redis_7000.pid //pidfile文件对应7000,7001,7002
cluster-enabled yes //开启集群 把注释#去掉
cluster-config-file nodes_7000.conf //集群的配置 配置文件首次启动自动生成 7000,7001,7002
cluster-node-timeout 15000 //请求超时 默认15秒，可自行设置
appendonly yes //aof日志开启 有需要就开启，它会每次写操作都记录一条日志　



使用命令修改如下：
sed -i 's#6379#7005#g'/etc/redis_cluster/7005.conf
sed -i 's#\# cluster-enabledyes#cluster-enabled yes#g' /etc/redis_cluster/7005.conf
sed -i 's#\#cluster-config-file#cluster-config-file#g' /etc/redis_cluster/7005.conf
sed -i 's#\# cluster-node-timeout15000#cluster-node-timeout 15000#g' /etc/redis_cluster/7005.conf
sed -i 's#appendonly no#appendonlyyes#g' /etc/redis_cluster/7005.conf
sed -i 's#dump.rdb#dump_7005.rdb#g'/etc/redis_cluster/7005.conf
sed -i 's#appendonly.aof#appendonly_7005.aof#g'/etc/redis_cluster/7005.conf

5. 启动各个节点redis-server /etc/redis_cluster/7000.conf
redis-server /etc/redis_cluster/7001.conf
redis-server /etc/redis_cluster/7002.conf
redis-server /etc/redis_cluster/7003.conf
redis-server /etc/redis_cluster/7004.conf
redis-server /etc/redis_cluster/7005.conf

注：
停止节点
redis-cli -p 6379 shutdown
redis-cli -p 6380 shutdown

6. 检查 redis 启动情况


##一台机器<br>ps -ef | grep redis
root 61020 1 002:14 ? 00:00:01 redis-server 127.0.0.1:7000 [cluster]
root 61024 1 002:14 ? 00:00:01 redis-server 127.0.0.1:7001 [cluster]
root 61029 1 002:14 ? 00:00:01 redis-server 127.0.0.1:7002 [cluster]

netstat -tnlp | grep redis
tcp 0 0127.0.0.1:17000 0.0.0.0:* LISTEN 61020/redis-server
tcp 0 0127.0.0.1:17001 0.0.0.0:* LISTEN 61024/redis-server
tcp 0 0127.0.0.1:17002 0.0.0.0:* LISTEN 61029/redis-server
tcp 0 0127.0.0.1:7000 0.0.0.0:* LISTEN 61020/redis-server
tcp 0 0127.0.0.1:7001 0.0.0.0:* LISTEN 61024/redis-server
tcp 0 0127.0.0.1:7002 0.0.0.0:* LISTEN 61029/redis-server

##另外一台机器
ps -ef | grep redis
root 9957 1 002:32 ? 00:00:01 redis-server 127.0.0.1:7003 [cluster]
root 9964 1 002:32 ? 00:00:01 redis-server 127.0.0.1:7004 [cluster]
root 9971 1 002:32 ? 00:00:01 redis-server 127.0.0.1:7005 [cluster]
root 10065 4744 002:38 pts/0 00:00:00 grep --color=auto redis
netstat -tlnp | grep redis
tcp 0 0127.0.0.1:17003 0.0.0.0:* LISTEN 9957/redis-server 1
tcp 0 0127.0.0.1:17004 0.0.0.0:* LISTEN 9964/redis-server 1
tcp 0 0127.0.0.1:17005 0.0.0.0:* LISTEN 9971/redis-server 1
tcp 0 0127.0.0.1:7003 0.0.0.0:* LISTEN 9957/redis-server 1
tcp 0 0127.0.0.1:7004 0.0.0.0:* LISTEN 9964/redis-server 1
tcp 0 0127.0.0.1:7005 0.0.0.0:* LISTEN 9971/redis-server 1



7.创建集群Redis 官方提供了 redis-trib.rb 这个工具，就在解压目录的 src 目录中，第三步中已将它复制到 /usr/local/bin 目录中，可以直接在命令行中使用了。使用下面这个命令即可完成安装。[root@localhostredis]# redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005/usr/bin/env:ruby: 没有那个文件或目录等等，出错了。这个工具是用 ruby 实现的，所以需要安装 ruby。安装命令如下：yum -y installruby ruby-devel rubygemsrpm-build gem installredis 之后再运行 redis-trib.rb 命令，会出现如下提示： [root@localhost redis]# redis-trib.rb create--replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003127.0.0.1:7004 127.0.0.1:7005>>>Creating cluster>>>Performing hash slots allocation on 6 nodes...Using 3masters:127.0.0.1:7000127.0.0.1:7001127.0.0.1:7002Adding replica127.0.0.1:7003 to 127.0.0.1:7000Adding replica127.0.0.1:7004 to 127.0.0.1:7001Adding replica127.0.0.1:7005 to 127.0.0.1:7002M: a35d37cdcb6d569a63cc7dd76392748868575a7d 127.0.0.1:7000 slots:0-5460 (5461 slots) masterM: 6d9c92254027d4e9375609d9b583725005cac881 127.0.0.1:7001 slots:5461-10922 (5462 slots)masterM: 894002cc9fb4789c636157a043437fa5bd9863d6 127.0.0.1:7002 slots:10923-16383 (5461 slots)masterS: e3697b15b0f322b46a3e6a057bd36e131527f783 127.0.0.1:7003 replicatesa35d37cdcb6d569a63cc7dd76392748868575a7dS: 88e9d9097cd2b5531f39430e510af027290116be 127.0.0.1:7004 replicates6d9c92254027d4e9375609d9b583725005cac881S: 4d950c36f89a4ebb2d1f343e00e7b7fa703f1db0 127.0.0.1:7005 replicates894002cc9fb4789c636157a043437fa5bd9863d6Can Iset the above configuration? (type 'yes' to accept): yes输入 yes 即可，然后出现如下内容，说明安装成功。 >>>Nodes configuration updated>>>Assign a different config epoch to each node>>>Sending CLUSTER MEET messages to join the clusterWaiting forthe cluster to join....>>>Performing Cluster Check (using node 127.0.0.1:7000)M: a35d37cdcb6d569a63cc7dd76392748868575a7d 127.0.0.1:7000 slots:0-5460 (5461 slots) master 1 additional replica(s)M: 6d9c92254027d4e9375609d9b583725005cac881 127.0.0.1:7001 slots:5461-10922 (5462 slots)master 1 additional replica(s)S: 88e9d9097cd2b5531f39430e510af027290116be 127.0.0.1:7004 slots: (0 slots) slave replicates6d9c92254027d4e9375609d9b583725005cac881S: e3697b15b0f322b46a3e6a057bd36e131527f783 127.0.0.1:7003 slots: (0 slots) slave replicatesa35d37cdcb6d569a63cc7dd76392748868575a7dM: 894002cc9fb4789c636157a043437fa5bd9863d6 127.0.0.1:7002 slots:10923-16383 (5461 slots)master 1 additional replica(s)S: 4d950c36f89a4ebb2d1f343e00e7b7fa703f1db0 127.0.0.1:7005 slots: (0 slots) slave replicates894002cc9fb4789c636157a043437fa5bd9863d6[OK] All nodesagree about slots configuration.>>>Check for open slots...>>>Check slots coverage...[OK] All 16384slots covered. 通过以上的信息可以看出有3个master和三个slave，并且三个slave分别对应三个master.8. 集群验证在第一台机器上连接集群的7002端口的节点，在另外一台连接7005节点，连接方式为 redis-cli -h 127.0.0.1 -c -p 7002 ,加参数 -C 可连接到集群，因为上面 redis.conf 将 bind 改为了ip地址，所以 -h 参数不可以省略。在7005节点执行命令 set hello world ，执行结果如下：[root@localhost~]# redis-cli -c -p 7005127.0.0.1:7005>set hello world->Redirected to slot [866] located at 127.0.0.1:7000OK127.0.0.1:7000>keys *1)"hello" 然后在另外一台7002端口，查看 key 为 hello 的内容， get hello ，执行结果如下：[root@localhostredis]# redis-cli -c -p 7002127.0.0.1:7002>get hello->Redirected to slot [866] located at 127.0.0.1:7000"world"127.0.0.1:7000>keys *1)"hello"说明集群运作正常。简单说一下原理

redis cluster在设计的时候，就考虑到了去中心化，去中间件，也就是说，集群中的每个节点都是平等的关系，都是对等的，每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接，而且这些连接保持活跃，这样就保证了我们只需要连接集群中的任意一个节点，就可以获取到其他节点的数据。Redis 集群并没有使用传统的一致性哈希来分配数据，而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot，当我们set一个key 时，会用CRC16算法来取模得到所属的slot，然后将这个key 分到哈希槽区间的节点上，具体算法就是：CRC16(key) % 16384。所以我们在测试的时候看到set和 get 的时候，直接跳转到了7000端口的节点。Redis 集群会把数据存在一个 master 节点，然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时，也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后，才会启动一个对应的 salve 节点，充当 master 。需要注意的是：必须要3个或以上的主节点，否则在创建集群时会失败，并且当存活的主节点数小于总节点数的一半时，整个集群就无法提供服务了。宕机测试结果：1） 如果其中一个master宕机了，那就由相应的slave接上升级为master，客户端读写数据也全部转移到该slave上，写入数据时，3个master是按照顺序的方式轮着写入数据。2） masterA,slaveA,宕机的主节点masterA恢复后，自动由master降为slave，而slaveA继续担任master，如果slaveA宕机了那么masterA才能升级回master，而slaveA恢复后则担任slave，读写数据也转移到masterA如果循环。3） 如果master和slave都宕机了，那么该对应组的数据将不能读取，并且在写入时也会提示报错而无法写入（轮询写入时卡住了）。 6. Redis主从配置 6.1 只需要修改slave的配置 找到配置文件/usr/local/redis-2.6.11/redis.conf修改如下内容：slaveof 127.0.0.1:12002 # slaveof master的ip master的端口 6.2 主从测试在master setredis 127.0.0.1:12002> set testms gogogoOK 在slave getredis 127.0.0.1:12002> get testms"gogogo" <---- 获取到的value