redis分片实现笔记
Redis分片实现
1 为什么使用分片
1).说明: 虽然redis可以扩展内存空间的大小.但是如果需要存储海量的数据一味的扩大内存,其实效率不高.
2).分片介绍: 准备多台redis,共同为用户提供缓存服务.在保证效率的前提下,实现了内存的扩容.
用户在使用分片机制时,将多台redis当做1台使用.
分片搭建
1 分片规划
由3台redis构成 端口号分别为6379/6380/6381, 如果需要准备多台redis则准备多个配置文件即可,注意其中的端口号.
2 准备多台redis
3.修改redis端口
vim 6379.conf
输入
:/port快速定位修改端口的位置
4启动多台redis
redis-server 6379.conf & redis-server 6380.conf & redis-server 6381.conf
或者用脚本
sh startredis.sh
5.关闭多台redis
redis-cli -p 6381 shutdown & redis-cli -p 6379 shutdown & redis-cli -p 6380 shutdown
或者用脚本
sh redisshutdown.sh
6检查redis启动状态
ps -ef|grep redis
2spring 整合redis入门案列
package com.jt.test; import java.util.ArrayList; import java.util.List; import org.junit.jupiter.api.Test; import redis.clients.jedis.JedisShardInfo; import redis.clients.jedis.ShardedJedis; public class TestRedisShards { @SuppressWarnings("resource") @Test public void test1() { List<JedisShardInfo> shards = new ArrayList<JedisShardInfo>(); shards.add(new JedisShardInfo("192.168.126.129",6379)); shards.add(new JedisShardInfo("192.168.126.129",6380)); shards.add(new JedisShardInfo("192.168.126.129",6381)); ShardedJedis shardedJedis = new ShardedJedis(shards); shardedJedis.getSet("shards", "准备分片操作"); System.out.println(shardedJedis.get("shards")); } }
3.一致性hash算法介绍
一致性哈希算法在1997年由麻省理工学院提出,是一种特殊的哈希算法,目的是解决分布式缓存的问题。 [1] 在移除或者添加一个服务器时,能够尽可能小地改变已存在的服务请求与处理请求服务器之间的映射关系。一致性哈希解决了简单哈希算法在分布式哈希表( Distributed Hash Table,DHT) 中存在的动态伸缩等问题 [2] 。
1.一致性hash原理说明
目的:解决数据如何在分布式环境下进行存储!!!
hash取值区间: 8位16进制数 共有 2^32种可能性!!! (24)8=2^32次方
- 首先求出memcached服务器(节点)的哈希值,并将其配置到0~2^32的圆(continuum)上。
- 然后采用同样的方法求出存储数据的键的哈希值,并映射到相同的圆上。
- 然后从数据映射到的位置开始顺时针查找,将数据保存到找到的第一个服务器上。如果超过2^32仍然找不到服务器,就会保存到第一台memcached服务器上。
当节点的数量发生了变化时,则节点中的对应的数据可以动态的迁移.
原则: 当发生了节点变化时,应该尽可能小的影响其他节点.
2.一致性hash特性
一致性哈希算法是在哈希算法基础上提出的,在动态变化的分布式环境中,哈希算法应该满足的几个条件:平衡性、单调性和分散性 [4] 。
①**平衡性(均衡性)**是指hash的结果应该平均分配到各个节点,这样从算法上解决了负载均衡问题 [4] 。 利用虚拟节点实现数据平衡 (平衡数据不能做到绝对平均,只能是相对的)
②单调性是指在新增或者删减节点时,不影响系统正常运行 . 可以实现动态的数据迁移.
③分散性是指数据应该分散地存放在分布式集群中的各个节点(节点自己可以有备份),不必每个节点都存储所有的数据 [4]
鸡蛋不要放到一个篮子里。
SpringBoot整合Redis分片
1.编辑分片配置文件
#redis.host=192.168.126.129 #redis.port=6379 redis.nodes=192.168.126.129:6379,192.168.126.129:6380,192.168.126.129:6391
2.编辑配置类实现redis整合
package com.jt.config; import java.util.ArrayList; import java.util.List; import org.springframework.beans.factory.annotation.Value; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.context.annotation.PropertySource; import redis.clients.jedis.JedisShardInfo; import redis.clients.jedis.ShardedJedis; @Configuration //我是一个配置类 一般都会与@Bean联用 @PropertySource("classpath:/properties/redis.properties") public class RedisConfig { @Value("${redis.nodes}") private String redisNodes; @Bean public ShardedJedis shardedJedis() { String[] nodes =redisNodes.split(","); List<JedisShardInfo> list =new ArrayList<JedisShardInfo>(); for (String node: nodes) { String host = node.split(":")[0]; int port = Integer.parseInt(node.split(":")[1]); list.add(new JedisShardInfo(host,port)); } return new ShardedJedis(list); } /** @Value("${redis.host}") private String host; @Value("${redis.port}") private Integer port; //将返回值的结果交给spring容器进行管理,如果以后想要使用该对象则可以直接注入. @Bean public Jedis jedis() { return new Jedis(host, port); } */ }
3.修改RedisAOP中的注入
//1.将对象交给容器管理 @Component //2.定义aop切面 @Aspect public class CacheAOP { @Autowired(required = false) //private Jedis jedis; private ShardedJedis jedis;//修改的注入
4.关于redis分片总结
1.当redis节点宕机之后,用户访问必然受到影响.
2.当redis服务宕机之后,该节点中的数据可能丢失
3.Redis分片可以实现内存数据的扩容.
4.Redis分片机制中hash运算发生在业务服务器中.redis只负责存取.不负责计算. 所以效率更高.
Redis属性说明
1 Redis持久化策略说明
说明: Redis的数据都保存在内存中,如果断电或者宕机,则内存数据将擦除,导致数据的丢失.为了防止数据丢失,Redis内部有持久化机制.
当第一次Redis服务启动时,根据配置文件中的持久化要求.进行持久化操作.如果不是第一次启动,则在服务启动时会根据持久化文件的配置,读取指定的持久化文件.实现内存数据的恢复.
2.RDB模式
特点:
1.rdb模式是redis中默认的持久化策略.
2.rdb模式定期持久化.保存的是Redis中的内存数据快照.持久化文件占用空间较小.
3.rdb模式可能导致内存数据丢失
命令:
前提:需要在redis的客户端中执行.
- save 命令 立即持久化 会导致其他操作陷入阻塞.
- bgsave 命令 开启后台运行. 以异步的方式进行持久化. 不会造成其他操作的阻塞.
持久化周期
save 900 1 900秒内,如果用户执行的1次更新操作,则持久化一次 save 300 10 300秒内,如果用户执行的10次更新操作,则持久化一次 save 60 10000 60秒内,如果用户执行的10000次更新操作,则持久化一次 save 1 1 1秒内,如果用户执行的1次更新操作,则持久化一次 set 阻塞!!!!
持久化文件
持久化文件路径:
3 AOF模式
特点:
1). AOF模式默认条件下是关闭状态. 如果需要开启则需要修改配置文件.
2). AOF模式可以实现数据的实时持久化操作,AOF模式记录的是用户的操作过程.
3). 只要开启了AOF模式,则持久化方式以AOF模式为主.
配置:
开启AOF持久化方式
持久化文件名称配置:
持久化文件策略说明
appendfsync always 只要用户执行一次操作,则持久化一次. **appendfsync everysec 每秒持久化一次 默认策略** 效率略低于RDB appendfsync no 不主动持久化.
4.(面试题)公司新入职一个员工,对于业务不熟,出于好奇在生产环境下执行了flushAll命令,问:如果你是项目经理,如何解决 ??
A: 暴打一顿 驱逐出公司
B: 冷嘲热讽 让其主动离职 ,并且承担后果
C: 予以安慰,告诉他你是最棒的 之后去甲方负荆请罪
D: 相视一笑,告诉他 你别管了 交给我处理吧 .
处理方式:修改AOF文件中的flushAll命令,之后重启即可.
5.持久化总结
1.如果用户允许少量的数据丢失,则可以选用RDB模式. 效率更高
2.如果用户不允许数据丢失,则选用AOF模式.
3.可以2种方式都选, 需要搭建组从结构 , 主机选用RDB模式, 从机选用AOF模式,可以保证业务允许.
6 配置多种持久化方式
1).设计 : 6379 当主机 7380当从机.
2).修改主机的配置文件:
要求: 主机使用RDB模式
从机使用AOF模式
3.检查默认模式的状态
命令
info replication
4.实现主从挂载:编辑从服务器向主机进行挂载
4).主从测试
1.主机中添加测试数据.
2.检查从机中是否有数据
3.检查持久化文件是否有数据.
总结: 一般条件下主机采用RDB模式,从机采用AOF模式,效率更高.
Redis内存策略
1 内存策略说明
redis服务器运行在内存中,数据也在内存中保存. 如果一直往里存,总有一天内存资源不够用,所以需要研究如何优化内存.
2 LRU算法
维度:T 时间
LRU是Least Recently Used的缩写,即最近最少使用,是一种常用的页面(数据)置换算法,选择最近最久未使用的页面(数据)予以淘汰。该算法赋予每个页面(数据)一个访问字段,用来记录一个页面(数据)自上次被访问以来所经历的时间 t,当须淘汰一个页面(数据)时,选择现有页面(数据)中其 t 值最大的,即最近最少使用的页面(数据)予以淘汰。
3 LFU算法
维度:引用次数
LFU(least frequently used (LFU) page-replacement algorithm)。即最不经常使用页置换算法,要求在页置换时置换引用计数最小的页,因为经常使用的页应该有一个较大的引用次数。但是有些页在开始时使用次数很多,但以后就不再使用,这类页将会长时间留在内存中,因此可以将引用计数寄存器定时右移一位,形成指数衰减的平均使用次数
4 随机算法
随机算法: 灭霸的响指
5 TTL算法
说明: 将设定了超时时间的数据提前删除.
6 Redis中内存优化策略
- volatile-lru 设定超时时间的数据采用lru算法
- allkeys-lru .所有的数据采用lru算法
- volatile-lfu 设定超时时间的数据采用LFU算法
- .allkeys-lfu 所有的数据才能lfu算法
- volatile-random 设定了超时时间的数据采用随机算法
- allkeys-random 所有数据采用随机算法
- volatile-ttl 设定超时时间的数据采用TTL算法
- noeviction 该配置为模式配置 表示内存满时 只报错,不删除数据.
修改配置文件之后,重启服务器即可
- codis实现redis分片和在线扩展【备忘】
- 学习笔记-Redis设计与实现-链表
- Redis笔记(2)单机数据库实现
- 《TCP/IP具体解释卷2:实现》笔记--IP的分片和重装
- CodeIgniter框架源码笔记(15)——SESSION之Redis驱动实现
- 笔记69 基于Redis的zSet集合做数据缓存实现分页查询
- 学习笔记-Redis设计与实现-简单动态对象(simple dynamic string, SDS)
- Redis学习笔记之单机实现
- 项目中操作redis改brpop阻塞模式为订阅模式的实现-java实习笔记一
- Redis源码阅读笔记(1)——简单动态字符串sds实现原理
- Redis设计与实现学习笔记
- Redis学习笔记三:多机数据库的实现
- Redis 设计与实现阅读笔记(一)
- Redis学习笔记~实现消息队列比MSMQ更方便
- 学习笔记-Redis设计与实现-跳跃表
- Redis笔记(七)Java实现Redis消息队列
- redis各类型实现&命令 笔记
- Redis 分片实现 Redis Shard [www]
- Windows下 redis 启动多实例(redis分片实现)
- Redis源码阅读笔记(2)——字典(Map)实现原理