您的位置:首页 > 数据库 > Memcache

Redis简介、与memcached比较、存储方式、应用场景、生产经验教训、安全设置、key的建议、安装和常用数据类型介绍、ServiceStack.Redis使用(1)

2014-06-16 17:07 1596 查看
1.NOSQL简介

nosql的产生并不是要彻底的代替关系型数据库,而是作为传统关系型数据库的一个补充。

Facebook和360使用Cassandra来存储海量社交数据

Twitter在其url抓取系统里综合运用了Cassandra、memcached

新浪微博使用Redis

淘宝使用hbase,并改进研制出自己品牌的nosql产品Oceanbase

mongodb被广泛用于存储非结构化数据

memcachedb是新浪网基于memcached开发的一个开源项目。给memcached分布式缓存服务器添加了Berkeley DB的持久化存储机制

和异步主辅复制机制,让memcached具备了事务恢复能力、持久化能力和分布式复制能力,非常适合于需要超高性能读写速度,

但是 不需要严格事务约束,能够被持久化保存的应用场景。例如,memcachedb被应用在新浪博客上。如果对memcached有持久化需求,

可以考虑使用memcachedb。

2.Redis简介

Redis是一个开源的,使用C语言编写,面向“键/值”对类型数据的分布式NoSQL数据库系统,特点是高性能,持久存储,适应高并发的应用场景。Redis纯粹为应用而产生,它是一个高性能的key-value数据库,并且提供了多种语言的API性能测试结果表示SET操作每秒钟可达110000次,GET操作每秒81000次(当然不同的服务器配置性能不同)。

redis目前提供五种数据类型:string(字符串),list(链表), Hash(哈希),set(集合)及zset(sorted set) (有序集合)

3.Redis与Memcached的比较

(1)Memcached是多线程,而Redis使用单线程.

(2)Memcached使用预分配的内存池的方式,Redis使用现场申请内存的方式来存储数据,并且可以配置虚拟内存。

(3)Redis可以实现持久化,主从复制,实现故障恢复。

(4)Memcached只是简单的key与value,但是Redis支持数据类型比较多。

(5)Redis的存储分为内存存储、磁盘存储 .从这一点,也说明了Redis与Memcached是有区别的。Redis 与Memcached一样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改 操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。

3.Redis存储方式

Redis是一个支持持久化的内存数据库,也就是说redis需要经常将内存中的数据同步到硬盘中来保证持久化。

Redis支持两种持久化方式.

(1):snapshotting(快照)也是默认方式.(把数据做一个备份,将数据存储到文件)

(2)Append-only file(缩写aof)的方式

快照是默认的持久化方式,这种方式是将内存中数据以快照的方式写到二进制文件中,默认的文件名称

为dump.rdb.可以通过配置设置自动做快照持久化的方式。我们可以配置redis在n秒内如果超过m个key

键修改就自动做快照.

aof方式:由于快照方式是在一定间隔时间做一次的,所以如果redis意外down掉的话,就会丢失最后一次

快照后的所有修改。aof比快照方式有更好的持久化性,是由于在使用aof时,redis会将每一个收到的

写命令都通过write函数追加到文件中,当redis重启时会通过重新执行文件中保存的写命令来在内存中重建

整个数据库的内容。

当然由于os会在内核中缓存write做的修改,所以可能不是立即写到磁盘上。真阳aof方式的持久化

也还是有可能会丢失部分修改。可以通过配置文件告诉redis我们想要通过fsync函数强制os写入到磁盘

的时机。

4.redis的应用场景

1.redis最佳使用场景是全部数据加载到内存中使用

2.redis更多场景是作为memcached的替代品来使用

3.数据比较重要,对数据一致性有一定的要求的业务

4.当需要除key/value之外的更多数据类型支持时,使用redis更合适

5.需要提供主从同步以及负载均衡分布式应用的场景(redis主从同步)

比如:计数、缓存服务、展示最近、最热、点击率最高、活跃度最高等条件的top list、用户最近访问记录、相关列表、消息队列、

粉丝列表、商品分类。

redis在微博中的应用

应用场景:

计数器

微博(评论、转发、阅读、赞等)

用户(粉丝、关注、收藏、双向关注等)

好友关系

5.redis的生产经验教训

1.要进行主从同步配置,在出现服务故障时可以切换

2.在master禁用数据持久化,只需在slave上配置数据持久化。

3.物理内存+虚拟内存不足,这个时候dump一直死着,时间久了机器挂掉,这个情况就是灾难。最少64-128G内存,SSD硬盘。

4.当redis物理内存使用超过内存总容量的3/5就会开始比较危险了,就开始做swap,内存碎片大。

5.当达到最大内存时,会清空带有过期时间的key,即使key未到过期时间

6.redis和db同步写的问题,先写db,后写redis,因为写内存基本上没有问题。

redis 默认有16个库,从0开始,使用select 1 命令切换到第二个库

使用help命令查看帮助命令,help @string 查看所有string类型的,help set 查看set命令

6.redis安全

我们找到redis.conf中# requirepass foobared 设置密码requirepass 123456

使用auth 123456命令后可以进入

C:\Users\yuxl>redis-cli

127.0.0.1:6379> set key 1

(error) NOAUTH Authentication required.

127.0.0.1:6379> auth 123456

也可以使用这种方式

C:\Users\yuxl>redis-cli -a 123456

127.0.0.1:6379> set key1 1

OK

别的安全措施可以在redis.conf中将命令改名字或者禁用,找到# rename-command CONFIG "",比如rename-command get myget 将get命令改为myget

7.关于redis key的几条建议

1.太长的键值不是个好主意,例如1024字节的键值就不是个好主意,不仅因为消耗内存,而且在数据中查找这类键值的计算成本很高。

2.太短的键值通常也不是好主意,不易阅读,对内存消耗影响不是很大

坚持一种模式。如:“object-type:id:field”,“user:1000:password”,我喜欢对多单词的字段名中加上一个点,就像这样:comment:1234:reply.to,长度10-20,value建议string不必要超过2k,set sortedset不必要超过5000个元素

8.Redis安装

最新下载地址:https://github.com/ServiceStack/redis-windows

下载Redis:https://github.com/dmajkic/redis/downloads

redis-server.exe:服务程序

redis-check-dump.exe:本地数据库检查

redis-check-aof.exe:更新日志检查

redis-benchmark.exe:性能测试,用以模拟同时由N个客户端发送M个 SETs/GETs 查询.

redis-cli.exe: 服务端开启后,我们的客户端就可以输入各种命令测试了

打开一个cmd窗口,使用cd命令切换到指定目录(F:\Redis)
运行 redis-server.exe redis.conf

重新打开一个cmd窗口,使用cd命令切换到指定目录(F:\Redis)运行 redis-cli.exe -h 127.0.0.1 -p 6379,其中 127.0.0.1是本地ip,6379是redis服务端的默认端口 (这样可以开启一个客户端程序进行特殊指令的测试).
可以将此服务设置为windows系统服务,下载Redis服务安装软件,安装即可。(https://github.com/rgl/redis/downloads

C#调用
程序包管理器控制台
PM> Install-Package ServiceStack.Redis

9.Redis常用数据类型

Redis最为常用的数据类型主要有以下五种:
String、Hash、List、Set、SortedSet
String是最常用的一种数据类型,普通的key/value存储都可以归为此类 。一个Key对应一个Value,string类型是二进制安全的。Redis的string可以包含任何数据,比如jpg图片(生成二进制)或者序列化的对象

Hash是一个string 类型的field和value的映射表。hash特别适合存储对象。相对于将对象的每个字段存成单个string 类型。一个对象存储在hash类型中会占用更少的内存,并且可以更方便的存取整个对象。作为一个key value存在,很多开发者自然的使用set/get方式来使用Redis,实际上这并不是最优化的使用方法。尤其在未启用VM情况下,Redis全部数据需要放入内存,节约内存尤其重要.

list是一个链表结构,主要功能是push,pop,获取一个范围的所有的值等,操作中key理解为链表名字。 Redis的list类型其实就是一个每个子元素都是string类型的双向链表。我们可以通过push,pop操作从链表的头部或者尾部添加删除元素,这样list既可以作为栈,又可以作为队列。Redis list的实现为一个双向链表,即可以支持反向查找和遍历,更方便操作,不过带来了部分额外的内存开销,Redis内部的很多实现,包括发送缓冲队列等也都是用的这个数据结构

set是string类型的无序集合。set是通过hash table实现的,添加,删除和查找,对集合我们可以取并集,交集,差集.

sorted set 是set的一个升级版本,它在set的基础上增加了一个顺序的属性,这一属性在添加修改 .元素的时候可以指定,每次指定后,zset(表示有序集合)会自动重新按新的值调整顺序。可以理解为有列的表,一列存 value,一列存顺序。操作中key理解为zset的名字.
Redis sorted set的使用场景与set类似,区别是set不是自动有序的,而sorted set可以通过用户额外提供一个优先级(score)的参数来为成员排序,并且是插入有序的,即自动排序。当你需要一个有序的并且不重复的集合列表,那么可以选择sorted set数据结构

事例代码:

class Program
{
static void Main(string[] args)
{
RedisClient redisClient = new RedisClient("127.0.0.1",6379);

#region 存储字符串类型和自定义类型
//redisClient.Set<string>("name", "yxl");
//Console.WriteLine(redisClient.Get<string>("name"));

//UserInfo userInfo = new UserInfo() { UserName = "zhangsan", UserPwd = "1111" };// (底层使用json序列化)
//redisClient.Set<UserInfo>("userInfo", userInfo);
//UserInfo user = redisClient.Get<UserInfo>("userInfo");
//Console.WriteLine(user.UserName);

//List<UserInfo> list = new List<UserInfo>() { new UserInfo() { UserName = "lisi", UserPwd = "111" }, new UserInfo() { UserName = "wangwu", UserPwd = "123" } };
//redisClient.Set<List<UserInfo>>("list", list);
//List<UserInfo> userInfoList = redisClient.Get<List<UserInfo>>("list");
//foreach (UserInfo item in userInfoList)
//{
//    Console.WriteLine(item.UserName);
//}

#endregion

#region Hash

// redisClient.SetEntryInHash("userInfoId", "name", "yxlhashName");
// redisClient.SetEntryInHash("userInfoId", "name2", "yxlhashName");
// List<string> hashKeys =  redisClient.GetHashKeys("userInfoId");
//List<string> hashValues =  redisClient.GetHashValues("userInfoId");
//long hashCount =  redisClient.GetHashCount("userInfoId");
// Console.WriteLine(hashCount);//2
// foreach (string hashKey in hashKeys)
// {
//     Console.WriteLine(hashKey);//name,name2
// }
// foreach (string hashValue in hashValues)
// {
//     Console.WriteLine(hashValue);//yxlhashName,yxlhashName
// }
#endregion

#region List类型
#region 队列,先进先出

//redisClient.EnqueueItemOnList("name1", "zhangsan");
//redisClient.EnqueueItemOnList("name1", "lisi");
//long length = redisClient.GetListCount("name1");
//for (int i = 0; i < length; i++)
//{
//    Console.WriteLine(redisClient.DequeueItemFromList("name1"));
//}
#endregion

#region 栈,先进后出
//redisClient.PushItemToList("name1", "zhangsan");
//redisClient.PushItemToList("name1", "lisi");
//long length = redisClient.GetListCount("name1");
//for (int i = 0; i < length; i++)
//{
//    Console.WriteLine(redisClient.PopItemFromList("name1"));
//}
#endregion
#endregion

#region Set类型,无序集合,集合我们可以取并集,交集,差集.
#region 普通存储
//redisClient.AddItemToSet("a3", "ddd");
//redisClient.AddItemToSet("a3", "ccc");
//redisClient.AddItemToSet("a3", "tttt");
//redisClient.AddItemToSet("a3", "sssh");
//redisClient.AddItemToSet("a3", "hhhh");
//System.Collections.Generic.HashSet<string> hashset = redisClient.GetAllItemsFromSet("a3");
//foreach (string str in hashset)
//{
//    Console.WriteLine(str);
//}
#endregion

#region 取并集
//redisClient.AddItemToSet("a3", "ddd");
//redisClient.AddItemToSet("a3", "ccc");
//redisClient.AddItemToSet("a3", "tttt");
//redisClient.AddItemToSet("a3", "sssh");
//redisClient.AddItemToSet("a3", "hhhh");
//redisClient.AddItemToSet("a4", "hhhh");
//redisClient.AddItemToSet("a4", "h777");

//System.Collections.Generic.HashSet<string> hashset = redisClient.GetUnionFromSets(new string[] { "a3", "a4" });
//foreach (string str in hashset)
//{
//    Console.WriteLine(str);
//}
#endregion

#region 取交集
//redisClient.AddItemToSet("a3", "ddd");
//redisClient.AddItemToSet("a3", "ccc");
//redisClient.AddItemToSet("a3", "tttt");
//redisClient.AddItemToSet("a3", "sssh");
//redisClient.AddItemToSet("a3", "hhhh");
//redisClient.AddItemToSet("a4", "hhhh");
//redisClient.AddItemToSet("a4", "h777");
//System.Collections.Generic.HashSet<string> hashset = redisClient.GetIntersectFromSets(new string[] { "a3", "a4" });
//foreach (string str in hashset)
//{
//    Console.WriteLine(str);
//}
#endregion

#region 取差集
//redisClient.AddItemToSet("a3", "ddd");
//redisClient.AddItemToSet("a3", "ccc");
//redisClient.AddItemToSet("a3", "tttt");
//redisClient.AddItemToSet("a3", "sssh");
//redisClient.AddItemToSet("a3", "hhhh");
//redisClient.AddItemToSet("a4", "hhhh");
//redisClient.AddItemToSet("a4", "h777");
//System.Collections.Generic.HashSet<string> hashset = redisClient.GetDifferencesFromSet("a3",new string[] { "a4" });
////返回存在于第一个集合(a3),但是不存在于其他集合(a4)的数据
//foreach (string str in hashset)
//{
//    Console.WriteLine(str);
//}
#endregion
#endregion

#region Sorted Set类型
//redisClient.AddItemToSortedSet("a5", "ffff");
//redisClient.AddItemToSortedSet("a5", "bbbb");
//redisClient.AddItemToSortedSet("a5", "gggg");
//redisClient.AddItemToSortedSet("a5", "cccc");
//redisClient.AddItemToSortedSet("a5", "waaa");
//System.Collections.Generic.List<string> list = redisClient.GetAllItemsFromSortedSet("a5");
//foreach (string str in list)
//{
//    Console.WriteLine(str);
//}

#endregion

}

public class UserInfo
{
public string UserName { get; set; }
public string UserPwd { get; set; }
}
}
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: