Memcached 之(1) Nosql和memrcached介绍，安装

1. nosql介绍

1. 1 什么是NoSQL？

非关系型数据库就是NoSQL，而关系型数据库代表MySQL

对于关系型数据库来说，是需要把数据存储到库、表、行、字段里，查询的时候根据条件一行一行地去匹配，当量非常大的时候就很耗费时间和资源，**尤其是数据是需要从磁盘里去检索 **

NoSQL数据库存储原理非常简单（典型的数据类型为k-v），不存在繁杂的关系链，比如mysql查询的时候，需要找到对应的库、表（通常是多个表）以及字段。

NoSQL数据可以存储在内存里，查询速度非常快

NoSQL在性能表现上虽然能优于关系型数据库，但是它并不能完全替代关系型数据库

NoSQL因为没有复杂的数据结构，扩展非常容易，支持分布式

1.2 常见NoSQL数据库

k-v形式的：memcached、redis 适合储存用户信息，比如会话、配置文件、参数、购物车等等。这些信息一般都和ID（键）挂钩，这种情景下键值数据库是个很好的选择。

文档数据库：mongodb 将数据以文档的形式储存。每个文档都是一系列数据项的集合。每个数据项都有一个名称与对应的值，值既可以是简单的数据类型，如字符串、数字和日期等；也可以是复杂的类型，如有序列表和关联对象。数据存储的最小单位是文档，同一个表中存储的文档属性可以是不同的，数据可以使用XML、JSON或者JSONB等多种形式存储。

列存储：Hbase

图：Neo4J、Infinite Graph、OrientDB

例如现实运维环境中，我们一台WEB安装了一个Discuz，随着访问量的增加，数据库扛不住那么大的压力；怎么办呢？我们设置一个NoSQL，当用户读取完毕后会直接放在NoSQL中，当用户再次读取的时候，会直接从缓存中读取，不需要再次从数据库中读取。帖子的ID就类似于Key，帖子的内容就类似于Value。

NoSQL因为没有复杂的数据结构，扩展非常容易，支持分布式。所以扩展也比较容易。如果你的A服务器受到瓶颈，增加服务器让让其继续缓存呗，因为不像关系型数据库需要互相关联，NoSQL直接横向扩展即可！

mysql的话只有前面说到的主主，主从，多主多从针对从进行负载均衡。要么就是分库分表，前提是关联的数据库不可以分开，不关联的数据库可以分开。

2. memrcached介绍

Memcached是国外社区网站LiveJournal团队开发，目的是为了通过缓存数据库查询结果，减少数据库访问次数，从而提高动态web站点性能。

官方站点 http://www.memcached.org/

数据结构简单(k-v)，数据存放在内存里

多线程

基于c/s架构，协议简单

基于libevent的事件处理

自主内存存储处理（slab allowcation)

数据过期方式：Lazy Expiration 和 LRU

2.1 Memcached的数据流向

一般使用目的是，通过缓存数据库查询结果，减少数据库访问次数，以提高动态web应用的速度、提高可扩展性！

正常的作业流程是：

用户发起请求给NGINX,然后再次调用PHP，PHP和mysql打交道，当用户PHP获取到请求转给NGINX，NGINX再次把请求数据交给用户。

如果并发量很大，请求mysql的队列比较多，这时候我们就需要增加一个缓存层Memcached。这样访问过的数据全部丢在缓存中，当再次请求这个数据的时候就直接从Memcached读取即可！

2.2 Slab allocation的原理

将分配的内存分割成各种尺寸的块（chunk）， 并把尺寸相同的块分成组（chunk的集合），每个chunk集合被称为slab。

Memcached的内存分配以Page为单位，Page默认值为1M，可以在启动时通过-I参数来指定。

Slab是由多个Page组成的，Page按照指定大小切割成多个chunk。

2.3 Growth factor

Memcached在启动时通过-f选项可以指定 Growth Factor因子。该值控制chunk大小的差异。默认值为1.25。

通过memcached-tool命令查看指定Memcached实例的不同slab状态，可以看到各Item所占大小（chunk大小）差距为1.25

命令

# memcached-tool 127.0.0.1:11211 display

2.4 Memcached的数据过期方式

2.4.1 Lazy Expiration

Memcached 内部不会监视记录是否过期，而是在get时查看记录的时间戳，检查记录是否过期。这种技术被称为lazy（惰性）expiration。因此，Memcached不会在过期监视上耗费CPU时间。

2.4.2 LRU *

Memcached会优先使用已超时的记录的空间，但即使如此，也会发生追加新记录时空间不足的情况，此时就要使用名为Least Recently Used（LRU）机制来分配空间。顾名思义，这是删除“最近最少使用”的记录的机制。因此，当内存空间不足时（无法从slab class获取到新的空间时），就从最近未被使用的记录中搜索，并将其空间分配给新的记录。从缓存的实用角度来看，该模型十分理想。

3. 安装memcached

yum install -y memcached libmemcached libevent

systemctl start memcached

[root@yt-06 ~]# netstat -lntp
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address          Foreign Address        State      PID/Program name
tcp        0      0 0.0.0.0:11211          0.0.0.0:*              LISTEN      2899/memcached

[root@yt-06 ~]# ps aux | grep memcached
memcach+  2899  0.0  0.1 325556  1180 ?        Ssl  22:02  0:00 /usr/bin/memcached -u memcached -p 11211 -m 64 -c 1024

# /usr/bin/memcached -u memcached -p 11211 -m 64 -c 1024  //命令行启动+参数

[root@yt-01 ~]# vim /etc/sysconfig/memcached     //memcached配置文件
PORT="11211"       //监听端口11211
USER="memcached"  //启动用户
MAXCONN="1024"  //最大并发数
CACHESIZE="64"   //可用内存，默认单位 M
OPTIONS=""     //可选选项，比如加上监听的ip，可以把OPTIONS=”” 改为OPTIONS=”127.0.0.1″

4. 查看memcached状态

memcached-tool 127.0.0.1:11211 stats

或者echo stats |nc 127.0.0.1 11211 需要安装nc工具 yum install -y nc

若安装libmemcached后，可以使用命令
memstat --servers=127.0.0.1:11211 查看memcached服务状态

[root@yt-01 ~]# memcached-tool 127.0.0.1:11211 stats
#127.0.0.1:11211 Field Value
accepting_conns 1
auth_cmds 0
auth_errors 0
bytes 0
bytes_read 7
bytes_written 0
cas_badval 0
cas_hits 0
cas_misses 0
cmd_flush 0
cmd_get 0
cmd_set 0
cmd_touch 0
conn_yields 0
connection_structures 11
crawler_items_checked 0
crawler_reclaimed 0
curr_connections 10
curr_items 0
decr_hits 0
decr_misses 0
delete_hits 0
delete_misses 0
evicted_unfetched 0
evictions 0
expired_unfetched 0
get_hits 0
get_misses 0
hash_bytes 524288
hash_is_expanding 0
hash_power_level 16
incr_hits 0
incr_misses 0
libevent 2.0.21-stable
limit_maxbytes 67108864
listen_disabled_num 0
lrutail_reflocked 0
malloc_fails 0
pid 13412
pointer_size 64
reclaimed 0
reserved_fds 20
rusage_system 0.003162
rusage_user 0.000924
threads 4
time 1522941651
total_connections 11
total_items 0
touch_hits 0
touch_misses 0
uptime 25
version 1.4.24

或者
[root@yt-01 ~]# echo stats |nc 127.0.0.1 11211
STAT pid 13412
STAT uptime 169
STAT time 1522941795
STAT version 1.4.24
STAT libevent 2.0.21-stable
STAT pointer_size 64
STAT rusage_user 0.001480
STAT rusage_system 0.006246
STAT curr_connections 10
STAT total_connections 12
STAT connection_structures 11
STAT reserved_fds 20
STAT cmd_get 0
STAT cmd_set 0
STAT cmd_flush 0
STAT cmd_touch 0
STAT get_hits 0
STAT get_misses 0
STAT delete_misses 0
STAT delete_hits 0
STAT incr_misses 0
STAT incr_hits 0
STAT decr_misses 0
STAT decr_hits 0
STAT cas_misses 0
STAT cas_hits 0
STAT cas_badval 0
STAT touch_hits 0
STAT touch_misses 0
STAT auth_cmds 0
STAT auth_errors 0
STAT bytes_read 13
STAT bytes_written 1127
STAT limit_maxbytes 67108864
STAT accepting_conns 1
STAT listen_disabled_num 0
STAT threads 4
STAT conn_yields 0
STAT hash_power_level 16
STAT hash_bytes 524288
STAT hash_is_expanding 0
STAT malloc_fails 0
STAT bytes 0
STAT curr_items 0
STAT total_items 0
STAT expired_unfetched 0
STAT evicted_unfetched 0
STAT evictions 0
STAT reclaimed 0
STAT crawler_reclaimed 0
STAT crawler_items_checked 0
STAT lrutail_reflocked 0
END

或者
[root@yt-01 ~]# memstat --servers=127.0.0.1:11211
Server: 127.0.0.1 (11211)
pid: 13412
uptime: 193
time: 1522941819
version: 1.4.24
libevent: 2.0.21-stable
pointer_size: 64
rusage_user: 0.001480
rusage_system: 0.007460
curr_connections: 10
total_connections: 13
connection_structures: 11
reserved_fds: 20
cmd_get: 0
cmd_set: 0
cmd_flush: 0
cmd_touch: 0
get_hits: 0
get_misses: 0
delete_misses: 0
delete_hits: 0
incr_misses: 0
incr_hits: 0
decr_misses: 0
decr_hits: 0
cas_misses: 0
cas_hits: 0
cas_badval: 0
touch_hits: 0
touch_misses: 0
auth_cmds: 0
auth_errors: 0
bytes_read: 30
bytes_written: 2275
limit_maxbytes: 67108864
accepting_conns: 1
listen_disabled_num: 0
threads: 4
conn_yields: 0
hash_power_level: 16
hash_bytes: 524288
hash_is_expanding: 0
malloc_fails: 0
bytes: 0
curr_items: 0
total_items: 0
expired_unfetched: 0
evicted_unfetched: 0
evictions: 0
reclaimed: 0
crawler_reclaimed: 0
crawler_items_checked: 0
lrutail_reflocked: 0

或者

[root@yt-01 ~]# telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.

stats
STAT pid 22459                                进程ID
STAT uptime 1027046                      服务器运行秒数
STAT time 1273043062                    服务器当前unix时间戳
STAT version 1.4.4                           服务器版本
STAT libevent 2.0.21-stable
STAT pointer_size 64                       操作系统字大小(这台服务器是64位的)
STAT rusage_user 0.040000           进程累计用户时间
STAT rusage_system 0.260000       进程累计系统时间
STAT curr_connections 10               当前打开连接数
STAT total_connections 82              曾打开的连接总数
STAT connection_structures 13      服务器分配的连接结构数
STAT reserved_fds 20
STAT cmd_get 54                              执行get命令总数
STAT cmd_set 34                              执行set命令总数
STAT cmd_flush 3                              指向flush_all命令总数
STAT get_hits 9                                  get命中次数
STAT get_misses 45                          get未命中次数
STAT delete_misses 5                      delete未命中次数
STAT delete_hits 1                              delete命中次数
STAT incr_misses 0                          incr未命中次数
STAT incr_hits 0                          incr命中次数
STAT decr_misses 0                  decr未命中次数
STAT decr_hits 0                  decr命中次数
STAT cas_misses 0                      cas未命中次数
STAT cas_hits 0                      cas命中次数
STAT cas_badval 0                      使用擦拭次数
STAT touch_hits 0
STAT touch_misses 0
STAT auth_cmds 0
STAT auth_errors 0
STAT bytes_read 15785                      读取字节总数
STAT bytes_written 15222                  写入字节总数
STAT limit_maxbytes 67108864          分配的内存数（字节）
STAT accepting_conns 1                  目前接受的链接数
STAT listen_disabled_num 0
STAT time_in_listen_disabled_us 0
STAT threads 4                                      线程数
STAT conn_yields 0
STAT hash_power_level 16
STAT hash_bytes 524288
STAT hash_is_expanding 0
STAT malloc_fails 0
STAT conn_yields 0
STAT bytes 0                                      存储item字节数
STAT curr_items 0                                  item个数
STAT total_items 34                             item总数
STAT expired_unfetched 0
STAT evicted_unfetched 0
STAT evictions 0                                  为获取空间删除item的总数
STAT reclaimed 0
STAT crawler_reclaimed 0
STAT crawler_items_checked 0
STAT lrutail_reflocked 0
END