redis集群 twemproxy 多代理 搭建和简介
2016-08-11 14:57
531 查看
twemproxy是 Twitter 开源出来的 Redis 和 Memcached 代理其功能:通过代理的方式减少缓存服务器的连接数。自动在多台缓存服务器间共享数据。通过不同的策略与散列函数支持一致性散列。通过配置的方式禁用失败的结点。运行在多个实例上,客户端可以连接到首个可用的代理服务器。支持请求的流式与批处理,因而能够降低来回的消耗。其缺点:不支持针对多个值的操作,比如取sets的子交并补等。不支持Redis的事务操作。错误消息、日志信息匮乏,排查问题困难。 ------------------------------------------------------------------------------------- 那么说一下搭建环境的方法:https://github.com/twitter/twemproxyTo build nutcracker from distribution tarball:
的缓存性能及扩展型,我们将需要搭建redis集群来满足需求。因redis 3.0
beta支持的集群功能不适合生产环境的使用,所以我们采用twitter正在使用的twemproxy来搭建redis缓存服务器集群,目前用户包括
Pinterest、Tumblr、Twitter、Vine、Kiip、Wuaki.tv、Wanelo、Kontera、Wikimedia、
Bright、56.com、Snapchat、Digg、Gawkermedia、3scale.net等。
Twemproxy是memcached和redis协议的代理服务器,并能有效减少大量连接对redis服务器的性能影响,它提供的主要特性如下:
下载最新安装包:redis-2.8.9.tar.gz , tcl-8.5.7-6.el6.x86_64.rpm ,nutcracker-0.3.0.tar.gz
安装必要组件rpm:
安装Redis:
编辑redis配置文件:
启动redis服务:
测试redis服务:
同样的步骤安装其他redis服务器。
编辑配置文件:
测试配置文件:
启动twemproxy:
测试twemproxy:
Set测试:
通过twemproxy测试:
直接对后端redis测试:
Get测试:
通过twemproxy测试:
直接对后端redis测试:
查看键值分布:
测试结果:以基本的set get命令通过twemproxy性能有所下降;通过twemproxy分布基本平均。测试数据以业务测试为准。
$ ./configure $ make $ sudo make installTo build nutcracker from distribution tarball in debug mode:
$ CFLAGS="-ggdb3 -O0" ./configure --enable-debug=full $ make $ sudo make installTo build nutcracker from source with debug logs enabled and assertions disabled:
$ git clone git@github.com:twitter/twemproxy.git $ cd twemproxy $ autoreconf -fvi $ ./configure --enable-debug=log $ make $ src/nutcracker -h我使用的是第一种方法(需要下载他的nutcracker包),原因是服务器基本包缺的太多。 ---------------------------------------------------------------------------安装完需要配置(我只配置了本地36一台机子,#后边是注释) redis1: #服务器池成员名字 listen: 192.168.6.36:19999 #twemproxy启动端口 hash: fnv1a_64 #具体的hash函数 distribution: ketama #hash算法-如何分布key,关系到均匀分布key的算法,影响命中key等性能,这里是ketama算法 auto_eject_hosts: true #是否在节点无法响应的时候临时找出,区分save data的slave和cache data的slave redis: true #是否是redis的proxy server_retry_timeout: 2000 #重试时间ms server_failure_limit: 1 #节点故障多少次后摘除 servers: # redis节点(ip:端口号:权重) - 192.168.6.36:6379:1 ----------------------------------------------------------------------------------- 安装配置完成后,可以用nutcracker -t来检查配置文件 nutcracker -d后天启动服务 nucracker -D和nucracker stat查看代理状态
基于Twemproxy的Redis集群方案
概述
由于单台redis服务器的内存管理能力有限,使用过大内存redis服务器的性能急剧下降,且服务器发生故障将直接影响大面积业务。为了获取更好的缓存性能及扩展型,我们将需要搭建redis集群来满足需求。因redis 3.0
beta支持的集群功能不适合生产环境的使用,所以我们采用twitter正在使用的twemproxy来搭建redis缓存服务器集群,目前用户包括
Pinterest、Tumblr、Twitter、Vine、Kiip、Wuaki.tv、Wanelo、Kontera、Wikimedia、
Bright、56.com、Snapchat、Digg、Gawkermedia、3scale.net等。
Twemproxy是memcached和redis协议的代理服务器,并能有效减少大量连接对redis服务器的性能影响,它提供的主要特性如下:
集群架构
安装Redis
有三台服务器,一台COS1安装twemproxy,另外两台COS2,COS3安装redis。下载最新安装包:redis-2.8.9.tar.gz , tcl-8.5.7-6.el6.x86_64.rpm ,nutcracker-0.3.0.tar.gz
安装必要组件rpm:
[root@COS2 redis-2.8.9]# yum install gcc[root@COS2 src]# rpm -ivh tcl-8.5.7-6.el6.x86_64.rpm
安装Redis:
[root@COS2 src]# tar xvf redis-2.8.9.tar.gz[root@COS2 src]# cd redis-2.8.9[root@COS2 redis-2.8.9]# make… Hint: To run 'make test' is a good idea ;) make[1]: Leaving directory `/usr/local/src/redis-2.8.9/src' [root@COS2 redis-2.8.9]# make testAll tests passed without errors!Cleanup: may take some time... OK make[1]: Leaving directory `/usr/local/src/redis-2.8.9/src' [root@COS2 redis-2.8.9]# make install[root@COS2 redis-2.8.9]# cd /usr/local/bin/[root@COS2 bin]# lltotal 13908 -rwxr-xr-x. 1 root root 4170264 Apr 26 11:51 redis-benchmark-rwxr-xr-x. 1 root root 22185 Apr 26 11:51 redis-check-aof-rwxr-xr-x. 1 root root 45419 Apr 26 11:51 redis-check-dump-rwxr-xr-x. 1 root root 4263471 Apr 26 11:51 redis-cli-rwxr-xr-x. 1 root root 5726791 Apr 26 11:51 redis-server
编辑redis配置文件:
[root@COS2 redis-2.8.9]# cp redis.conf /etc/[root@COS2 redis-2.8.9]# vim /etc/redredhat-release redis.conf [root@COS2 redis-2.8.9]# vim /etc/redis.conf把里面的 daemonize no 修改成 daemonize yes
启动redis服务:
[root@COS2 redis-2.8.9]# redis-server /etc/redis.conf
测试redis服务:
[root@COS2 redis-2.8.9]# redis-cli 127.0.0.1:6379> set kin kin OK127.0.0.1:6379> get kin
同样的步骤安装其他redis服务器。
安装twemproxy
安装twemproxy:[root@COS1 src]# tar xvf nutcracker-0.3.0.tar.gz[root@COS1 nutcracker-0.3.0]# cd nutcracker-0.3.0[root@COS1 src]#./configure [root@COS1 nutcracker-0.3.0]# make && make install
编辑配置文件:
[root@COS1 conf]# cd /usr/local/src/nutcracker-0.3.0/conf[root@COS1 conf]# cp nutcracker.yml /etc/[root@COS1 conf]# vim /etc/nutcracker.ymlalpha: listen: 0.0.0.0:22121 hash: fnv1a_64 distribution: ketama auto_eject_hosts: true redis: true server_retry_timeout: 2000 server_failure_limit: 1 servers: --两台redis服务器的地址和端口 - 10.23.22.240:6379:1 - 10.23.22.241:6379:1
测试配置文件:
[root@COS1 nutcracker-0.3.0]# nutcracker -t /etc/nutcracker.yml nutcracker: configuration file 'conf/nutcracker.yml' syntax is ok
启动twemproxy:
[root@COS1 nutcracker-0.3.0]# nutcracker --helpThis is nutcracker-0.3.0Usage: nutcracker [-?hVdDt] [-v verbosity level] [-o output file] [-c conf file] [-s stats port] [-a stats addr] [-i stats interval] [-p pid file] [-m mbuf size] Options: -h, --help : this help -V, --version : show version and exit -t, --test-conf : test configuration for syntax errors and exit -d, --daemonize : run as a daemon -D, --describe-stats : print stats description and exit -v, --verbosity=N : set logging level (default: 5, min: 0, max: 11) -o, --output=S : set logging file (default: stderr) -c, --conf-file=S : set configuration file (default: conf/nutcracker.yml) #配置 -s, --stats-port=N : set stats monitoring port (default: 22222) -a, --stats-addr=S : set stats monitoring ip (default: 0.0.0.0) -i, --stats-interval=N : set stats aggregation interval in msec (default: 30000 msec) -p, --pid-file=S : set pid file (default: off) -m, --mbuf-size=N : set size of mbuf chunk in bytes (default: 16384 bytes) [root@COS1 nutcracker-0.3.0]# nutcracker -d -c /etc/nutcracker.yml[root@COS1 nutcracker-0.3.0]# ps -ef|grep nutcrackerroot 15358 1 0 02:40 ? 00:00:00 nutcracker -d -c /etc/nutcracker.yml
测试twemproxy:
[root@COS1 ~]# redis-cli -p 22121127.0.0.1:22121> get kin"kin"127.0.0.1:22121> set kin king OK127.0.0.1:22121> get kin"king"
性能测试
这里使用redis自带的redis-benchmark进行简单的性能测试,测试结果如下:Set测试:
通过twemproxy测试:
[root@COS1 src]# redis-benchmark -h 10.23.22.240 -p 22121 -c 100 -t set -d 100 -l –q
SET: 38167.94 requests per second
直接对后端redis测试:
[root@COS2 ~]# redis-benchmark -h 10.23.22.241 -p 6379 -c 100 -t set -d 100 -l –q
SET: 53191.49 requests per second
Get测试:
通过twemproxy测试:
[root@COS1 src]# redis-benchmark -h 10.23.22.240 -p 22121 -c 100 -t get -d 100 -l -qGET: 37453.18 requests per second
直接对后端redis测试:
[root@COS2 ~]# redis-benchmark -h 10.23.22.241 -p 6379 -c 100 -t get -d 100 -l -qGET: 62111.80 requests per second
查看键值分布:
[root@COS2 ~]# redis-cli info|grep db0db0:keys=51483,expires=0,avg_ttl=0[root@COS3 ~]# redis-cli info|grep db0db0:keys=48525,expires=0,avg_ttl=0
测试结果:以基本的set get命令通过twemproxy性能有所下降;通过twemproxy分布基本平均。测试数据以业务测试为准。
相关文章推荐
- Twemproxy-Redis集群代理
- 基于 twemproxy 搭建 redis 集群
- 用VMware虚拟机搭建redis集群(twemproxy)
- redis集群 twemproxy 多代理
- Nginx反向代理,负载均衡,Redis集群 Twemproxy,redis session共享,keepalived高可用-搭建千万级网站系统
- 使用Twemproxy搭建redis服务器集群
- Redis复制与可扩展集群搭建
- [转]Twemproxy——针对MemCached与Redis的代理
- Twemproxy——针对MemCached与Redis的代理
- Twemproxy——针对MemCached与Redis的代理
- Redis集群搭建最佳实践
- Redis复制与可扩展集群搭建
- Redis 代理服务Twemproxy(转)
- Redis复制与可扩展集群搭建
- redis 搭建集群
- Redis 3.0集群搭建/配置/FAQ
- Redis 代理服务Twemproxy
- Redis的复制功能以及Redis复制机制本身的优缺点以及集群搭建问题
- Redis复制与可扩展集群搭建
- Redis复制与可扩展集群搭建(转)