Varnish-2.1服务器安装配置文档

1、Varnish简介

Varnish是一款高性能且开源的反向代理服务器（ReverseProxyServer），挪威最大的线上报纸VerdensGang使用3台Varnish代替了原本的12台Squid，性能比以前更好。Varnish的作者Poul-HenningKamp是FreeBSD核心的开发人员之一，他认为现在的电脑比起1975年已经复杂许多。在那个时代，存储媒介只有两种：记忆体与硬盘。但现在电脑系统的记忆体除了主记忆体外，还包括了CPU内的L1、L2，甚至有L3快取。硬盘上也有自己的快取装置，因此squid
cache自行处理物件替换的架构不可能得知这些情況而做到最佳化，但作业系统可以得知这些情況，所以这部份的工作有关交给作业系统处理，这就是VarnishCache的设计架构。

一般來说，使用Varnish代替Squid的理由有三点：

1.1Varnish采用了“VisualPageCache”技术，在记忆体的利用上，Varnish比Squid更具有优势，它避免了Squid频繁在记忆体、硬盘中交换文件，性能比Squid还高。

1.2Varnish的稳定性高，进行相同工作的Squid服务器发生故障的几率似乎比Varnish高。

1.3通过Varnish管理端口，可以使用正则表达式、批量地清除部分缓存，这一点是Squid不能具备的。

2、Linux系统安裝Varnish的过程：

2.1首先建立www用戶和组，以及Varnish缓存存放目录：

sudo/usr/sbin/groupaddwww-g48

sudo/usr/sbin/useradd-u48-gwwwwww

sudomkdir-m755/data/varnish/vcache

sudochown-Rwww:www/data/varnish/vcache

2.2建立Varnish日志目录:

sudomkdir-m755/data/varnish/logs/

sudochown-Rwww:www/data/varnish/logs/

2.3代码快速获取地址：

wget'target='_blank'>http://down.hiphp.com/ports/nginx/pcre-7.9.tar.gz[/code]
wget'target='_blank'>http://down.hiphp.com/ports/varnish/varnish-2.1.tar.gz[/code]
2.4源代码安装Varnish

tarzxvfpcre-7.9.tar.gz

cdpcre-7.9/

./configure--prefix=/usr/local/webserver/pcre-7.9/

make&&makeinstall

cd../


设置PKG_CONFIG_PATH

exportPKG_CONFIG_PATH=/usr/local/pcre-7.9/lib/pkgconfig


tar-zxvfvarnish-2.1.tar.gz

cdvarnish-2.1

./configure--prefix=/usr/local/varnish-2.1/--enable-dependency-tracking--enable-debugging-symbols--enable-developer-warnings

make

makeinstall

注：如果你的gcc版本是4.2.0或更高的版本，可以加上–enable-extra-warnings编译参数，在出错时，得到附加的警告信息。

我这里是用源码包安装的，如果你是redhat或centos可以用rpm包来安装

3、编辑配置文件/usr/local/varnish-2.1/etc/varnish/default.vcl：

这里我对这段配置文件说明一下：

(1)Varnish通过反向代理访问192.168.1.104和192.168.1.105，端口为80的Web服务器；

(2)Varnish对hiphp.com或者hiphpimg.com域名进行缓存；

(3)Varnish对以.asp和.cgi已经带有?的URL直接从源服务器取；

(4)Varnish对fetch里边符合正则表达式的连接进行指定时间的缓存。

下面是我的范例配置文件：

backendweb4{

.host="192.168.1.104";

.port="80";

.probe={

.timeout=50ms;

.interval=5s;

.window=10;

.threshold=8;

.request=

"GET/index.phpHTTP/1.1"

"Host:192.168.1.104"

"Connection:close"

"Accept-Encoding:foo/bar";

}

}

backendweb5{

.host="192.168.1.105";

.port="80";

.probe={

.timeout=50ms;

.interval=5s;

.window=10;

.threshold=8;

.request=

"GET/index.phpHTTP/1.1"

"Host:192.168.1.105"

"Connection:close"

"Accept-Encoding:foo/bar";

}

}

directorwebrandom{

{.backend=web4;.weight=1;}

{.backend=web5;.weight=1;}

}


subvcl_recv{

setreq.grace=30s;


if(req.http.x-forwarded-for){

setreq.http.X-Forwarded-For=

req.http.X-Forwarded-For","client.ip;

}else{

setreq.http.X-Forwarded-For=client.ip;

}

if(req.request!="GET"&&

req.request!="HEAD"&&

req.request!="PUT"&&

req.request!="POST"&&

req.request!="TRACE"&&

req.request!="OPTIONS"&&

req.request!="DELETE"){

/*Non-RFC2616orCONNECTwhichisweird.*/

return(pipe);

}

if(req.request!="GET"&&req.request!="HEAD"){

/*WeonlydealwithGETandHEADbydefault*/

return(pass);

}

#if(req.http.Authorization||req.http.Cookie){

#/*Notcacheablebydefault*/

#return(pass);

#}

#if(req.http.user-agent~"(.*)(Nokia|Sony|Ericsson|Motorola|Samsung|Lg|Sie-|Philips|Panasonic|Alcatel|Lenovo|Cldc|Midp|Wap|Mobile)(.*)")

#{

#error750"ganji.cn";

#}

if(req.http.host~"^(.*).hiphp.com"||req.http.host~"^(.*).hiphpimg.com"){

setreq.backend=web;

}

if(req.url~"\.(asp|cgi)($|\?)"){

return(pass);

}else{

return(lookup);

}

}


#subvcl_error{

#if(obj.status==750)

#{

#if(req.http.host~"^(.*).ganji.com")

#{

#setobj.http.Location="http://"regsub(req.http.host,"com","cn");

#}

#}

#setobj.status=302;

#return(deliver);

#}

subvcl_pipe{

#Notethatonlythefirstrequesttothebackendwillhave

#X-Forwarded-Forset.IfyouuseX-Forwarded-Forandwantto

#haveitsetforallrequests,makesuretohave:

#setreq.http.connection="close";

#here.Itisnotsetbydefaultasitmightbreaksomebrokenweb

#applications,likeIISwithNTLMauthentication.

return(pipe);

}


subvcl_pass{

return(pass);

}


subvcl_hash{

setreq.hash+=req.url;

if(req.http.host){

setreq.hash+=req.http.host;

}else{

setreq.hash+=server.ip;

}

return(hash);

}


subvcl_hit{

if(!obj.cacheable){

return(pass);

}

return(deliver);

}


subvcl_miss{

return(fetch);

}


subvcl_fetch{

setreq.grace=30s;

if(!beresp.cacheable){

return(pass);

}

if(beresp.http.Set-Cookie){

return(pass);

}

#Nottocache

if(req.url~"^/vip/"){

return(pass);

}

#Tocache

if(req.request=="GET"&&req.url~"\/[0-9]{4}\.htm$"){

setberesp.ttl=300s;

}

if(req.request=="GET"&&req.url~"^/[a-z]+\d?/$"){

setberesp.ttl=300s;

}

if(req.request=="GET"&&req.url~"^/fang(.*)$"){

setberesp.ttl=300s;

}

if(req.request=="GET"&&req.url~"^/piao(.*)$"){

setberesp.ttl=20s;

}

if(req.request=="GET"&&req.url~"\.(png|swf|txt|png|gif|jpg|css|js|htm)$"){

setberesp.ttl=3600s;

}

if(req.request=="GET"&&req.url~"\/([0-9]+)_([0-9]*)\.htm$"){

setberesp.ttl=3104000s;

}

return(deliver);

}


subvcl_deliver{

if(obj.hits>0){

setresp.http.X-Cache="HITfrombj-185.cache.ganji.com";

}else{

setresp.http.X-Cache="MISSfrombj-185.cache.ganji.com";

}

return(deliver);

}

4、用适当权限启动Varnish

ulimit-SHn51200

/usr/local/varnish-2.1/sbin/varnishd-f/usr/local/varnish-2.1/etc/varnish/default.vcl-a192.168.1.185:80-uwww-gwww-pthread_pool_max=51200-pthread_pools=8-hclassic,500009-plru_interval=20-sfile,/data/varnish/varnish_cache.data,51200M-w1000,51200,10-T192.168.1.185:3500

5、配置开机自动启动Varnish

编辑启动执行脚本/etc/rc.local並将上面內容贴到最下方，也可以写成一个启动脚本varnish.sh

6、启动varnishncsa，用来将Varnish访问日志写入日志文件：

/usr/local/varnish-2.1/bin/varnishncsa-a-w/data/varnish/logs/varnish.log&

7、Varnish优化

7.1优化Linux核心参数

编辑/etc/sysctl.conf在底部增加以下内容：

net.ipv4.tcp_keepalive_time=300

#表示当Keepalive起用的时候，TCP发送keepalive消息的频繁度。预设值是2小时，这里我改为5分钟。

net.ipv4.tcp_tw_reuse=1

#表示开启重用。允許將TIME-WAITsockets重新用於新的TCP連接，預設为0，表示开关，我將它开啟。

net.ipv4.tcp_tw_recycle=1

#表示开启TCP連接中TIME-WAITsockets的快速回收，预设为0，表示开关，我将它开启。

net.ipv4.tcp_max_tw_buckets=5000

#表示系統同时保持TIME_WAIT套接字的最大属性，如果超过这个数字，TIME_WAIT套接字將立刻被清除並印出警告訊息。预设是180000，改为5000。

之后记得执行/sbin/sysctl-p使配置生效。

以下配置是官网上提供：(官网上说,这个配置可以支持4000-8000req/s的压力.)

net.ipv4.ip_local_port_range=102465536

#表示用來向外连接的端口范围。预设情况下很小：32768到61000，我将它改为1024到65536。

net.core.rmem_max=16777216

net.core.wmem_max=16777216

net.ipv4.tcp_rmem=40968738016777216

net.ipv4.tcp_wmem=40966553616777216

net.ipv4.tcp_fin_timeout=3

#表示如果套接字由本端要求开放，这个参数决定了它保持在FIN-WAIT-2状态的时间。

net.core.netdev_max_backlog=30000。

net.ipv4.tcp_no_metrics_save=1

net.core.somaxconn=262144

net.ipv4.tcp_syncookies=0

#表示开启SYNCookies。当出现SYN等待对列溢出时，启用cookies來处理，可防范少量SYN攻击，预设为0。

net.ipv4.tcp_max_orphans=262144

net.ipv4.tcp_max_syn_backlog=262144

#表示SYN队列的长度，预设为1024，加大队列长度为262144，可容纳更多等待连接的网路连接数。

net.ipv4.tcp_synack_retries=2

net.ipv4.tcp_syn_retries=2

7.2系统环境优化

ulimit-HSn131072

ulimit-HScunlimited

7.3VCL优化

vcl_recv:setreq.grace=30s;

vcl_fetch:setobj.grace=30s;

7.4参数优化.(“telnetlocalhost5000″后,输入”param.show”可以看到所有系统运行中的参数.输入”param.setthread_pools8″可以调整参数.)

thread_pools8[pools]

thread_pool_max2000[threads]

thread_pool_min100[threads]

thread_pool_timeout10[seconds]

#这四个参数要一起看.

#thread_pools是系统sess进入处理的pools.理想的情况下是一个cpu一个pool,如果pools过多会消耗cpu时间和mem.但是,pools多一点,处理并发的能力会更强.

#thread_pool_min是每个pools的最小threads数.当pools侦测到可处理sess后,就分配给所属的空余threads处理.

#thread_pool_max是所有pools所属的threads总和数的上限值.这个值不要设置的太高,一般是系统期望峰值的90%.太高了会发生"pile-ups",不知道怎么翻译,是不是"拥挤"?

#thread_pool_timeout是thread的过期时间.当threads数大于thread_pool_min的时候,thread的空闲超过thread_pool_timeout时间,thread就被释放.


listen_depth1024[connections]#tcp链接队列size.默认是512,适当调大一点,处理并发能力增强.

lru_interval20[seconds]

#优雅时间参数(不知道是不是应该这么翻译),意思就是,如果一个object,在内存中超过了这个时间还没有被重用,则把这个对象移动到LRU(LeastRecentlyUsed)队列中.一种普遍的cache算法.个人理解,提高这个时间,会减少object在内存中的copy,以提高运行效率.

8、接下來看看如何管理Varnish：

8.1查看Varnish服务器连接数与命中率：

/usr/local/varnish-2.1/bin/varnishstat

8.2通过Varnish管理端口進行管理（用–help查看可用的指令）

/usr/local/varnish-2.1/varnishadm-T127.0.0.1:3500help

8.3通过Varnish管理端口，使用正则表达式批量清除缓存：

(1)例如：清除类似http://www.example.com/a/abc.html的URL地址：

/usr/local/varnish-2.1/bin/varnishadm-T127.0.0.1:3500url.purge/a/

(2)例如：清除类似http://www.example.com/tech的URL地址：

/usr/local/varnish-2.1/bin/varnishadm-T127.0.0.1:3500url.purgew*$

(3)例如：清除所有缓存：

/usr/local/varnish-2.1/bin/varnishadm-T127.0.0.1:3500url.purge*$

8.4下面是一个每天0点执行，按天切割Varnish日志，生成一个压缩文档，同时删除上个月旧日志的腳本（/usr/local/shell/cutlog.sh）：

#!/bin/sh

#Thisfilerunat00:00

date=$(date-d"yesterday"+"%Y-%m-%d")

pkill-9varnishncsa

mv/data/varnish/logs/varnish.log/data/varnish/logs/${date}.log

/usr/local/varnish-2.1/bin/varnishncsa-a-w/data/varnish/logs/varnish.log&

gzip-c/data/varnish/logs/${date}.log>/data/varnish/logs/${date}.log.gz

rm-f/data/varnish/logs/${date}.log

rm-f/data/varnish/logs/$(date-d"-1month"+"%Y-%m*").log.gz

设定在每天早上00:00定时执行：

sudo/usr/bin/crontab-e

添加以下內容

00***/usr/local/shell/cutlog.sh

8.5如果你要确定varnish是否有正确执行，你可以用netstat-atp看有沒有一个正在监听的3500端口，或者用paaux|grepvarnishd看这个程序是否有在运行。

8.6Varnish监控程序使用

/usr/local/varnish-2.1/bin/varnishtop-irxheader-IReferer

/usr/local/varnish-2.1/bin/varnishtop-irxurl

/usr/local/varnish-2.1/bin/varnishlog-o-cReqStart192.168.113.171