Elasticsearch集群搭建

之前对于CDN的日志处理模型是从 

logstash agent==>>redis==>>logstash index==>>elasticsearch==>>kibana3，对于elasticsearch集群搭建，可以把索引进行分片存储，一个索引可以分成若干个片，分别存储到集群里面，而对于集群里面的负载均衡，副本分配，索引动态均衡（根据节点的增加或者减少）都是elasticsearch自己内部完成的，一有情况就会重新进行分配。 

下面先是介绍几个关于elasticsearch的几个名词 

cluster 

代表一个集群，集群中有多个节点，其中有一个为主节点，这个主节点是可以通过选举产生的，主从节点是对于集群内部来说的。es的一个概念就是去中心化，字面上理解就是无中心节点，这是对于集群外部来说的，因为从外部来看es集群，在逻辑上是个整体，你与任何一个节点的通信和与整个es集群通信是等价的。 
shards 

代表索引分片，es可以把一个完整的索引分成多个分片，这样的好处是可以把一个大的索引拆分成多个，分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定，并且索引创建后不能更改。 
replicas 

代表索引副本，es可以设置多个索引的副本，副本的作用一是提高系统的容错性，当个某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率，es会自动对搜索请求进行负载均衡。 
recovery 

代表数据恢复或叫数据重新分布，es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配，挂掉的节点重新启动时也会进行数据恢复。 
river 

代表es的一个数据源，也是其它存储方式（如：数据库）同步数据到es的一个方法。它是以插件方式存在的一个es服务，通过读取river中的数据并把它索引到es中，官方的river有couchDB的，RabbitMQ的，Twitter的，Wikipedia的，river这个功能将会在后面的文件中重点说到。 
gateway 

代表es索引的持久化存储方式，es默认是先把索引存放到内存中，当内存满了时再持久化到硬盘。当这个es集群关闭再重新启动时就会从gateway中读取索引数据。es支持多种类型的gateway，有本地文件系统（默认），分布式文件系统，Hadoop的HDFS和amazon的s3云存储服务。 
discovery.zen 

代表es的自动发现节点机制，es是一个基于p2p的系统，它先通过广播寻找存在的节点，再通过多播协议来进行节点之间的通信，同时也支持点对点的交互。 
Transport 

代表es内部节点或集群与客户端的交互方式，默认内部是使用tcp协议进行交互，同时它支持http协议（json格式）、thrift、servlet、memcached、zeroMQ等的传输协议（通过插件方式集成）。

下面是elasticsearch以及组件的安装

yum -y install unzip java-1.6.0*
mkdir -p /opt/ && cd /opt/
wget https://download.elasticsearch.org/elasticsearch/elasticsearch/elasticsearch-0.90.7.tar.gz tar -zxvf elasticsearch-0.90.7.tar.gz
mv elasticsearch-0.90.7 elasticsearch
cd elasticsearch
bin/elasticsearch

下面是elasticsearch的配置，ela可以指定一个集群名，集群里可以配置一个Master，多个node，可以手动配置也可以选举产生。按照下面的配置，选择一台机器是Master，主要修改config下面的elasticsearch.yml

cluster.name: "logstash_ela"
node.name: "elasticsearch_node0"
node.master: true
node.data: true

修改Data的node的elasticsearch.yml配置文件

cluster.name: "logstash_ela"
node.name: "elasticsearch_node1"
node.master: false
node.data: true

可视化ela-head组件安装

bin/plugin -install mobz/elasticsearch-head ==>> http://ip:9200/_plugin/head[/code] 


看上面的图片就是索引存储的分配，0~4是5个分片，是默认设置的，但是有备份的，所以一天的索引就会有十个分片。仔细看看，对于有的分片周围是粗的线，点击查看发现其实是primary，是true就代表是主数据，检索的时候从这里拿，如果是false的时候就代表是backup的数据。再可以看详细的图



bin/plugin -install lukas-vlcek/bigdesk ==>> http://ip:9200/_plugin/bigdesk[/code] 
看看监控效果