Kafka介绍及安装部署
本节内容:
- 消息中间件
- 消息中间件特点
- 消息中间件的传递模型
- Kafka介绍
- 安装部署Kafka集群
- 安装Yahoo kafka manager
- kafka-manager添加kafka cluster
一、消息中间件
消息中间件是在消息的传输过程中保存消息的容器。消息中间件在将消息从消息生产者到消费者时充当中间人的作用。队列的主要目的是提供路由并保证消息的传送;如果发送消息时接收者不可用,消息对列会保留消息,直到可以成功地传递它为止,当然,消息队列保存消息也是有期限的。
二、消息中间件特点
1. 采用异步处理模式
消息发送者可以发送一个消息而无须等待响应。消息发送者将消息发送到一条虚拟的通道(主题或者队列)上,消息接收者则订阅或者监听该通道。一条消息可能最终转发给一个或多个消息接收者,这些接收者都无需对消息发送者做出同步回应。整个过程是异步的。
- 比如用户信息注册。注册完成后过段时间发送邮件或者短信。
2. 应用程序和应用程序调用关系为松耦合关系
- 发送者和接收者不必要了解对方、只需要确认消息
- 发送者和接收者不必同时在线
比如在线交易系统为了保证数据的最终一致,在支付系统处理完成后会把支付结果放到信息中间件里通知订单系统修改订单支付状态。两个系统通过消息中间件解耦。
三、消息中间件的传递模型
1. 点对点模型(PTP)
点对点模型用于消息生产者和消息消费者之间点对点的通信。消息生产者将消息发送到由某个名字标识的特定消费者。这个名字实际上对应于消费服务中的一个队列(Queue),在消息传递给消费者之前它被存储在这个队列中。队列消息可以放在内存中也可以是持久的,以保证在消息服务出现故障时仍然能够传递消息。
点对点模型特性:
- 每个消息只有一个消费者
- 发送者和接受者没有时间依赖
- 接受者确认消息接受和处理成功
[root@console kafka-manager]# cp target/universal/kafka-manager-1.3.0.6.zip ~/ [root@console kafka-manager]# cd [root@console ~]# unzip -oq kafka-manager-1.3.0.6.zip安装kafka manager
7. 配置kafka-manager
[root@console ~]# cd kafka-manager-1.3.0.6/ [root@console kafka-manager-1.3.0.6]# vim conf/application.conf
设置zkhosts:
kafka-manager.zkhosts="114.55.29.246:2181,114.55.29.86:2181,114.55.29.241:2181"
8. 启动kafka-manager
[root@console kafka-manager-1.3.0.6]# bin/kafka-manager
默认监听的端口是9000。你也可以在启动时指定配置文件和监听端口:
# bin/kafka-manager -Dconfig.file=/path/to/application.conf -Dhttp.port=8080
启动并置于后台运行:
[kmanager@console kafka-manager-1.3.0.6]$ nohup bin/kafka-manager > /dev/null 2>&1 &
七、kafka-manager添加kafka cluster
浏览器输入地址访问:http://114.55.29.246:9000/
注意:安装完成后需要手动添加Cluster。添加Cluster是指添加一个已有的Kafka集群进入监控列表,而非通过Kafka Manager部署一个新的Kafka Cluster,这一点与Cloudera Manager不同。
- Kafka安装及部署
- openstack单机ubuntu虚拟机环境安装部署经验及源码结构简单介绍(适合入门者)
- Hadoop入门进阶课程8--Hive介绍和安装部署
- Redis的介绍与安装部署
- Linux下单机安装部署kafka及代码实现
- kafka集群安装部署及常用命令
- SVN介绍和安装部署
- 【KafKa系列】KafKa安装部署
- ElasticSearch入门介绍之安装部署(二)
- 1.Redis的介绍与安装部署
- hive的详细介绍,安装,部署
- kafka详细介绍,安装,配置
- Win8.1部署 .NET Framework 3.5 安装方式介绍
- Kafka安装及部署
- Kafka集群安装部署、Kafka生产者、Kafka消费者
- MDT2010部署之一 安装和介绍
- 网络分析系统安装部署介绍
- Hadoop入门进阶课程8--Hive介绍和安装部署
- Ansible之安装部署及常用模块的使用介绍 推荐
- Sqoop-1.4.6安装部署及详细使用介绍