Ambari引入kafka服务并进行基本的测试
2017-08-23 10:19
453 查看
1、打开ambari的首页,如:http://ip:8080/,默认账号和密码都是admin,进行登录。
2、点击左下角的Action,添加服务 Add Service ,勾选kafka ,如下图
3、按下一步下一步的步骤添加了几个工作节点的ip地址,然后进行下载安装,等待安装完毕后,选择Service Actions--->start 启动
4、启动完后,就可以往kafka推送消息,推送消息的时候是在不同的机器上进行推送,出现推送的异常。
[2017-08-22 15:04:34,018] ERROR support.LoggingProducerListener: Exception thrown when sending a message with key='3' and payload='{"id":"3","data":"hello world“”}' to topic topic_test,
最后排查出原因是kafka的listeners默认设置的localhost,导致其他主机在访问broker的ip无法访问,解决办法是在对每台安装kafaka的节点各自设置自己的ip:port或者主机名:port。
如下图所示。
5、通过命令订阅数据频道topic_test,可以接收到数据,订阅命令如下:
查看所有topic的列表命令如下:
6、由于推送主题频道的消息结构变更了,Consumer消费客户端在订阅主题频道的时候无法接收到往该频道推送的消息,查看group的设置的也是唯一的,之后删除了
Zookeeper的所有topic,重新启动连接kafka推送与订阅,订阅主题频道的数据接收恢复正常。删除Zookeeper的命令如下:
注释:怀疑是否是groupid的问题,但又因为kafka的borker的每个分区只能被同个组group的一个消费者订阅,可又因为没修改Kafka的borker的pation.num的分区数,kafka的默认分区数是1
2、点击左下角的Action,添加服务 Add Service ,勾选kafka ,如下图
3、按下一步下一步的步骤添加了几个工作节点的ip地址,然后进行下载安装,等待安装完毕后,选择Service Actions--->start 启动
4、启动完后,就可以往kafka推送消息,推送消息的时候是在不同的机器上进行推送,出现推送的异常。
[2017-08-22 15:04:34,018] ERROR support.LoggingProducerListener: Exception thrown when sending a message with key='3' and payload='{"id":"3","data":"hello world“”}' to topic topic_test,
名称 | 说明 | 有效值 |
listeners | 监听列表(以逗号分隔 不同的 协议(如plaintext,trace,ssl、 不同的IP和端口)),hostname 如果设置为0.0.0.0则绑定所 有的网卡地址;如果hostname 为空则绑定默认的网卡。 如果 没有配置则默认为 java.net .InetAddress .getCanonicalHostName() | 如:PLAINTEXT: //myhost: 9092, TRACE://: 9091 或 PLAINTEXT: //0.0.0.0 :9092, |
如下图所示。
5、通过命令订阅数据频道topic_test,可以接收到数据,订阅命令如下:
./kafka-console-consumer.sh --topic topic_test --zookeeper ip:2181 --from-beginning
查看所有topic的列表命令如下:
./kafka-topics.sh --list --zookeeper ip:2181
6、由于推送主题频道的消息结构变更了,Consumer消费客户端在订阅主题频道的时候无法接收到往该频道推送的消息,查看group的设置的也是唯一的,之后删除了
Zookeeper的所有topic,重新启动连接kafka推送与订阅,订阅主题频道的数据接收恢复正常。删除Zookeeper的命令如下:
zookeeper-client rmr /brokers/topics
注释:怀疑是否是groupid的问题,但又因为kafka的borker的每个分区只能被同个组group的一个消费者订阅,可又因为没修改Kafka的borker的pation.num的分区数,kafka的默认分区数是1
相关文章推荐
- RAID进行测试的基本命令
- 对Web服务进行压力测试
- [转] 对Web服务进行压力测试
- A/B 测试的基本概念举例理解以及具体实现方法【传统A/B测试基于后端的 A/B 测试(Back-end AB test),现在基本上基于前端js在客户端进行分流,有更多优点,请看里面】
- kafka基本命令启动和测试
- 如何进行Web服务的性能测试?
- 使用jMeter构造大量并发HTTP请求进行微服务性能测试
- 对Web服务进行压力测试
- 某服务请求经负载均衡设备分配到集群A、B、C、D进行处理响应的概率分别是10%、20%、30%和40%。已知测试集群所得的稳定性指标分别是90%、95%、99%和99.9%。现在该服务器请求处理失败,
- 用微软的压力测试工具进行拒绝服务攻击
- Robot自定义python关键字库通过ice中间件调用服务进行API测试
- 对 Web 服务进行压力测试
- 对Web服务进行压力测试
- 03-eclipse创建maven项目进行Kafka Producer的测试
- A/B 测试的基本概念举例理解以及具体实现方法【传统A/B测试基于后端的 A/B 测试(Back-end AB test),现在基本上基于前端js在客户端进行分流,有更多优点,请看里面】
- Ambari-Server Rest API处理2(Ambari-Server通过Rest API进行服务安装、部署、操作流程+操作源码分析)
- 使用JMeter进行Web 性能测试 - 基本操作
- fidder 进行软件测试时监听本地部署系统的服务
- UiAutomator初识-在android上进行UiAutomator 测试基本步骤
- 如何进行Web服务的性能测试