自助搭建mysql-canal-kafka通道
2017-10-17 11:45
288 查看
该canal集成了java,无须繁琐的安装,直接配置几个参数即可实现mysql-canal-kafka
Mysql 环境配置
一、binlog 格式设置
调整 mysql 参数至如下即可。mysql> show variables like 'binlog_format'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | ROW | +---------------+-------+ 1 row in set (0.00 sec)
参考配置(my.cnf):
二、super privilege user
线下测试默认数据库是可以用 root 的,有 root 用 root 即可。
Kafka 环境配置
这个安装比较简单,网上都有,掠过,canal需要配置kafka的broker地址和topic
Zookeeper 环境配置
线上使用的 zookeeper 为 3.4.6 版本,部署到某个地方,微调 zoo.cfg,启动即可。
Canal 环境配置
一、部署
下载 canal-lite.xxx (附件过大无法上传,有需求请留言)到目标位置,运行以下命令:cat canal-lite.x* > canal.tar.gz tar -zxvf canal.tar.gz
canal 需要 java 版本 >= 1.7 才能运行。开启和关闭方式分别为
sh bin/startup.sh和
sh bin/stop.sh
二、配置修改
canal 需要修改的配置在以下两个位置:conf/canal.properties
conf/example/instance.properties
其中 example 为 destination 名称,如果和其他 canal 混用 zookeeper,请保证 destination 不会冲突。
conf/canal.properties 需要修改的参数
相关文章推荐
- 搭建:canal部署与实例运行和解析MysqlBinlog日志发送到Kafka中
- Docker + Nodejs + Kafka + Redis + MySQL搭建简单秒杀环境
- linux下nginx+php+mysql 自助环境搭建
- 使用flume-ng+kafka+storm+mysql 搭建实时日志处理平台
- Docker + Nodejs + Kafka + Redis + MySQL搭建简单秒杀环境
- mysql主主搭建及问题解决方案
- Ubuntu+Apache+PHP+Mysql环境搭建(完整版)
- mysql主从服务器搭建
- mysql主从服务器的搭建
- [Kafka]Kafka入门:简介、使用场景、设计原理、主要配置及集群搭建(转)
- 使用WebRTC搭建前端视频聊天室——数据通道篇
- Ubuntu+Apache+PHP+Mysql环境搭建
- Ubuntu14.0搭建Apache+php+mysql环境(腾讯云)
- kafka入门:简介、使用场景、设计原理、主要配置及集群搭建
- 搭建: canal部署与实例运行
- MySQL5.1版本的主从复制搭建
- python2.7x Django mysql在windows Ubuntu下的环境搭建
- Spark - Hadoop-Spark-Hive-Kafka-Flume 分布式集群搭建 与 spark rdd常用api操作
- centos7源码安装apache+mysql+php搭建LAMP
- 基于Linux环境Tomcat-MySQL的服务器搭建