您的位置:首页 > 数据库 > MySQL

自助搭建mysql-canal-kafka通道

2017-10-17 11:45 288 查看


该canal集成了java,无须繁琐的安装,直接配置几个参数即可实现mysql-canal-kafka


Mysql 环境配置


一、binlog 格式设置

调整 mysql 参数至如下即可。
mysql> show variables like 'binlog_format';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW   |
+---------------+-------+
1 row in set (0.00 sec)


参考配置(my.cnf):

修改好上述配置后,最好再运行一次 flush logs 命令


二、super privilege user

线下测试默认数据库是可以用 root 的,有 root 用 root 即可。


Kafka 环境配置

这个安装比较简单,网上都有,掠过,canal需要配置kafka的broker地址和topic


Zookeeper 环境配置

线上使用的 zookeeper 为 3.4.6 版本,部署到某个地方,微调 zoo.cfg,启动即可。


Canal 环境配置


一、部署

下载 canal-lite.xxx (附件过大无法上传,有需求请留言)到目标位置,运行以下命令:
cat canal-lite.x* > canal.tar.gz
tar -zxvf canal.tar.gz


canal 需要 java 版本 >= 1.7 才能运行。开启和关闭方式分别为 
sh bin/startup.sh
 和 
sh bin/stop.sh


二、配置修改

canal 需要修改的配置在以下两个位置:

conf/canal.properties

conf/example/instance.properties

其中 example 为 destination 名称,如果和其他 canal 混用 zookeeper,请保证 destination 不会冲突。

conf/canal.properties 需要修改的参数

conf/destination/instance.properties 需要修改的参数

内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: