databus概述

概述

Databus 是 LinkedIn 开源的一款低延迟的分布式数据库同步系统(a source-agnostic distributed change data capture system)，它提供可靠的数据捕获、流转和数据处理功能。针对这些功能，有以下几个特性：
隔离性 (隔离数据源和消费端)；
高可用性 (保证有秩序的且至少一次数据传递)；
数据完整性 (在任意的时间点的数据变化有完整的数据引导和回溯能力)；
一致性 (源一致性保存)；
分区消费

技术架构

Databus Relays

从数据源中读取变化的数据，并且将这些数据序列化保存在内存中；
监听client的请求(包括bootstrap client)，且返回数据变化的事件给client(包括bootstrap client)；
详细参考(02-Databus Relays)

Databus Clients

通过Databus Relays restful 服务，检查新的数据变化事件，并处理业务逻辑(如同步数据、保存入缓存服务等)；
如果与relays的连接断开时间太长(SCN号差别大)，会向bootstrap server发送一个查询请求；
新的客户端向bootstrap server查询之后，切换到relays获取最近的数据变化事件；
客户端可以单独的部署处理所有的databus relays事件，也可以主从部署，每个消费端只消费一部分事件；
详细参考(03-Databus Clients)

Databus Bootstrap Servers

监听databus clients的请求，并返回回溯数据变化事件，用于数据引导和数据追赶；
详细参考(04-Databus Bootstrap)

Databus Bootstrap Producers

一个特殊的客户端；
检查Databus Relays上的数据变化事件；
将检查到的数据变化时间保存至 mysql 数据库；
Mysql 数据库用于 Clients 引导和回溯数据