作者：幻好
来源： 恒生LIGHT云社区

随着系统业务量的不断扩大，都会使用分布式的方式，同时会有非常多的中间件，如redis、消息队列、大数据存储等，但是实际核心的数据存储依然是存储在数据库，多个数据库之前就会存在数据实时同步的问题，为了解决这个问题，需要采用一些数据实时同步中间件来解决问题。

Canal简介

Canal是阿里开源的一款基于 Mysql数据库 binlog的增量订阅和消费组件，通过它可以订阅数据库的 binlog日志，然后进行一些数据消费，如数据镜像、数据异构、数据索引、缓存更新等。相对于消息队列，通过这种机制可以实现数据的有序化和一致性。

设计背景

早期，阿里巴巴B2B公司因为存在杭州和美国双机房部署，存在跨机房同步的业务需求。不过早期的数据库同步业务，主要是基于trigger的方式获取增量变更，不过从2010年开始，阿里系公司开始逐步的尝试基于数据库的日志解析，获取增量变更进行同步，由此衍生出了增量订阅&消费的业务，从此开启了一段新纪元。

目前内部使用的同步，已经支持mysql5.x和oracle部分版本的日志解析。

基于日志增量订阅&消费支持的业务：

1. 数据库镜像
2. 数据库实时备份
3. 多级索引 (卖家和买家各自分库索引)
4. search build
5. 业务cache刷新
6. 价格变化等重要业务消息

工作原理

mysql主备复制实现

从上层来看，复制分成三步：

1. master将改变记录到二进制日志( binary log)中（这些记录叫做二进制日志事件， binary log events，可以通过 show binlog events进行查看）；
2. slave将 master的 binary log events拷贝到它的中继日志( relay log)；
3. slave重做中继日志中的事件，将改变反映它自己的数据。

canal的工作原理

原理相对比较简单：

1. canal模拟 mysql slave的交互协议，伪装自己为 mysql slave，向 mysql master发送 dump协议
2. mysql master收到 dump请求，开始推送 binary log给 slave(也就是 canal)
3. canal解析 binary log对象(原始为byte流)

底层架构

说明：

• server代表一个 canal运行实例，对应于一个 jvm
• instance对应于一个数据队列 （1个 server对应1..n个 instance)

instance模块：

• eventParser (数据源接入，模拟slave协议和master进行交互，协议解析)
• eventSink (Parser和Store链接器，进行数据过滤，加工，分发的工作)
• eventStore (数据存储)
• metaManager (增量订阅&消费信息管理器)

EventParser设计

整个 parser过程大致可分为几步：

1. Connection获取上一次解析成功的位置 (如果第一次启动，则获取初始指定的位置或者是当前数据库的 binlog位点)
2. Connection建立链接，发送 BINLOG_DUMP指令
   // 0. write command number
   // 1. write 4 bytes bin-log position to start at
   // 2. write 2 bytes bin-log flags
   // 3. write 4 bytes server id of the slave
   // 4. write bin-log file name
3. Mysql开始推送 Binaly Log
4. 接收到的 Binaly Log的通过 Binlog parser进行协议解析，补充一些特定信息
   // 补充字段名字，字段类型，主键信息，unsigned类型处理
5. 传递给 EventSink模块进行数据存储，是一个阻塞操作，直到存储成功
6. 存储成功后，定时记录 Binaly Log位置

EventSink设计

说明：

• 数据过滤：支持通配符的过滤模式，表名，字段内容等
• 数据路由/分发：解决1:n (1个 parser对应多个 store的模式)
• 数据归并：解决n:1 (多个 parser对应1个 store)
• 数据加工：在进入 store之前进行额外的处理，比如 join

EventStore设计

• 1.目前仅实现了 Memory内存模式，后续计划增加本地 file存储， mixed混合模式
• 2.借鉴了 Disruptor的 RingBuffer的实现思路

RingBuffer设计：

定义了3个cursor

• Put : Sink模块进行数据存储的最后一次写入位置
• Get : 数据订阅获取的最后一次提取位置
• Ack : 数据消费成功的最后一次消费位置

Instance设计

instance代表了一个实际运行的数据队列，包括了 EventPaser, EventSink, EventStore等组件。

抽象了 CanalInstanceGenerator，主要是考虑配置的管理方式：

• manager方式： 和你自己的内部web console/manager系统进行对接。(目前主要是公司内部使用)
• spring方式：基于spring xml + properties进行定义，构建spring配置。

Server设计

server代表了一个canal的运行实例，为了方便组件化使用，特意抽象了 Embeded(嵌入式) / Netty(网络访问)的两种实现

• Embeded : 对 latency和可用性都有比较高的要求，自己又能hold住分布式的相关技术(比如 failover)
• Netty : 基于 netty封装了一层网络协议，由 canal server保证其可用性，采用的pull模型，当然 latency会稍微打点折扣，不过这个也视情况而定。(阿里系的 notify和 metaq，典型的 push/pull模型，目前也逐步的在向 pull模型靠拢， push在数据量大的时候会有一些问题)

HA机制

canal的 ha分为两部分， canal server和 canal client分别有对应的ha实现

• canal server: 为了减少对 mysql dump的请求，不同 server上的 instance要求同一时间只能有一个处于 running，其他的处于standby状态.
• canal client: 为了保证有序性，一份 instance同一时间只能由一个 canal client进行 get/ack/rollback操作，否则客户端接收无法保证有序。

整个HA机制的控制主要是依赖了 zookeeper的几个特性， watcher和 EPHEMERAL节点(和 session生命周期绑定)。

Canal Server:

大致步骤：

1. canal server要启动某个 canal instance时都先向 zookeeper进行一次尝试启动判断 (实现：创建EPHEMERAL节点，谁创建成功就允许谁启动)
2. 创建 zookeeper节点成功后，对应的 canal server就启动对应的 canal instance，没有创建成功的 canal instance就会处于standby状态
3. 一旦 zookeeper发现 canal server A创建的节点消失后，立即通知其他的 canal server再次进行步骤1的操作，重新选出一个 canal server启动 instance.
4. canal client每次进行connect时，会首先向 zookeeper询问当前是谁启动了 canal instance，然后和其建立链接，一旦链接不可用，会重新尝试connect.

Canal Client的方式和 canal server方式类似，也是利用 zookeeper的抢占EPHEMERAL节点的方式进行控制。

应用场景

数据同步

• 微服务开发环境下，为了提高搜索效率，以及搜索的精准度，会大量使用 Redis、 Mongodb等 NoSQL数据库，也会使用大量的 Solr、 Elasticsearch等全文检索服务。那么，这个时候，就会有一个问题需要我们来思考和解决：那就是数据同步的问题！
• Canal可以将实时变化的数据库中的数据同步到 Redis, Mongodb或者 Solr/ Elasticsearch中。

数据异构

在大型网站架构中，DB都会采用分库分表来解决容量和性能问题，但分库分表之后带来的新问题。比如不同维度的查询或者聚合查询，此时就会非常棘手。一般我们会通过数据异构机制来解决此问题，数据异构就是将需要join查询的多表按照某一个维度又聚合在一个DB中。让你去查询。canal就是实现数据异构的手段之一。