数据库中间件:Canal

(1)理论基础

canal是阿里巴巴旗下的一款开源项目,纯Java开发。基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了MySQL。canal 就是一个同步增量数据的一个工具。

canal 应用场景1

我们在做mysql与redis的数据同步时,往往采用的是代码层实现,或者通过spring-cache等缓存框架。但是仍然有某些场景,比如说原项目无源码,或者不能进行二开时,就需要独立的第三方来实现数据同步。我们需要一种无代码入侵式的数据同步,完全由第三方组件管理。这就需要借助canal来实现mysql到redis的数据同步

canal 应用场景2

将用户的订单信息传入后台。

后台服务器将订单信息保存到mysql数据库。

又 canal 进行监控mysql中的写操作变化,将发生修改(Insert) 的数据写入到kafka

通过sparkStreaming读取Kafka中的数据,进行计算。

将计算好的结果,重新写入到服务器中,并返回到浏览器。

canal的作用

它可以实现增量同步,拿A商品举例,第一批数据中,A商品有100条,canal便会将这批新增的数据写入Kafka,再交给spark处理。第二次又新增一批数据,于是canal又将监控到新增数据写入到Kafka中。依次类推,最终由spark计算出结果返回出去。

canal 除了写入kafka 还能将数据写入到其他中间件(mq、elasticsearch、hbase等)

canal 工作原理

canal 模拟 MySQL slave 的交互协议,伪装自己为 MySQL slave ,向 MySQL master 发送 dump 协议

MySQL master 收到 dump 请求,开始推送 binary log 给 slave (即 canal )

canal 解析 binary log 对象(原始为 byte 流)

(2)环境配置

1.【mysql准备】

使用命令查看数据库是否开启binlog模式:

log_bin属性值为ON,则binlog模式开启;为OFF则binlog模式关闭。

show variables like 'log_%';

2.【canal解压】

canal.deployer-1.1.6.tar.gz

3. 【canal配置】

conf\example\instance.properties

canal.instance.master.address=127.0.0.1:3306

canal.instance.dbUsername=root

canal.instance.dbPassword=123456

canal.instance.filter.regex=.*\\..*

conf\canal.properties

canal.port = 11111

canal.destinations = example

4. 【Mysql读取位置】

show master status;

reset master;

特别注意:读取位置position必须和meta.dat中一致

5.【启动canal】

bat

6. 【查看日志】

logs\example\example.log

(3)项目应用

1. 【pom.xml】

        <dependency>

            <groupId>top.javatool</groupId>

            <artifactId>canal-spring-boot-starter</artifactId>

            <version>1.2.1-RELEASE</version>

        </dependency>

2. 【application.yml】

canal:

  server: 127.0.0.1:11111

  destination: example

3. 【Canal开发】

EntryHandler<T>接口实现

// 说明:监听表中数据的变化【添加、修改、删除】、自动调用对应的方法

@Component

@CanalTable("person")

public class PersonHandler implements EntryHandler<Person> {

    @Override

    public void insert(Person person) {

        System.out.println("表中添加了数据");

        System.out.println(person);

    }

    @Override

    public void update(Person before, Person after) {

        System.out.println("表中修改了数据");

        System.out.println(before);

        System.out.println(after);

    }

    @Override

    public void delete(Person person) {

        System.out.println("表中删除了数据");

        System.out.println(person);

    }

}

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,544评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,430评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,764评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,193评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,216评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,182评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,063评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,917评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,329评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,543评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,722评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,425评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,019评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,671评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,825评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,729评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,614评论 2 353

推荐阅读更多精彩内容