zl程序教程

您现在的位置是:首页 >  数据库

当前栏目

Flink CDC 同步mysql数据

2023-09-27 14:28:03 时间

前言

在实际开发中,需要做数据同步的场景是非常多的,比如不同的应用之间不想直接通过RPC的方式进行数据交互,或者说下游应用需要检测来自上游应用的某些业务指标数据的变化时,这些都可以考虑使用数据同步的方式完成;

数据同步通常分为离线同步,和准实时同步,以mysql为例,当下游应用需要通过监控上游的mysql某个表的数据变化来完成自身的业务时,数据同步的实现方式可以有很多种,比如通过canal的方式在应用层做监控,这也是比较常用的一种方式;

在大数据场景下,我们可以考虑另一种方式,即Flink CDC,这也是一种比较通用的数据同步解决方案;

不管是使用哪种方式,其底层的核心原理都是通过监控mysql的binlog的日子变化,从而进行日子解析,得到变化的数据;

下面通过Flink CDC提供的2种常用的数据同步方式,演示下如何使用Flink CDC同步mysql的数据;

github配置参考地址:https://github.com/ververica/flink-cdc-connectors

前置准备

1、安装mysql服务,并开启binlog;

注意,这里的: binlog_format一定要选择为 row的模式