码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi


    【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi

    前言

    Flink CDC 是基于 Flink 开发的变化数据获取组件(Change data capture),简单的说就是来捕获变更的数据,Apache Hudi 是一个数据湖平台,又支持对数据做增删改查操作,所以 Flink CDC 可以很好的和 Hudi 结合起来,打造实时数仓,实时湖仓一体的架构,下面就来演示一下同步的过程。

    环境

    组件 版本
    Flink 1.15.1
    Hadoop 2.9.0
    Hudi 0.12.0
    Mysql 5.x
    Flink CDC 2.3.0

    添加 Jar 包依赖

    为了方便演示,这里就直接采用 sql-client 提交任务的方式,在提交任务之前,需要先添加几个必要的 Jar 包。

    flink-sql-connector-mysql-cdc-2.3.0.jar
    hudi-flink1.15-bundle-0.12.0.jar
    mysql-connector-java-5.1.47.jar
    
    • 1
    • 2
    • 3

    把这三个 Jar 包添加到 flink/lib 下面。

  • 相关阅读:
    Java项目:JSP在线水果销售商城
    CVE-2022-22947 Spring Cloud Gateway SPEL RCE复现
    OpenAI开发系列(二):大语言模型发展史及Transformer架构详解
    线性规划(一)——概念
    PyQt5基础练习2
    40+ Node.js 常见面试问题 [2024]
    1,2,4,5-四嗪-荧光染料/Cyanine3 tetrazine/Me-tetrazine-Cyanine3/Cyanine5/Cyanine7的性质
    比较运算符
    【深度学习实验】卷积神经网络(五):深度卷积神经网络经典模型——VGG网络(卷积层、池化层、全连接层)
    JVM基础(4)- JMM:java内存模型与线程安全
  • 原文地址:https://blog.csdn.net/xianpanjia4616/article/details/128113653
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号