• Flume基本使用--mysql数据输出


    MySQL数据输出

    在MySQL中建立数据库school,在数据库中建立表student。SQL语句如下:

    1. create database school;
    2. use school;
    3. create table student(
    4. id int not null,
    5. name varchar(40),
    6. age int,
    7. grade int,
    8. primary key(id)
    9. );

    请使用Flume实时捕捉MySQL数据库中的记录更新,一旦有新的记录生成,就捕获该记录并显示到控制台。可以使用如下SQL语句模拟MySQL数据库中的记录生成操作。

    1. insert into student(id,name,age,grade)value(1,'Xiaoming',23,98);
    2. insert into student(id,name,age,grade)value(2,'Zhangsan',24,96);
    3. insert into student(id,name,age,grade)value(3,'Lisi',24,93);
    4. insert into student(id,name,age,grade)value(4,'Wangwu',21,91);
    5. insert into student(id,name,age,grade)value(5,'Weiliu',21,91);

    要求:

    (1)给出配置文件

    安装好flume-ng-sql-source-1.5.2.jar以及mysql-connector-java-8.0.23.jar

    1. #设置名称
    2. a1.sources=r1
    3. a1.sinks=k1
    4. a1.channels=c1
    5. #配置Source
    6. a1.sources.r1.type=org.keedio.flume.source.SQLSource
    7. a1.sources.r1.hibernate.connection.url=jdbc:mysql://localhost:3306/school
    8. a1.sources.r1.hibernate.connection.user=root
    9. a1.sources.r1.hibernate.connection.password=123456
    10. a1.sources.r1.hibernate.connection.autocommit=true
    11. a1.sources.r1.table=student
    12. a1.sources.r1.run.query.delay=5000
    13. a1.sources.r1.status.file.path=C:/software/apache-flume-1.9.0-bin
    14. a1.sources.r1.status.file.name=a1.status
    15. #配置Sink
    16. a1.sinks.k1.type=logger
    17. #配置channels
    18. a1.channels.c1.type=memory
    19. #绑定sink source到channels上
    20. a1.sources.r1.channels=c1
    21. a1.sinks.k1.channel=c1

    (2)写出启动Flume的命令

    新建一个cmd窗口,输入如下命令启动Flume:

    > cd C:\apache-flume-1.9.0-bin

    > .\bin\flume-ng agent --conf .\conf --conf-file .\conf\znconsole.conf --name a1 -property flume.root.logger=INFO,console

    (3)在MySQL窗口中执行如下SQL语句,向数据库中插入记录后,在Flume窗口将运行结果展出来

    建表,插入数据

    Flume接收到数据,可以看到我在插入数据时还把自己的名字发过去了

  • 相关阅读:
    Linux 网卡性能优化设置
    Python之并发编程
    堆以及堆的实现
    Redis 由浅入深 (6) - Redis批量删除key
    抖音店铺列表接口h5
    VMware 安装macos的方法
    整理37个超牛逼的Python库,用过一半算你牛
    学习编程只需要这三条建议!
    轻松实现文件按大小归类保存,高效管理你的文件库!
    基金客户和销售机构
  • 原文地址:https://blog.csdn.net/zn2021220822/article/details/134001681