码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 大数据:Flume安装部署和配置


    文章目录

    • Flume 简介
    • 一,Flume下载和安装
      • 1)登录[Flume官网](https://flume.apache.org/),下载 apache-flume-1.9.0-bin.tar.gz
      • 2)解压文件到 /opt 目录下
      • 3)改名为 flume
    • 二,Flume配置
      • 1)修改 /conf/ 目录下的 flume-env.sh 文件
      • 2)配置环境变量
    • 三,测试安装是否成功


    Flume 简介

    Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。
    在这里插入图片描述
    当前Flume有两个版本Flume 0.9X版本的统称Flume-og,Flume1.X版本的统称Flume-ng。由于Flume-ng经过重大重构,与Flume-og有很大不同,使用时请注意区分。

    数据采集我们使用Flume。

    一,Flume下载和安装

    1)登录Flume官网,下载 apache-flume-1.9.0-bin.tar.gz

    1.在官网页面单击download
    在这里插入图片描述
    2.在download页面中,单击archive repository
    在这里插入图片描述3.在下图页面单击 1.9.0/,
    在这里插入图片描述
    4.单击 apache-flume-1.9.0-bin.tar.gz,开始下载
    在这里插入图片描述

    在这里插入图片描述

    2)解压文件到 /opt 目录下

    1.拖动apache-flume-1.9.0-bin.tar.gz文件到FinalShell的master中的root目录下,它就会上传到该目录下,如下图所示:
    在这里插入图片描述在这里插入图片描述
    在这里插入图片描述

    2.在master界面下,输入命令:tar -zxvf apache-flume-1.9.0-bin.tar.gz -C /opt
    在这里插入图片描述

    3)改名为 flume

    1.改名
    进入opt目录,输入命令:cd /opt
    将文件夹apache-flume-1.9.0-bin改名为flume,输入命令:mv apache-flume-1.9.0-bin flume
    在这里插入图片描述

    2.查看改名是否成功
    查看opt目录下的文件名,输入命令:ls
    在这里插入图片描述

    二,Flume配置

    1)修改 /conf/ 目录下的 flume-env.sh 文件

    进入/opt/flume/conf/目录下,输入命令:cd /opt/flume/conf/
    在这里插入图片描述

    拷贝flume-env.sh.template并重命名为flume-env.sh在该文件夹下,输入命令:cp flume-env.sh.template flume-env.sh
    在这里插入图片描述

    查看文件是否拷贝成功,输入命令:ls
    在这里插入图片描述

    编辑 flume-env.sh 文件,输入命令: vi flume-env.sh
    在这里插入图片描述

    按i键进入插入模式,添加内容为(自己jdk的安装路径):export JAVA_HOME=/usr/java/latest
    在这里插入图片描述

    按Esc键退出插入模式,输入英文状态下的 :wq,按回车存盘退出
    在这里插入图片描述

    2)配置环境变量

    1.打开环境变量配置文件,输入命令:vi /etc/profile,增添以下内容:

    # Flume环境变量
    export FLUME_HOME=/opt/flume   
    export PATH=$FLUME_HOME/bin:$PATH
    
    • 1
    • 2
    • 3

    在这里插入图片描述
    2.刷新一下环境变量配置,输入命令:source /ect/profile
    在这里插入图片描述

    三,测试安装是否成功

    验证安装是否成功,输入命令:flume-ng version
    在这里插入图片描述

  • 相关阅读:
    并发基础(三):线程
    研究发现 IT 安全对高等教育非常重要
    【大摆子 做 摆烂题】【C++】
    【Android】【Gradle】
    网易云Android面试拿offer分享:Java多线程+View+flutter+算法题
    《对比Excel,轻松学习Python数据分析》读书笔记------多表拼接
    Mysql事务日志
    lvs负载均衡之配置lvs-tun模式的httpd负载集群
    IT运维管理系统在国有大型企业网络中的应用和可以解决的问题
    【校招VIP】前端专业课考点之其它协议和端口
  • 原文地址:https://blog.csdn.net/m0_62617719/article/details/127752066
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号