码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Flink学习之旅:(一)Flink部署安装


    1.本地搭建

    1.1.下载Flink

            进入Flink官网,点击Downloads

            往下滑动就可以看到 Flink 的所有版本了,看自己需要什么版本点击下载即可。

    1.2.上传解压

            上传至服务器,进行解压

    tar -zxvf flink-1.17.1-bin-scala_2.12.tgz -C ../module/

    1.3.启动Flink

    1. #进入flink安装目录
    2. cd /opt/module/flink-1.17.1/
    3. #启动flink
    4. bin/start-cluster.sh

    查看进程 jps,正常启动!

    1.4.查看 Web ui

            启动成功后,访问http://[IP]:8081,可以对集群和任务进行监控管理。

    1.5.关闭Flink

    bin/stop-cluster.sh

    2.集群搭建

            角色分配。Flink 是典型的 Master-Slave 架构的分布式数据处理框架,其中 Master 角色对应着 JobManager,Slave 角色则对应 TaskManager。

            三台测试。

    服务器hadoop102hadoop103hadoop104
    角色
    JobManager
    TaskManager
    TaskManager

    2.1.下载并解压安装包

            与本地搭建一致

    2.2.修改集群配置

    2.2.1修改 flink-conf.yaml 文件

    1. #进入Flink 安装目录
    2. cd /opt/module/flink-1.17.1/
    3. #修改文件
    4. vim conf/flink-conf.yaml

    修改JobManager 节点地址.将 jobmanager.rpc.address 参数的值 改为 hadoop102 (根据自己的服务器名称),指定 hadoop 节点服务为 JobManager 节点。

    2.2.2修改workers文件

    1. vim conf/workers
    2. hadoop103
    3. hadoop104

    指定 hadoop103、hadoop104 服务器 为 TaskManager 节点

    2.3.分发安装目录

    1. scp -r /opt/module/flink-1.17.1/ hadoop103:/opt/module/
    2. scp -r /opt/module/flink-1.17.1/ hadoop104:/opt/module/

    2.4.集群启动

            在 hadoop102 服务器中 启动

    bin/start-cluster.sh

            查看 各服务器节点进程是否正常

    hadoop102

    hadoop103

    hadoop104

    2.5查看 Web ui

            Available Task Slots显示为0,需要重新配置下 TaskManager节点的服务器(2台)中的 flink-conf.yaml 文件,将 taskmanager.host 参数值 改为 服务器的 ip或 主机名

    重新启动 flink 集群,显示 正常。当前集群的 TaskManager 数量为 2;由于默认每个 TaskManager 的 Slot 数量为 1,所以总 Slot 数和可用 Slot 数都为 2。

    3.测试

    Flink学习之旅:(二)构建Flink demo工程并提交到集群执行-CSDN博客在idea中创建一个 名为 MyFlinkFirst 工程。https://blog.csdn.net/qq_35370485/article/details/133905729?spm=1001.2014.3001.5501

  • 相关阅读:
    【C++优先级队列priority_queue基础】基本使用,模拟实现,堆
    在腾讯云 TKE 上部署 EMQX MQTT 服务器集群
    四旋翼无人机学习第7节--Si24R1以及RGBLED电路分析
    【前端学习】—JS判断数据类型的方式有哪些(八)
    Prime Protocol宣布在Moonbeam上的跨链互连应用程序
    STM32 定时器介绍--通用、高级定时器
    猿创征文|Java-泛型(Generic)
    基于Springboot+vue的服装销售购物商城网站 毕业设计源码
    netdata 监控软件安装与学习
    C++实现蜂群涌现效果(flocking)
  • 原文地址:https://blog.csdn.net/qq_35370485/article/details/133901156
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号