码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 大数据学习3.1 Hadoop环境准备


    Hadoop环境

    • Hadoop集群拓扑
        • 1、集群拓扑
        • 2、角色分配
    • 一、虚拟机安装
    • 二、虚拟机克隆
      • 1、克隆类型
        • (1)完整克隆
        • (2)链接克隆
      • 2、克隆步骤
        • (1)克隆出master虚拟机
        • (2)克隆出slave1虚拟机
        • (3)克隆出slave2虚拟机
    • 三 、虚拟机配置
      • 1、配置master虚拟机
        • (1)设置主机名
        • (2)设置静态IP地址
        • (3)配置主机名与IP地址映射
      • 2、配置slave1虚拟机
        • (1)设置主机名
        • (2)设置静态IP地址
    • 四、关闭SeLinux安全机制
      • 1、在master虚拟机上关闭SeLinux安全机制
      • 2、在slave1虚拟机上关闭SeLinux安全机制
      • 3、在slave2虚拟机上关闭SeLinux安全机制

    Hadoop集群拓扑

    1、集群拓扑

    一个主节点,两个从节点

    2、角色分配

    完全分布式Hadoop集群搭建需要在集群的每个节点都安装Hadoop,集群角色分配如下表所示。

    节点角色
    masterNameNode, DataNode
    slave1DataNode
    slave2DataNode

    一、虚拟机安装

    安装虚拟机CentOS 7

    • 配置了静态IP地址(192.168.1.100)和主机名(ied)
      请添加图片描述

    • 关闭与禁用了防火墙
      请添加图片描述

    • 安装了vim编辑器
      请添加图片描述

    二、虚拟机克隆

    1、克隆类型

    (1)完整克隆

    • 完整克隆是对原始虚拟机完全独立的一个拷贝,它不和原始虚拟机共享任何资源,可以脱离原始虚拟机独立使用。

    (2)链接克隆

    • 链接克隆需要和原始虚拟机共享同一虚拟磁盘文件,不能脱离原始虚拟机独立运行。但是采用共享磁盘文件可以极大缩短创建克隆虚拟机的时间,同时还节省物理磁盘空间。

    2、克隆步骤

    (1)克隆出master虚拟机

    • 关闭CentOS 7虚拟机,在VMware工具左侧系统资源库中右键单击CentOS 7,选择“管理”列表下的“克隆”选项,弹出克隆虚拟机向导。
      请添加图片描述
      请添加图片描述

    • 选择克隆源——虚拟机中的当前状态
      请添加图片描述

    • 选择克隆类型——创建链接克隆
      请添加图片描述

    • 设置新虚拟机名称和位置
      请添加图片描述

    • 单击【完成】按钮
      请添加图片描述

    • 单击【关闭】,查看master虚拟机
      请添加图片描述

    (2)克隆出slave1虚拟机

    • 按照克隆master虚拟机的步骤克隆出slave1虚拟机
      请添加图片描述

    (3)克隆出slave2虚拟机

    • 按照克隆master虚拟机的步骤克隆出slave2虚拟机
      请添加图片描述

    三 、虚拟机配置

    1、配置master虚拟机

    • 启动master虚拟机
      请添加图片描述

    (1)设置主机名

    • 执行命令:hostnamectl set-hostname master
      请添加图片描述

    • 重启虚拟机,提示符变成[root@master ~]#
      请添加图片描述

    (2)设置静态IP地址

    • 查看IP地址可选范围
      请添加图片描述

    • 查看网关配置
      请添加图片描述

    • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
      请添加图片描述

    • 存盘退出,执行命令:systemctl restart network
      请添加图片描述

    • 执行命令:ip addr,查看设置的静态IP地址
      请添加图片描述

    (3)配置主机名与IP地址映射

    • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
      请添加图片描述

    • 存盘退出,验证配置效果
      请添加图片描述

    2、配置slave1虚拟机

    • 启动slave1虚拟机
      请添加图片描述

    (1)设置主机名

    • 执行命令:hostnamectl set-hostname slave1
      请添加图片描述

    • 重启虚拟机,提示符变成[root@slave1~]#
      请添加图片描述

    (2)设置静态IP地址

    • 执行命令:vim /etc/sysconfig/network-scripts/ifcfg-ens33
      请添加图片描述

    • 存盘退出,执行命令:systemctl restart network
      请添加图片描述

    • 执行命令:ip addr,查看设置的静态IP地址
      请添加图片描述

    (3)配置主机名与IP地址映射

    • 执行命令:vim /etc/hosts,添加三个映射(集群有三个虚拟机)
      请添加图片描述

    • 存盘退出,验证配置效果

    • slave1虚拟机可以通过主机名来ping通master虚拟机和slave1虚拟机
      请添加图片描述

    • master虚拟机可以通过主机名来ping通slave1虚拟机
      请添加图片描述

    3、配置slave2虚拟机

    • 启动slave2虚拟机

    操作与slave1相同

    • slave2虚拟机可以通过主机名来ping通master虚拟机、slave1虚拟机和slave2虚拟机
      请添加图片描述

    • master虚拟机可以通过主机名来ping通slave1虚拟机和slave2虚拟机
      请添加图片描述

    四、关闭SeLinux安全机制

    • 安全增强型 Linux(Security-Enhanced Linux)简称 SELinux,它是一个 Linux 内核模块,也是 Linux 的一个安全子系统。
    • SELinux 主要作用就是最大限度地减小系统中服务进程可访问的资源(最小权限原则)。
    • SELinux 有三种工作模式,分别是enforcing:强制模式;permissive:宽容模式;disabled:关闭 SELinux。
    • /etc/sysconfig/selinux 文件里SELINUX=enforcing,将enforcing改成disabled,就可以关闭SeLinux安全机制

    1、在master虚拟机上关闭SeLinux安全机制

    • 执行命令:vim /etc/sysconfig/selinux
      请添加图片描述

    2、在slave1虚拟机上关闭SeLinux安全机制

    • 执行命令:vim /etc/sysconfig/selinux
      请添加图片描述

    3、在slave2虚拟机上关闭SeLinux安全机制

    • 执行命令:vim /etc/sysconfig/selinux

    请添加图片描述

  • 相关阅读:
    [iOS]-单例模式\通知\代理
    虚拟摇杆OnJoystickMove未被调用,角色不移动
    进程和线程的区别
    netfilter&iptables探讨(2)——netfilter原理与实现
    判断是否为回文字符串
    探索D咖智能饮品机器人的工作原理:科技、材料与设计的相互融合
    词法分析(编译原理不用慌)
    【车间调度】基于改进鲸鱼算法解决柔性车间调度多目标问题附matlab代码
    骑士周游 ---递归的说明
    Docker下varlibdockeroverlay2空间清理办法
  • 原文地址:https://blog.csdn.net/zl202111/article/details/127715719
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号