• 1. hadoop环境准备


    环境准备

    准备三台虚拟机,配置最好是 2C 4G 以上

    本文准备三台机器的内网ip分别为

    172.17.0.10
    172.17.0.11
    172.17.0.12
    
    • 1
    • 2
    • 3

    本机配置/etc/hosts

    cat >> /etc/hosts<
    • 1
    • 2
    • 3
    • 4
    • 5

    本机设置与服务器地址免密登录

    这一步可以设置也可以不设置,在mac电脑上设置免密登录比较方便

    如果是通过工具入secure-crt那也可以记住密码就行

    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop01
    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop02
    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop01
    
    • 1
    • 2
    • 3

    ssh root@hadoop01 测试看能不能登录

    主机修改hostname

    分别进入三台虚拟机,设置对应的hostname

    hostnamectl set-hostname hadoop01
    hostnamectl set-hostname hadoop02
    hostnamectl set-hostname hadoop03
    
    • 1
    • 2
    • 3

    效果如图所示
    hadoop01

    主机配置hosts

    与本机操作一样

    cat >> /etc/hosts<<EOF
    172.17.0.10 hadoop01
    172.17.0.11 hadoop02
    172.17.0.12 hadoop03
    EOF
    
    • 1
    • 2
    • 3
    • 4
    • 5
    ping hadoop02
    PING hadoop02 (172.17.0.11) 56(84) bytes of data.
    64 bytes from hadoop02 (172.17.0.11): icmp_seq=1 ttl=64 time=0.195 ms
    64 bytes from hadoop02 (172.17.0.11): icmp_seq=2 ttl=64 time=0.147 ms
    
    • 1
    • 2
    • 3
    • 4

    网络时间同步

    每台机器时间最好同步下,避免后面出现问题

    查看是否有 ntpdate

    which ntpdate
    
    # 如果没有就安装
    yum install ntpdate -y
    
    • 1
    • 2
    • 3
    • 4

    统一时区上海时区

    ln -snf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
    bash -c "echo 'Asia/Shanghai' > /etc/timezone"
    
    • 1
    • 2

    使用阿里服务器进行时间更新

    # 使用阿里服务器进行时间更新
    ntpdate ntp1.aliyun.com
    
    • 1
    • 2

    查看当前时间

    date
    Thu Nov 16 10:08:47 CST 2023
    
    • 1
    • 2

    配置jdk

    由于hadoop以及zk都需要jdk环境,所以我们把jdk配置到全局访问路径下

    我们就放在自己的目录下 /apps/svr

    创建文件夹 mkdir -p /apps/svr

    赋权 chmod -R 777 /apps/svr

    上传jdk scp jdk.tar.gz root@hadoop01:/apps/svr

    解压 tar -zxvf jdk.tar.gz

    配置环境变量加到 /etc/bashrc 的最后面

    export JAVA_HOME=/apps/svr/jdk
    PATH=$PATH:$JAVA_HOME/bin
    export PATH
    
    • 1
    • 2
    • 3

    source /etc/bashrc

    查看java版本

    java -version
    java version "1.8.0_131"
    Java(TM) SE Runtime Environment (build 1.8.0_131-b11)
    Java HotSpot(TM) 64-Bit Server VM (build 25.131-b11, mixed mode)
    
    • 1
    • 2
    • 3
    • 4

    如上所示表示配置成功,其它两台机器一样的操作配置

    总结

    hadoop集群的环境准备就到这里,后面我们基于这套环境部署zk,hdfs,yarn


    欢迎关注,学习不迷路!

  • 相关阅读:
    Linux:进程的本质和fork初识
    【kali-密码攻击】(5.2.1)密码分析:Hash Identifier(哈希识别)
    【路径规划】基于遗传算法求解固定的开放式多旅行推销员问题(M-TSP)附matlab代码
    dmp广告系统
    CB2-2CARD之Debian(Bookworm)安装Gnome看CCTV
    生成树欺骗攻击与防御策略
    【Proteus仿真】【STM32单片机】智能饮水机
    大模型时代,探人工智能发展的新动向
    [Linux] 下载工具 aria2 的使用
    OpenHarmony移植案例: build lite源码分析之hb命令__entry__.py
  • 原文地址:https://blog.csdn.net/weixin_44412085/article/details/134449280