• 1. hadoop环境准备


    环境准备

    准备三台虚拟机,配置最好是 2C 4G 以上

    本文准备三台机器的内网ip分别为

    172.17.0.10
    172.17.0.11
    172.17.0.12
    
    • 1
    • 2
    • 3

    本机配置/etc/hosts

    cat >> /etc/hosts<
    • 1
    • 2
    • 3
    • 4
    • 5

    本机设置与服务器地址免密登录

    这一步可以设置也可以不设置,在mac电脑上设置免密登录比较方便

    如果是通过工具入secure-crt那也可以记住密码就行

    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop01
    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop02
    ssh-copy-id -i ~/.ssh/id_rsa.pub root@hadoop01
    
    • 1
    • 2
    • 3

    ssh root@hadoop01 测试看能不能登录

    主机修改hostname

    分别进入三台虚拟机,设置对应的hostname

    hostnamectl set-hostname hadoop01
    hostnamectl set-hostname hadoop02
    hostnamectl set-hostname hadoop03
    
    • 1
    • 2
    • 3

    效果如图所示
    hadoop01

    主机配置hosts

    与本机操作一样

    cat >> /etc/hosts<<EOF
    172.17.0.10 hadoop01
    172.17.0.11 hadoop02
    172.17.0.12 hadoop03
    EOF
    
    • 1
    • 2
    • 3
    • 4
    • 5
    ping hadoop02
    PING hadoop02 (172.17.0.11) 56(84) bytes of data.
    64 bytes from hadoop02 (172.17.0.11): icmp_seq=1 ttl=64 time=0.195 ms
    64 bytes from hadoop02 (172.17.0.11): icmp_seq=2 ttl=64 time=0.147 ms
    
    • 1
    • 2
    • 3
    • 4

    网络时间同步

    每台机器时间最好同步下,避免后面出现问题

    查看是否有 ntpdate

    which ntpdate
    
    # 如果没有就安装
    yum install ntpdate -y
    
    • 1
    • 2
    • 3
    • 4

    统一时区上海时区

    ln -snf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
    bash -c "echo 'Asia/Shanghai' > /etc/timezone"
    
    • 1
    • 2

    使用阿里服务器进行时间更新

    # 使用阿里服务器进行时间更新
    ntpdate ntp1.aliyun.com
    
    • 1
    • 2

    查看当前时间

    date
    Thu Nov 16 10:08:47 CST 2023
    
    • 1
    • 2

    配置jdk

    由于hadoop以及zk都需要jdk环境,所以我们把jdk配置到全局访问路径下

    我们就放在自己的目录下 /apps/svr

    创建文件夹 mkdir -p /apps/svr

    赋权 chmod -R 777 /apps/svr

    上传jdk scp jdk.tar.gz root@hadoop01:/apps/svr

    解压 tar -zxvf jdk.tar.gz

    配置环境变量加到 /etc/bashrc 的最后面

    export JAVA_HOME=/apps/svr/jdk
    PATH=$PATH:$JAVA_HOME/bin
    export PATH
    
    • 1
    • 2
    • 3

    source /etc/bashrc

    查看java版本

    java -version
    java version "1.8.0_131"
    Java(TM) SE Runtime Environment (build 1.8.0_131-b11)
    Java HotSpot(TM) 64-Bit Server VM (build 25.131-b11, mixed mode)
    
    • 1
    • 2
    • 3
    • 4

    如上所示表示配置成功,其它两台机器一样的操作配置

    总结

    hadoop集群的环境准备就到这里,后面我们基于这套环境部署zk,hdfs,yarn


    欢迎关注,学习不迷路!

  • 相关阅读:
    十四天算法快速入门第九天之「广度优先搜索 / 深度优先搜索」
    [VIM]spcaevim
    C++面试题之C++中的指针参数传递和引用参数传递
    leetCode 面试题 02.04. 分割链表
    leetcode 4. 寻找两个正序数组的中位数
    IT之路,从迷茫“愤青”到团队项目经理,他是如何一步步走出来的?
    前端开发规范
    openGL第一个程序
    java-php-python-ssm微视频管理系统设计计算机毕业设计
    TCP/IP第一章概述总结
  • 原文地址:https://blog.csdn.net/weixin_44412085/article/details/134449280