• hadoop伪分布式环境搭建详解


    (操作系统是centos7) 

    1.更改主机名,设置与ip 的映射关系

    1. hostname //查看主机名
    2. vim /etc/hostname //将里面的主机名更改为master
    3. vim /etc/hosts //将127.0.0.1后面的主机名更改为master,在后面加入一行IP地址与主机名之间的映射
    4. reboot //重启服务器

    2.关闭防火墙

    1. systemctl stop firewalld //关闭防火墙
    2. systemctl disable firewalld //禁用防火墙服务(永久关闭)
    3. firewall-cmd --state //查看防火墙状态

    3.创建/usr/data,/usr/apps,将hadoop、jdk上传至/usr/data/

     (hadoop、jdk文件链接:https://pan.baidu.com/s/1wal1CSF1oO2h4dkSbceODg 提取码:4zra)

    1. mkdir /usr/data //创建data文件
    2. mkdir /usr/apps //创建apps文件

    4.在/usr/data目录下将jdk解压到/usr/apps/

     tar -zxf jdk-8u201-linux-x64.tar.gz -C /usr/apps/

    5.设置jdk的环境变量

    1. [root@master apps]# cd ./jdk1.8.0_201
    2. [root@master jdk1.8.0_201]# pwd 
    3. /usr/apps/jdk1.8.0_201  //拿到jdk的路径
    4. [root@master jdk1.8.0_201]# 

    vim 编辑/etc/profile文件

    添加下列语句赋值时不要有空格,图中有空格

    1. export JAVA_HOME=/usr/apps/jdk1.8.0_201
    2. export PATH=$PATH:$JAVA_HOME/bin


    保存退出。

    1. source /etc/profile //重新加载该文件
    2. java -version //查看jdk版本,检查环境是否设置成功

    6.将Hadoop解压到apps下

    tar -zxvf hadoop-2.7.1.tar.gz -C /usr/apps/  //-zxvf可以打印解压的东西

    7.进入Hadoop主目录下,编辑/etc/hadoop/hadoop-env.sh文件,将jdk路径导入

    1. [root@master data]# cd /usr/apps/hadoop-2.7.1/
    2. [root@master hadoop-2.7.1]# cd /etc/hadoop
    3. [root@master hadoop]# vim hadoop-env.sh


    8.配置4个Hadoop文件

    (四个文件全部在hadoop-2.7.1/etc/hadoop/目录下,vim编辑即可 )

    ①core-site.xml
     

    1. fs.defaultFS
    2. hdfs://master:9000
    3.  
    4. hadoop.tmp.dir
    5. /usr/apps/ hadoop-2.7.1 /data

    ②hdfs-site.xml
     

    1. dfs.replication
    2. 1

    ③mapred-site.xml

    先将mapred-site.xml.template复制到 mapred-site.xml中

    再进入mapred-site.xml编辑

    1. [root@master hadoop]# cp mapred-site.xml.template mapred-site.xml
    2. [root@master hadoop]# vim mapred-site.xml
    3. mapreduce.framework.name
    4. yarn

    ④yarn-site.xml

    1. yarn.resourcemanager.hostname
    2. master
    3. yarn.nodemanager.aux-services
    4. mapreduce_shuffle

    9.进入/etc/profile,导入Hadoop的路径

    (更改/etc/profile后,需重新加载,source /etc/profile) 

    10.格式化namenode 

    [root@master hadoop-2.7.1]# hadoop namenode -format


    11.启动hdfs、yarn

    1. [root@master hadoop-2.7.1]# sbin/start-dfs.sh
    2. [root@master hadoop-2.7.1]# sbin/start-yarn.sh

    12.网页端即可访问主机ip,端口50070:

  • 相关阅读:
    阿里云国际云解析DNS如何开启/关闭流量分析?
    分布式事务入门
    MySQL索引和优化的理解学习
    openssl编程-基础知识-回调函数
    Python面向对象(二)
    全栈开发提效神器——ApiFox(Postman + Swagger + Mock + JMeter)
    爬虫使用什么库更事半功倍?
    算法刷题-16
    【信号去噪】基于麻雀算法优化VMD实现信号去噪附matlab代码
    如何选择一款好用的物业管理软件?快鲸物业管理软件是不二之选
  • 原文地址:https://blog.csdn.net/2303_77224751/article/details/136708494