第1关：Hadoop集群的部署，安装和管理

我们准备了三台虚拟服务器，连接方式如下：

第一步我们需要在 evassh 服务器初始化虚拟服务器：

cd /opt
wrapdocker
ulimit -f unlimited
docker load -i ubuntu16-ssh.tar
docker-compose up -d

注意：请不要在各个虚拟服务器之间进行 ssh 登录，这种操作会导致无法保存配置数据。正确方法是：在虚拟服务器里执行 exit 后回到 evassh 服务器，再按上述方法登录各虚拟服务器。

文件传输

通过 scp 命令将 evassh 上面的 Java 安装包与 Hadoop 安装包放入 master 服务器上的/opt 目录下。

scp /opt/jdk-8u141-linux-x64.tar.gz root@172.18.0.2:/opt
scp /opt/hadoop-3.1.0.tar.gz root@172.18.0.2:/opt

第一次连接，会询问是否继续连接。键盘输入 yes 并输入密码 123123 即可进行传输。

 

配置免密登录

在集群搭建过程中，我们会频繁的在各个服务器之间跳转，此过程是通过 SSH 去连接的，为了避免启动过程输入密码，我们可以配置免密登录。

1、分别在 master、slave1、slave2 生成密钥，命令如下：

在 master 服务器生成秘钥：

# 进入 master 服务器，键盘输入 yes 与 密码 123123
ssh 172.18.0.2
ssh-keygen -t rsa
# 执行命令之后，连着按三个回车键即可生成秘钥。

这里我们可以开启多个命令行窗口，可以大大减少各个服务器之间的跳转次数。

点击 + 号开启多个窗口，最多可以开启共 3 个命令行窗口。

在 salve1 服务器生成秘钥：

 进入 salve1 服务器,键盘输入 yes 与 密码 123123
ssh 172.18.0.3
ssh-keygen -t rsa

在 salve2 服务器生成秘钥：

# 进入 salve2 服务器,键盘输入 yes 与 密码 123123
ssh 172.18.0.4
ssh-keygen -t rsa

master、slave1和slave2直接已经做了映射，所以这里不需要再做映射。

2、 在 master 复制 master、slave1、slave2 的公钥。

cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
ssh slave1 cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
ssh slave2 cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
密码为：123123

3、 在 slave1 复制 master 的 authorized_keys 文件。

ssh master cat ~/.ssh/authorized_keys>> ~/.ssh/authorized_keys
 

4、 在 slave2 复制 master 的 authorized_keys 文件。

ssh master cat ~/.ssh/authorized_keys>> ~/.ssh/authorized_keys

集群之间免密至此设置成功

集群安装 JavaJDK

在 master 服务器的 /opt 目录下有 evassh 服务器传过来的 Java 安装包与 Hadoop 安装包。解压 Java 安装包至/usr/local目录下。

tar -zxvf /opt/jdk-8u141-linux-x64.tar.gz -C /usr/local/

解压好JDK之后还需要在环境变量中配置JDK，才可以使用，接下来就来配置JDK。 输入命令：vim /etc/profile 编辑配置文件； 在文件末尾输入如下代码（不可以有空格）：

export JAVA_HOME=/usr/local/jdk1.8.0_141
export PATH=$PATH:$JAVA_HOME/bin

然后，保存并退出。

最后：

source /etc/profile

使刚刚的配置生效。

输入：

java -version

出现如下界面代表配置成功。

将解压好的JDK与配置文件通过 scp 命令发送至 slave1、slave2 中。

#发送JDK
scp -r /usr/local/jdk1.8.0_141/ root@slave1:/usr/local/
scp -r /usr/local/jdk1.8.0_141/ root@slave2:/usr/local/
#发送配置文件
scp /etc/profile root@slave1:/etc/
scp /etc/profile root@slave2:/etc/

slave1 和 slave2 服务器上分别执行

source /etc/profile

使发送来的配置生效。

Hadoop 分布式集群搭建

解压并改名

解压Hadoop的压缩包到/usr/local目录下，并将解压好的文件夹改名为 hadoop 。

1. tar -zxvf /opt/hadoop-3.1.0.tar.gz -C /usr/local/
    
   cd /usr/local
    
   mv hadoop-3.1.0/ hadoop
   

将Hadoop添加到环境变量中

vi /etc/profile

在文件末尾插入如下代码：

export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

最后使修改生效：

source /etc/profile

创建文件夹

mkdir /var/hadoop
mkdir /var/hadoop/disk
mkdir /var/hadoop/logs
mkdir /var/hadoop/tmp
mkdir /var/hadoop/namenode

修改配置文件

进入 hadoop 配置文件夹中：

cd /usr/local/hadoop/etc/hadoop/

修改 core-site.xml文件 core-site.xml 是核心配置文件我们需要在该文件中加入HDFS的URI和NameNode的临时文件夹位置，这个临时文件夹在下文中会创建。 在文件末尾的configuration标签中添加代码如下：

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://master:9000</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/var/hadoop/tmp</value>
    </property>
</configuration>

修改 hdfs-site.xml文件 replication指的是副本数量，我们现在是3个节点，所以是3。属性名dfs.datanode.data.dir代表 datanode 上数据块的物理存储位置，属性名dfs.namenode.name.dir代表 namenode 上存储 hdfs 名字空间元数据

<configuration>
        <property>
                <name>dfs.datanode.data.dir</name>
                <value>/var/hadoop/disk</value>
        </property>
        <property>
                <name>dfs.namenode.name.dir</name>
                <value>/var/hadoop/namenode</value>
        </property>
        <property>
                <name>dfs.replication</name>
                <value>3</value>
        </property>
</configuration>

修改 yarn-site.xml文件

<configuration>
        <property>
                <name>yarn.resourcemanager.hostname</name>
                <value>master</value>
        </property>
        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
</configuration>

修改 mapred-site.xml文件

<configuration>
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
</configuration>

修改 hadoop-env.sh文件 文件主要是配置JDK的位置，在文件中添加语句：

 
export JAVA_HOME=/usr/local/jdk1.8.0_141

修改 workers文件 hadoop-2.6 这个文件名为 slaves ，现在3.0版本为 workers。

#vi workers
添加
master
slave1
slave2

因为root用户现在还不能启动hadoop，我们来设置一下就可以了。

在/hadoop/sbin路径下：

cd /usr/local/hadoop/sbin

。 将

vi start-dfs.sh
vi stop-dfs.sh

两个文件顶部添加以下参数

#!/usr/bin/env bash
HDFS_DATANODE_USER=root
HADOOP_SECURE_DN_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root

还有，

vi start-yarn.sh
vi stop-yarn.sh

顶部也需添加以下：

#!/usr/bin/env bash
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root

格式

在使用Hadoop之前我们需要格式化一些hadoop的基本信息。 使用如下命令：

hadoop namenode -format

出现如下界面代表成功：

:wq 

发送至另外两台服务器

scp -r /usr/local/hadoop/ root@slave1:/usr/local/
scp -r /usr/local/hadoop/ root@slave2:/usr/local/

启动Hadoop

接下来我们启动Hadoop：

start-all.sh

使用 jps 查看 hadoop 进程是否启动成功。 master上：