ubuntu系统安装hadoop

Hadoop

分布式计算平台，核心是分布式文件系统HDFS

ubantu下

安装jdk

wget https://repo.huaweicloud.com/openjdk/18.0.1.1/openjdk-18.0.1.1_linux-aarch64_bin.tar.gz
tar -zxvf openjdk-18.0.1.1_linux-aarch64_bin.tar.gz
mv jdk-18.0.1.1/ /usr/java18
echo 'export JAVA_HOME=/usr/java18' >> /etc/profile
echo 'export PATH=$PATH:$JAVA_HOME/bin' >> /etc/profile
source /etc/profile
java -version
1
2
3
4
5
6
7

这里手残选用了jdk18的版本，本来以为是jdk1.8的

安装hadoop

hadoop的安装包在清华云镜像下载的

tar -zxvf hadoop-3.3.4.tar.gz
ll
mv hadoop-3.3.4 /opt/hadoop
echo "export JAVA_HOME=/usr/java18" >> /opt/hadoop/etc/hadoop/yarn-env.sh
echo "export JAVA_HOME=/usr/java18" >> /opt/hadoop/etc/hadoop/hadoop-env.sh
hadoop version
1
2
3
4
5
6

配置Hadoop

1. 修改Hadoop配置文件 core-site.xml。

vim /opt/hadoop/etc/hadoop/core-site.xml
1

在节点内插入如下内容。

 
    hadoop.tmp.dir
    file:/opt/hadoop/tmp
    location to store temporary files


    fs.defaultFS
    hdfs://localhost:9000

1
2
3
4
5
6
7
8
9

1. 修改Hadoop配置文件 hdfs-site.xml。

vim /opt/hadoop/etc/hadoop/hdfs-site.xml
1

在节点内插入如下内容。

    dfs.replication
    1


    dfs.namenode.name.dir
    file:/opt/hadoop/tmp/dfs/name


    dfs.datanode.data.dir
    file:/opt/hadoop/tmp/dfs/data

1
2
3
4
5
6
7
8
9
10
11
12

配置SSH免密登录

执行以下命令，创建公钥和私钥。

ssh-keygen -t rsa
1

将公钥添加到authorized_keys文件中。

cd ~
cd .ssh
cat id_rsa.pub >> authorized_keys
1
2
3

将hadoop添加到环境变量中。

vi /etc/profile

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

source /etc/profile
1
2
3
4
5
6
7
8
9

启动Hadoop

1. 初始化****namenode

hadoop namenode -format
1

1. 启动****Hadoop

start-dfs.sh
1

可以看到的web页面：

以上就是安装hadoop的全部过程，推荐第二种安装方式。

与shigen一起，每天不一样！