码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Hadoop环境安装


    目录

    参考文章:

    过程记录:

    修改 Hadoop 配置文件:

    配置文件名称

    如何修改

    备注

    安装mysql:

    安装Hadoop2.7.2


    参考文章:

    推荐程度

    链接

    备注

    1

    直接根据这篇文章来学习安装吧!这是Hadoop3.0的。(防坑笔记)hadoop3.0 (一) 环境部署与伪分布式(hdfs)_CoffeeAndIce的博客-CSDN博客【很棒!!】

    2

    https://www.jianshu.com/p/de4d56433848??【这个简书文章有点bug,尤其是里面推荐的文章必看!!】和 (防坑笔记)hadoop3.0 (一) 环境部署与伪分布式(hdfs)_CoffeeAndIce的博客-CSDN博客【很棒!!】

    这篇简书,他没写清楚。坑死我了。详细看:解决报错:ERROR: Attempting to operate on yarn resourcemanager as root

    过程记录:

    目的

    明细

    安装包

    下载Binary download版本,不要source版本

    修改默认的“非免密的(设置)”

    来自 <(防坑笔记)hadoop3.0 (一) 环境部署与伪分布式(hdfs)_CoffeeAndIce的博客-CSDN博客>

    grep -rn "PubkeyAuthentication yes"? /etc/ssh/sshd_config
    
    • 1

    设置为免密登录

    解决报错:ERROR: Attempting to operate on yarn resourcemanager as root

    报的错有点不一样,注意是顶部空白处****(即****#!/usr/bin/env bash **之后)**添加。https://www.jianshu.com/p/de4d56433848??简书这篇傻逼,他没写清楚。坑死我了。

    启动hadoop

    有条件的话,就是如果centos7装了gui的话。

    Namenode information: http://localhost:9870

    All Applications: http://localhost:8088

    HDFS NameNode web interface: http://localhost:8042

    就能直接在浏览器访问了。

    修改 Hadoop 配置文件:

    配置文件名称

    如何修改

    /etc/hadoop/hadoop-env.sh

    这个就配置了javahome

    /etc/hadoop/core-site.xml

    /etc/hadoop/hdfs-site.xml

    /etc/hadoop/mapred-site.xml

    /etc/hadoop/yarn-site.xml

    /approot/hadoop-3.2.1/sbin/start-dfs.sh

    HDFS_DATANODE_USER=root

    HDFS_DATANODE_SECURE_USER=hdfs

    HDFS_NAMENODE_USER=root

    HDFS_SECONDARYNAMENODE_USER=root

    /approot/hadoop-3.2.1/sbin/stop-dfs.sh

    ?

    HDFS_DATANODE_USER=root

    HDFS_DATANODE_SECURE_USER=hdfs

    HDFS_NAMENODE_USER=root

    HDFS_SECONDARYNAMENODE_USER=root

    /approot/hadoop-3.2.1/sbin/start-yarn.sh

    ?

    YARN_RESOURCEMANAGER_USER=root

    HADOOP_SECURE_DN_USER=yarn

    YARN_NODEMANAGER_USER=root

    /approot/hadoop-3.2.1/sbin/stop-yarn.sh

    YARN_RESOURCEMANAGER_USER=root

    HADOOP_SECURE_DN_USER=yarn

    YARN_NODEMANAGER_USER=root

    ?

    安装mysql:

    参考文章

    来自 <Linux下安装mysql-5.7.24 - 简书> (多看这篇文章的评论,挺多坑的)

    借鉴https://www.jianshu.com/p/276d59cbc529 的思路,先删除现有的mysql,软连接的部分可以不做。

    主要就根据Hive 1.2.1&Spark&Sqoop安装指南 - 云+社区 - 腾讯云的图中的步骤做了,然而我都没填写my.cnf也能启动

    ?wget https://dev.mysql.com/get/Downloads/MySQL-5.7/mysql-5.7.24-linux-glibc2.12-x86_64.tar.gz
    
    ?service mysql restart
    
    • 1
    • 2
    • 3

    报错信息

    解决措施

    MYSQL常见安装错误集:[ERROR] --INITIALIZE SPECIFIED BUT THE DATA DIRECTORY HAS FILES IN IT. ABORT

    来自 <MYSQL常见安装错误集:[ERROR] --initialize specified but the data directory has files in it. Abort - 兜风 - 博客园>

    感觉软连接就像快捷方式,

    超级用户root,直接mysql,就能操作mysql客户端

    实现root用户的免密码登陆mysql - 简书

    cat /etc/my.cnf

    [mysqld]

    datadir=/usr/local/mysql/data

    port = 3306

    sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES

    symbolic-links=0

    max_connections=400

    innodb_file_per_table=1

    #表名大小写不明感,敏感为

    lower_case_table_names=1

    ?

    [client]

    host=localhost

    user="root"

    password="qwertyuiop1234567890"?? #这里填入你的mysql? root用户对应的密码

    ?

    #然后保存之后就可以使用 sudo mysql 免密码进入mysql 了

    org.apache.hadoop.ipc.RemoteException: User: root is not allowed to impersonate root

    来自 <org.apache.hadoop.ipc.RemoteException: User: root is not allowed to impersonate root_tucailing的博客-CSDN博客>

    安装HIve

    安装Hadoop2.7.2

    安装包地址Index of /dist/hadoop/core/hadoop-2.7.2

    参考文章https://www.cnblogs.com/hello-/articles/9600269.html?和 Hadoop 2.7.2 安装配置 - 简书(推荐)

    实战

    Master 192.168.1.213 wwh213
    Slave1 192.168.1.214 wwh214
    Slave2 192.168.1.215 wwh215

    来自 <Hadoop 2.7.2 安装配置 - 简书>

    然而根本没有改变

    Master 192.168.213.130 hadoop03

    Slave1 192.168.213.131 hadoop04

    Slave2 192.168.213.132 hadoop05

    Slave3 192.168.213.128 hadoop01

    Slave4 192.168.213.129 hadoop02

    其实我在弄hadoop3的时候已经设置免密了。但我还没有设置免密的部分。

    All Applications

    http://192.168.1.213:8088/

    HDFS

    http://对应地址:50070/

    Map/Reduce

    http://192.168.1.213:50030/

    作者:冬瓜baba

    链接:https://www.jianshu.com/p/2bb8ba1fc975

    来源:简书

    报错

    我的/etc/hosts中hadoop03写成了haddop03了

    启动

    虽然报红还是成功了。

    切记/approot/hive/apache-hive-3.1.2-bin/conf的hive-env.sh也要修改。

  • 相关阅读:
    conda 解决“libstdc++.so.6: version `GLIBCXX_3.4.20‘ not found“
    782 变为棋盘——Leetcode天天刷(2022.8.23)【数学:降维计算】
    win10怎么安装iis
    Java中的基本容器知识你真的了解过吗?
    旋转矩阵-数学理论
    【scikit-learn基础】--『分类模型评估』之评估报告
    百择电商:抖音超级福袋怎么使用?
    iOS 17.0 YYText 崩溃处理
    宝宝的这几个小秘密,你知道哪几个?
    %load_ext autoreload 介绍
  • 原文地址:https://blog.csdn.net/m0_67393827/article/details/126370167
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号