码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Linux 下搭建 Hive 环境


    Linux 下搭建 Hive 环境

    作者:Grey

    原文地址:

    博客园:Linux 下搭建 Hive 环境

    CSDN:Linux 下搭建 Hive 环境

    前置工作

    首先,需要先完成

    Linux 下搭建 Kafka 环境

    Linux 下搭建 Hadoop 环境

    Linux 下搭建 HBase 环境

    本文基于上述三个环境已经搭建完成的基础上进行 Hive 的搭建工作。

    Hive 版本:2.2.0

    如果使用的软件版本不一致,请以官方搭建文档为准。

    此外,需要准备一个 MySQL 服务器,我这里准备的 MySQL 服务器 IP 是:192.168.100.129,端口是 3306。

    MySQL 的安装参考:CentOS 7 下安装 MySQL 8.x

    这里用的 MySQL 版本是:5.7.40

    下载地址

    注:目前这个版本的 Hive,用 MySQL 5.7 版本不会报错,用MySQL 8.0 版本会报错,

    MySQL 的 Connector 版本是:5.1.40

    下载地址

    注:确保 master 服务器可以访问这个 MySQL 服务器上的 MySQL 服务。,如果用的 MySQL 版本不同,对应的 Connector 需要下载可适配 MySQL 版本的。

    安装步骤

    Hive 安装在 master 节点上,

    将下载好的 Hive 安装包和 MySQL 对应的 Connector 包上传到 /datalake 目录下

    apache-hive-2.2.0-bin.tar.gz

    mysql-connector-java-5.1.40.tar.gz

    解压这几个安装包

    cd /datalake
    
    • 1
    tar -zxvf apache-hive-2.2.0-bin.tar.gz
    
    • 1

    将解压的软件移动到 /usr/local 目录

    cd /datalake
    
    • 1
    mv apache-hive-2.2.0-bin /usr/local/hive
    
    • 1

    配置环境变量

    vi /etc/profile
    
    • 1

    将 Hive 添加到环境变量

    export HIVE_HOME=/usr/local/hive
    export PATH=$PATH:$JAVA_HOME/bin:$ZK_HOME/bin:$KAFKA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HBASE_HOME/bin:$HIVE_HOME/bin
    
    • 1
    • 2

    应用环境变量

    source /etc/profile
    
    • 1

    解压 MySQL 的 Connector 包

    tar -xzvf mysql-connector-java-5.1.40.tar.gz
    
    • 1

    将 Connector 的 jar 拷贝到 Hive 的 lib 目录中

    cp mysql-connector-java-5.1.40/mysql-connector-java-5.1.40-bin.jar /usr/local/hive/lib/
    
    • 1

    修改 Hive 的配置文件

    cd $HIVE_HOME/conf && cp hive-default.xml.template hive-site.xml
    
    • 1

    将 hive-site.xml 的内容设置为

    <configuration>
        <property>
            <name>javax.jdo.option.ConnectionURLname>
            <value>jdbc:mysql://192.168.100.129:3306/hive?createDatabaseIfNotExist=truevalue>
        property>
        <property>
            <name>javax.jdo.option.ConnectionDriverNamename>
            <value>com.mysql.jdbc.Drivervalue>
        property>
        <property>
            <name>javax.jdo.option.ConnectionUserNamename>
            <value>dumpvalue>
        property>
        <property>
            <name>javax.jdo.option.ConnectionPasswordname>
            <value>1234value>
        property>
        <property>
            <name>hive.metastore.schema.verificationname>
            <value>falsevalue>
        property>
        <property>
            <name>datanucleus.schema.autoCreateAllname>
            <value>truevalue>
        property>
    configuration>
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26

    注:以上配置根据你自定义的 MySQL 来配置,例如用户名密码和连接信息。

    启动 Hive,执行

    hive
    
    • 1

    查看数据库,已经新建出 Schema

    image

    测试一下,在 hive 中执行如下命令创建一个表

    CREATE TABLE t2(id int, name string) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t';
    
    • 1

    image

    创建成功并查看这个表的信息

    访问:http://192.168.100.130:50070/explorer.html#/user/hive/warehouse

    可以查看创建的 t2 表信息

    image

  • 相关阅读:
    基于全志T133-s3(Tina Linux)移植wifi(rtl8723d)驱动
    腾讯云双11优惠活动有哪些?详细攻略来了!
    Jmeter——循环控制器中实现Counter计数器的次数重置
    docker部署Prometheus+Cadvisor+Grafana实现服务器监控
    C语言回顾(指针篇)
    【linux】解决报错:Network error: Connection refused
    【GO】LGTM_Grafana_gozero_配置trace(4)_代码实操及追踪
    文件上传漏洞笔记
    大数据平台进度,它来了
    MySQL中json类型,你使用过吗
  • 原文地址:https://blog.csdn.net/hotonyhui/article/details/127395039
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号