码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 教你使用Sqoop一次性将mysql中的十张表导入到hive中


    ?? 个人主页:csdn春和
    ?? 推荐专栏:更多专栏尽在主页!
    JavaWeb专栏(从入门到实战超详细!!!)
    SSM专栏 (更新中)
    ?? 本期文章:Sqoop一次性将mysql中的十张表同步到hive中
    如果对您有帮助还请三连支持,定会一 一回访!


    本文目录

      • 1、实验需求
      • 2、实验步骤
        • 0、实验前提
        • 1、在mysql中准备十张表
        • 2、编写shell脚本一次性导入十张表
        • 3、修改脚本执行权限
        • 4、执行脚本
        • 5、查看实验结果

    前言:这是一篇实验随记文章,记录笔者学习过程中做的一些实验。第八次作业:将mysql中的十张表导入到大数据平台hive中

    1、实验需求

    一次性将mysql中的十张表导入到hive中

    2、实验步骤

    0、实验前提

    启动hadoop集群并且开启hive服务 hive2后面需要使用到

    1、在mysql中准备十张表

    在这里插入图片描述

    2、编写shell脚本一次性导入十张表

    #! bin/bash
    for ((i=0;i<10;i++))
    do
     bin/sqoop import --connect jdbc:mysql://hadoop02:3306/study --username root --password 123456 --table t$i --num-mappers 1 --hive-import --fields-terminated-by "	" --hive-overwrite --hive-table t${i}_hive
     echo "import t$i successfully!"
    done
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    在这里插入图片描述

    就这样简单的shell脚本编写完成,笔者shell脚本的知识遗忘的厉害,如果您有更好的做法强烈建议您私信我!!!

    3、修改脚本执行权限

    chmod +x t.sh
    
    • 1

    在这里插入图片描述

    4、执行脚本

    执行t.sh脚本,等待执行完成

    在此之间会有很多日志打印我们挑选一些来看

    在这里插入图片描述

    在这里插入图片描述

    在这里插入图片描述

    5、查看实验结果

    查看hdfs

    在这里插入图片描述

    查看hive shell

    在这里插入图片描述

    查询数据试试

    在这里插入图片描述

    到此数据从mysql表中导入到hive完成,在这里面也有许多可以优化的地方,比如循环执行怎样提高执行的效率等!这里我们先不做深究…

    先自我介绍一下,小编13年上师交大毕业,曾经在小公司待过,去过华为OPPO等大厂,18年进入阿里,直到现在。深知大多数初中级java工程师,想要升技能,往往是需要自己摸索成长或是报班学习,但对于培训机构动则近万元的学费,着实压力不小。自己不成体系的自学效率很低又漫长,而且容易碰到天花板技术停止不前。因此我收集了一份《java开发全套学习资料》送给大家,初衷也很简单,就是希望帮助到想自学又不知道该从何学起的朋友,同时减轻大家的负担。添加下方名片,即可获取全套学习资料哦

  • 相关阅读:
    在前端开发中需要考虑的常见web安全问题和攻击原理以及防范措施
    Linux系统编程-网络基础(四)-网络层-协议:IP(因特网互联协议)【IP报头大小:20字节】
    二分搜索树节点的查找(Java 实例代码)
    详解 Intersection Observer API ( 交叉观察器 )
    2024-04-25 问AI: 介绍一下 ISBI 挑战赛
    vue3的tsx写法(v-show、v-if、v-for、v-bind、v-on),父子组件传值
    【菜鸡学艺–Vue2–001】模板语法&声明式渲染
    Android 子线程为什么不能更新UI?
    微信小程序开发物流快递仓库平台+后台
    Docker 基本管理
  • 原文地址:https://blog.csdn.net/m0_67401660/article/details/126081328
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号