码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Hive 导出数据到 CSV 文件


    文章目录

        • Hive-Cli 导出
        • 通过 Spark-Shell 导出
        • Insert 导出

    Hive-Cli 导出

    示例: 将 Hive 中 dwd.dim_machine 表导出到本地 /opt/software/test.csv 文件中,添加表头。

    hive -e "set hive.cli.print.header=true;select * from dwd.dim_machine;" | tr "\t" "," > /opt/software/test.csv
    
    • 1
    • -e :在命令行中直接执行 Hive 查询

    • tr:将 "\t" 替换成逗号 ","

    结果:

    通过 Spark-Shell 导出

    前提:需要配置好 Spark On Hive 连接。

    示例: 将 Hive 中 dwd.dim_machine 表导出到本地 /opt/software/test2.csv 文件中。

    spark.sql("select * from dwd.dim_machine").write.csv("file:///opt/software/result")
    
    • 1

    注意: Spark-Shell 导出的是一个目录,我们需要拿到目录下的 csv 文件。

    进入 result 目录,会看到如下文件:

    其中后缀为 csv 的就是我们的结果文件。

    按要求设置文件路径与名称:

    mv part-00000-e72da482-533b-486c-a8b2-d37c6abe8eb4-c000.csv ../test2.csv
    
    • 1

    结果:

    Insert 导出

    直接在 Hive 界面中进行操作。

    示例: 将 Hive 中 dwd.dim_machine 表导出到本地 /opt/software/test3.csv 文件中。

    insert overwrite local directory '/opt/software/test'
    row format delimited fields terminated by ','
    select * from dwd.dim_machine;
    
    • 1
    • 2
    • 3

    结果:

    最后,按要求改成指定路径与名称就可以啦,这里就不操作了。

  • 相关阅读:
    【Node.js】Node.js入门(四):常用函数接口、模块
    线程安全及不可变性
    数据分析 - 概率计算
    Datax 数据同步-使用总结(二)
    C++入门之引用(超详解)
    STL浅析
    图扑软件 3D 组态编辑器,低代码零代码构建数字孪生工厂
    深入理解闭包:原理、应用与最佳实践
    基于springboot实现校园志愿者管理系统项目【项目源码+论文说明】
    Python复习笔记5——常用模块
  • 原文地址:https://blog.csdn.net/weixin_46389691/article/details/127822372
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号