码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Hive基础知识(十七):Hive-SQL分桶表使用


    分区提供一个隔离数据和优化查询的便利方式。不过,并非所有的数据集都可形成合理的分区。对于一张表或者分区,Hive 可以进一步组织成桶,也就是更为细粒度的数据范围划分。

    分桶是将数据集分解成更容易管理的若干部分的另一个技术。

    分区针对的是数据的存储路径;分桶针对的是数据文件。

    1. 先创建分桶表‘

    (1)数据准备

    1. 1001 ss1
    2. 1002 ss2
    3. 1003 ss3
    4. 1004 ss4
    5. 1005 ss5
    6. 1006 ss6
    7. 1007 ss7
    8. 1008 ss8
    9. 1009 ss9
    10. 1010 ss10
    11. 1011 ss11
    12. 1012 ss12
    13. 1013 ss13
    14. 1014 ss14
    15. 1015 ss15
    16. 1016 ss16

    (2)创建分桶表

    1. hive (hive3)> create table stu_buck(id int , name string) clustered by(id) into 4 buckets row format delimited fields terminated by '';
    2. OK
    3. Time taken: 0.671 seconds

    (4)导入数据到分桶表中,load 的方式

    hive (hive3)> load data local inpath '/home/atguigu/hive/student.txt' into table stu_buck;

    (5)查看创建的分桶表中是否分成4 个桶

    (6)查询分桶的数据

    1. hive (hive3)> select * from stu_buck;
    2. OK
    3. stu_buck.id stu_buck.name
    4. 1001 zzz
    5. 1002 ddd
    6. 1111 ccc
    7. Time taken: 0.549 seconds, Fetched: 3 row(s)

    (7)分桶规则:

    根据结果可知:Hive 的分桶采用对分桶字段的值进行哈希,然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中

    2. 分桶表操作需要注意的事项:

    (1)reduce 的个数设置为-1,让 Job 自行决定需要用多少个 reduce 或者将 reduce 的个数设置为大于等于分桶表的桶数。

    (2)从 hdfs 中 load 数据到分桶表中,避免本地文件找不到问题。

    (3)不要使用本地模式。

    3. insert 方式将数据导入分桶表

    hive(default)>insert into table stu_buck select * from student_insert;

  • 相关阅读:
    k8s可练习实验分享
    resume不严格加载model、避免某些层维度不一致导致错误
    IDEA:开发配置(2024版 建议收藏)
    UE中制作棋盘格材质效果
    y110.第六章 微服务、服务网格及Envoy实战 -- Envoy网格安全(二一)
    C++实现enum反射,类似magic_enum,支持enum classes
    基于Springboot的就业服务平台
    Python中主要数据结构的使用
    【小波能量BP】基于小波能量系数提取和BP神经网络的检测算法matlab仿真
    统计学习方法 隐马尔可夫模型
  • 原文地址:https://blog.csdn.net/zuodingquan666/article/details/139940131
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号