• HBase数据模型与整体架构


    目录

    1.HBase的特点

    2.HBase数据模型

    2.1.HBase逻辑架构

    2.2.HBase物理存储

    3.HBase整体架构


    HBase原理深入: HBase原理深入_李嘉图呀李嘉图的博客-CSDN博客

    HBase优化:https://blog.csdn.net/qq_42029989/article/details/126607734

    1.HBase的特点

    • 海量存储: 底层基于HDFS存储海量数据
    • 列式存储:HBase表的数据是基于列族进行存储的,一个列族包含若干列
    • 极易扩展:底层依赖HDFS,当磁盘空间不足的时候,只需动态增加DataNode服务节点
    • 高并发:支持高并发的读写请求
    • 稀疏:稀疏主要是针对HBase列的灵活性,在列族中,你可以指定任意多的列,在列数据为空的情况下,是不会占用存储空间的。
    • 数据的多版本:HBase表中的数据可以有多个版本值,默认情况下是根据版本号去区分,版本号就是插入数据的时间戳
    • 数据类型单一:所有的数据在HBase中是以字节数组进行存储

    2.HBase数据模型

    2.1.HBase逻辑架构

    2.2.HBase物理存储

    概念描述

    NameSpace

    (数据库)

    命名空间,类似于关系型数据库的database概念,每个命名空间下有多个表。HBase两个自带的命名空间,分别是hbase和default,hbase中存放的是HBase内置的表,default表是用户默认使用的命名空间。一个表可以自由选择是否有命名空间,如果创建表的时候加上了命名空间后,这个表名字以:作为区分!
    Table类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,数据属性,比如超时时间(TTL),压缩算法(COMPRESSION)等,都在列族的定义中定义,不需要声明具体的列。

    Row

    (一行逻辑数据)

    HBase表中的每行数据都由一个RowKey和多个Column(列)组成。一个行包含了多个列,这些列通过列族来分类,行中的数据所属列族只能从该表所定义的列族中选取,不能定义这个表中不存在的列族,否则报错NoSuchColumnFamilyException。

    RowKey

    (每行数据主键)

    Rowkey由用户指定的一串不重复的字符串定义,是一行的唯一标识!数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进行检索,所以RowKey的设计十分重要。如果使用了之前已经定义的RowKey,那么会将之前的数据更新掉!

    Column Family

    (列族)

    列族是多个列的集合。一个列族可以动态地灵活定义多个列。表的相关属性大部分都定义在列族上,同一个表里的不同列族可以有完全不同的属性配置,但是同一个列族
    内的所有列都会有相同的属性。列族存在的意义是HBase会把相同列族的列尽量放在同一台机器上,所以说,如果想让某几个列被放到一起,你就给他们定义相同的列
    Column
    Qualifier(列)

    Hbase中的列是可以随意定义的,一个行中的列不限名字、不限数量,只限定列族。因此

     列必须依赖于列族存在

     列的名称前必须带着其所属的列族

    例如   info:name,info:age

    TimeStamp

    (时间戳--》版本)

    用于标识数据的不同版本(version)。时间戳默认由系统指定,也可以由用户显式指定。在读取单元格的数据时,版本号可以省略,如果不指定,Hbase默认会获取最后一个版本的数据返回
    Cell 一个列中可以存储多个版本的数据。而每个版本就称为一个单元格(Cell)。

    Region

    (表的分区)

    Region由一个表的若干行组成!在Region中行的排序按照行键(rowkey)字典排序。Region不能跨RegionSever,且当数据量大的时候,HBase会拆分Region。

    3.HBase整体架构


    Zookeeper

    • 实现了HMaster的高可用
    • 保存了HBase的元数据信息,是所有HBase表的寻址入口
    • 对HMaster和HRegionServer实现了监控

    HMaster(Master)

    • 为HRegionServer分配Region
    • 维护整个集群的负载均衡
    • 维护集群的元数据信息
    • 发现失效的Region,并将失效的Region分配到正常的HRegionServer上

    HRegionServer(RegionServer)

    • 负责管理Region
    • 接受客户端的读写数据请求
    • 切分在运行过程中变大的Region

    Region

    • 每个HRegion由多个Store构成,
    • 每个Store保存一个列族(Columns Family),表有几个列族,则有几个Store,
    • 每个Store由一个MemStore和多个StoreFile组成,MemStore是Store在内存中的内容,写到文件后就是StoreFile。StoreFile底层是以HFile的格式保存。 

  • 相关阅读:
    Linux下快速搭建YApi接口管理平台
    作为一名大学生,需要什么?前辈真实经历
    今天玩到一个微信钓鱼小游戏,很有趣,居然还能玩萝卜刀
    海外众筹如何通过邮件营销?
    一文讲透Java核心技术之高可扩展利器SPI
    Rstudio开不开了怎么办?R is taking longer to start than usual
    对C语言结构体内存对齐的理解
    雷达波束高度估计、折射分类、大气波导现象概念
    入门力扣自学笔记118 C++ (题目编号1413)
    错误记录2022.11.22
  • 原文地址:https://blog.csdn.net/qq_42029989/article/details/126604310