码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • HBase 常见问题总结(一)


    前言

    本文隶属于专栏《大数据异常问题汇总》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!


    问题一:业务表出现大量空Region

    应用背景

    业务流水表的Rowkey设计是按照字典序严格递增的,采用分桶机制由多个进程向一个或多个独享的分桶写人数据。

    产生问题

    随着数据持续不断地人库到 HBase 表,该表的 Region 不断发生分裂,分裂后前一个 Region 不再会有数据写人,数据继续写入新生成的 Region。

    一段时间后,当一个Region中的数据全部过期,RegionServer触发 major compaction 后,Region 中的数据就会被物理删除,此时该 Region 就会变成一个没有用的空 Region。

    当集群中的空 Region 过多时,会给集群管理带来麻烦,meta 表持续增大,增大了 HMaster 节点的压力。

    解决措施

    HBase 支持在线合并 Region,我们只需要例行化检查该表中 Region 的状态,如果出现多个连续空 Region 时,我们将这些空 Region 合并成一个 Region 即可。


    问题二:业务 HBase 客户端 RPC 连接异常关闭

    应用背景

    业务系统数据是从 MySQL 同步人库 HBase,同步入库频率跟业务系统的用户使用频率直接相关。

    产生问题

    我们从业务 HBase 客户端日志中观察到在某些时间段总是打印 RPC 连接异常关闭。

    解决措施

    调整 HBase 客户端参数,将 RPC 超时时间从 60s 调整到 180s,同时客户端强制每分钟或是满 1000 条记录就执行一次 flush commit,从 DB 同步一次 HBase,保证 RPC 长连接不会自动关闭。


    问题三:单台 RegionServer 的 I/O 使用率一直为100%,HBase 集群请求量为0

    应用背景

    为了提高数据的人库速率,业务 HBase 客户端采用 putlist 接口减少客户端与服务端 RPC 连接的次数。

    产生问题

    当单台 RegionServer 出现磁盘异常时,某个磁盘 IO 使用率一直 100% 时,整个集群出现不可用,集群请求量直接为0。

    解决措施

    对集群机器增加磁盘 IO 异常的监控,发现有分区磁盘使用率过高,就自动将该机器从集群中剔除。

  • 相关阅读:
    简化开发流程,消除重复任务:refine 帮您轻松搞定 | 开源日报 No.63
    改变alert弹出框页面
    数据库工程师的工作职责(合集)
    【数据结构】双向链表
    基于Python flask 的豆瓣电影评分可视化,豆瓣电影评分预测系统
    Nat. Med. | 基于遗传学原发部位未知癌症的分类和治疗反应预测
    在哪里可以找到北京师范大学2023考研真题笔记等复习资料?
    bp(back propagation)
    @Slf4j打印异常信息打印出堆栈信息
    ubuntu安装 notepad
  • 原文地址:https://blog.csdn.net/Shockang/article/details/127839619
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号