码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • HBase Shell启动缓慢及操作耗时长的原因分析与解决


    1.现象

    在内网搭了一个 hbase-2.2.6(hadoop-2.7.3)的环境,使用的是其内置的 zookeeper-3.4.10,16010端口对应的 web界面可以正常访问,且各项功能正常。

    在使用 hbase shell的过程中,首先是 hbase shell启动非常慢,约 210s才成功,其次执行 scan、put、get等命令需要 20s左右才能完成。以笔者的经验,hbase肯定出问题了,不可能这么慢。

    2.分析

    hbase可能执行某个操作失败了一直在重试,达到重试次数才会返回。

    思路一:——不好使

    ​ 重启 hbase,期望它自己恢复

    思路二:——没有发现问题相关的日志

    ​ 认真查看 hbase master的日志,并将其日志级别调为 DEBUG(修改 conf目录下 log4j的配置文件,然后重启 hbase即可)

    思路三:——硬件资源足够

    ​ 有没有可能是机器硬件性能不足导致的,使用 free -h和 top命令分别查看了机器的内存消耗和 CPU使用情况,一切正常。

    最终:

    ​ 还是得从 hbase shell着手,通过 hbase shell -h查看帮助得知其支持调试模式,具体命令如下:

    hbase shell -d
    
    • 1

    ​ 这次 hbase shell启动时输出了较多跟 zk相关的信息,可以看到在 210s里不断有 zk相关的日志打印出来,这里就比较明显了,出问题的很可能不是 hbase而是 zk。联想到 zk节点之间需要通过主机名进行通讯,马上测试了下:

    ping host185
    
    • 1

    ​ 发现 ping不通,至此,大概率是因为主机名导致的了。

    3.解决

    虽然分析问题的过程较为艰难,但是解决方法却很简单:

    vim /etc/hosts
    
    # 添加主机名和 ip的映射即可
    192.168.xx.xx host185
    
    • 1
    • 2
    • 3
    • 4

    重新测试 hbase shell,秒开,scan、put、get等命令均可迅速完成。

    这里需要注意的是:如果有多台机器,那么需要修改每台机器的 hosts文件。

  • 相关阅读:
    原生微信小程序电影购票+后台管理系统[含文档]
    如何使用轮播图实现水平内容自动切换
    数据结构与算法 -- 子序列问题
    TensorFlow自定义训练函数
    Java 基础知识梳理
    【LeetCode刷题笔记】二叉树(三)
    【通义千问】大模型Qwen GitHub开源工程学习笔记(4)-- 模型的量化与离线部署
    华为od德科面试数据算法解析 2022-5-29 计算字符串最后一个单词的长度
    【MySQL】:高效利用MySQL函数实用指南
    idea 没加载 provided的包
  • 原文地址:https://blog.csdn.net/Daphnisz/article/details/127905611
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号