码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • spark获取hadoop服务token


    spark 作业一直卡在accepted

    • 问题现象
    • 问题排查
      • 1.查看yarn app日志
      • 2.问题分析与原因

    问题现象

    通过yarn-cluster模式提交spark作业,客户端日志一直卡在submit app,没有运行

    问题排查

    1.查看yarn app日志

    appid已生成,通过yarn查看app状态为等待am运行。具体查看am日志发现其一直在尝试访问hbase,尝试了36次后失败(集群hbase服务已正常停止)
    在这里插入图片描述

    问题:作业逻辑中不含hbase的相关内容,为什么会去访问hbase?

    2.问题分析与原因

    分析:
    通过上面截图的堆栈信息查看从obtainDeletionTokens方法到HBaseDelegationTokenProvider的obtainDeletionTokens方法,说明这里是去尝试获取hbase的安全令牌。
    (hbase的token获取的用户需要具有hbase:meta表的exec权限)

    原因:
    spark 官方文档

    • 在官网的文档描述:kerberos环境中,spark app在认证的时候,可能会获取hdfs、hive、hbase等服务的安全令牌。
    • 获取hbase的条件:hbase位于集群classpath,同时集群hbase开启了kerberos认证。
    • 所以 我们想跳过这个过程,需要提交作业时传入spark.yarn.security.credentials.hbase.enabled=false
  • 相关阅读:
    Redis集群高可用环境之主从复制
    Linux安装 Mysql - 方法与报错 GPG 密钥 GPG key retrieval failed [Errno 14]
    [激光原理与应用-19]:《激光原理与技术》-5- 激光器的增益、损耗、自激振荡条件
    《Scratch等级考试(1~4级)历届真题解析》专栏总目录
    记录IFA2023上的中国8K摄像机
    “低代码”在企业数字化转型中扮演着什么角色?
    电脑计算机xinput1_3.dll丢失的解决方法分享,四种修复手段解决问题
    百度松果 美丽的三角形(求杨辉三角n行m列的数奇偶性)
    Educational Codeforces Round 155 (Rated for Div. 2)
    Fabric.js 拖拽顶点修改多边形形状
  • 原文地址:https://blog.csdn.net/zincooo/article/details/133888051
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号