码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • kafka分区迁移失败任务的处理


    前一个文章"单副本kafka迁移分区"介绍了,怎样对分区进行迁移,然而在迁移最后一台broker的过程中,controler挂掉了,导致迁移任务一直没有进度,这里记录一下处理的过程

    如果有一个迁移任务在执行时,重复执行,会有下面的提示,./bin/kafka-reassign-partitions.sh 是不能进行取消或者更改迁移任务状态的。

    kafka.common.AdminCommandFailedException: Partition reassignment currently in progress for Map

    处理思路:

    1.登陆zk,把当前的任务删除

    2.重新执行任务

    具体操作:

    2.1.登陆zk,删除任务

    [zk: localhost:8181(CONNECTED) 2] ls /
    [cluster, controller_epoch, controller, brokers, zookeeper, kafka-manager, admin, isr_change_notification, consumers, burrow, latest_producer_id_block, config]
    [zk: localhost:8181(CONNECTED) 3] ls /admin/reassign_partitions
    []

    #查看当前的任务
    [zk: localhost:8181(CONNECTED) 5] get /admin/reassign_partitions 
    {"version":1,"partitions":[{"topic":"yuanlog_json","partition":589,"replicas":[135]},{"topic":"………………
    cZxid = 0x403a9ff6a
    ctime = Thu Jul 25 10:50:12 CST 2019
    mZxid = 0x403c68a74
    mtime = Fri Jul 26 05:47:36 CST 2019
    pZxid = 0x403a9ff6a
    cversion = 0
    dataVersion = 136189
    aclVersion = 0
    ephemeralOwner = 0x0
    dataLength = 9348
    numChildren = 0

    #删除任务
    [zk: localhost:8181(CONNECTED) 8] rmr /admin/reassign_partitions

    [work@kafka-node-134 kafka_2.11-0.10.0.0]$ ./bin/kafka-reassign-partitions.sh --zookeeper 10.69.59.186:8181 --reassignment-json-file ./tmp/136_exec0801.json --execute
    Current partition replica assignment

    2.2 重新执行迁移任务

    [work@kafka-node-134 kafka_2.11-0.10.0.0]$ ./bin/kafka-reassign-partitions.sh --zookeeper 10.10.10.1:8181 --reassignment-json-file ./tmp/136_exec0801.json --execute
    Current partition replica assignment

    ………………

    Successfully started reassignment of partitions {"version":1,"partitions":[{"topic":"XX","partition":237,"replicas":[157]}]}

    2.3 查看任务状态

    [work@kafka-node-134 kafka_2.11-0.10.0.0]$ ./bin/kafka-reassign-partitions.sh --zookeeper 10.10.10.1:8181 --reassignment-json-file ./tmp/136_exec0801.json --verify

  • 相关阅读:
    在Linux中快速编译带图标的windows程序
    EMNLP 2023 | 用于开放域多跳推理的大语言模型的自我提示思想链
    【luogu P8326】Fliper(图论)(构造)(欧拉回路)
    《数据结构学习笔记---第九篇》---循环队列的实现
    农牧业未来发展蓝图--垂直农业+人造肉
    利用 Selenium 自动化 web 测试【步骤详解】
    【历史上的今天】6 月 30 日:冯·诺依曼发表第一份草案;九十年代末的半导体大战;CBS 收购 CNET
    Matlab模式分类代码和手册
    Default Probability
    VsCode通过Git History插件查看某个页面的版本修改记录
  • 原文地址:https://blog.csdn.net/qq_32907195/article/details/126473061
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号