码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 彻底搞懂Docker容器与Kraft模式kafka集群关于消息大小相关参数设置


    Docker部署的设置

    部署背景:
    在DockerHub拉取的bitnami/kafka:3.4.1 镜像,如果要部署在Docker-Swarm集群或者单Docker部署,对于消息大小设置需要添加参数 KAFKA_CFG_MESSAGE_MAX_BYTES,如果设置为其他不符合规范的参数格式,会导致容器一直启动不了。

    PS:KAFKA_CFG_MESSAGE_MAX_BYTES 是针对Broker级别消息大小限制的配置

    image

    可以通过kafka管控平台查看相关参数可得,消息体大小设置已重启生效
    当然如果大多数Topic对于消息的大小需求都在默认的1MB以内,小部分Topic有需求的话,可以单独调整单个Topic的设置
    image

    Kraft模式Kafka集群部署的设置

    部署背景:
    在通过Kafka官网下载的V3.5.1 Binary Download包部署的三节点Kraft模式kafka集群下,设置参数
    接下来从消息流方向进行解析
    (1)生产者限制
    max.request.size
    image

    batch.size
    batch.size默认16KB,那么每个Batch需要凑满16KB才会一次性推送到Kafka集群,提高此参数可以允许更多的数据缓冲到batch,吞吐量会有所提高,如果设置得过大但流量较小导致数据一直缓冲在batch无法推出就会导致延迟很高

    (2)Kafka Topic限制
    max.request.size
    image

    (3)Kafka Broker限制:
    message.max.bytes
    image

    (4)消费者限制
    max.partition.fetch.bytes
    image

  • 相关阅读:
    [Cortex-M3]-3-分散加载文件解析(.sct)
    微信小程序基础
    免费分享一套SpringBoot+Vue教务管理(课程管理)系统,帅呆了~~
    ZooKeeper-实战
    PageHelper详解
    精简指令系统( RISC)
    帧间快速算法论文阅读
    springboot系列(二十七):如何实现word携带图片导出?这你得会|超级详细,建议收藏
    java开发IP 属地功能
    项目上线部署过程相关问题记录
  • 原文地址:https://www.cnblogs.com/iamxiaofu/p/17759494.html
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号