码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • Kafka从入门到精通02


    博客主页:JavaProfessional
    一个专注于Java的博主,致力于使用通俗易懂的语句讲解内容,期待您的关注!

    文章目录

    • Kafka内部结构
      • 解析
      • 疑问
    • kafka外部结构
    • 好文推荐

    Kafka内部结构

    在这里插入图片描述

    解析

    以上图片串联起来了kafka的基本概念,并且还是有很多要点的,我们从左向右一一解析:

    1. 首先从整体上来讲,整体分为3个部分:生产者、kafka集群、消费者。
    2. 我们看到一个topic分为了3个partition分布在了集群中的3个broker中,这样说明topic是一个逻辑概念,partition是存储的物理单位。
    3. 生产者可以指定将消息存储到哪个partition中,就像producer1一样;也可以像producer2,只是指定消息存储的topic,到底存储在哪个partition由kafka决定。
    4. 为了保证可靠性,每个partition都有replicated副本,而且这个副本是存储在另一个broker上。
    5. 对于每一个partition来说,都会有一个broker充当leader角色,有可能具有follower角色。leader角色负责读写消息并向follower同步消息,follower负责当leader挂掉之后,从众多follower中选举一个充当新leader。在上图中partition1充当leader角色的是broker1,充当follower角色的是broker3;partition2充当leader角色的是broker2, 充当follower角色的是broker1.
    6. topic中的消息只能被消费组(由1、2共同组成)中的一个消费者消费;topic可以被多个消费者消费,就像可以被1、2组成的消费组和3一起消费。

    疑问

    看过上图后你对kafka有了基本的认识,可能会有很多疑问:

    1. 一个topic被分为多个partition,是如何做到顺序消费的呢?
    2. leader是如何与follower同步的呢,如何保证一致性?如果一个leader在与follower同步的时候挂掉了,选举出的follower会丢失消息吗?
    3. kafka多个partition之间是怎样做负载均衡的

    kafka外部结构

    在这里插入图片描述

    1. ZooKeeper是Kafka用来负责集群元数据的管理,包括集群、broker、主题、分区等内容的管理。

    ZooKeeper
    ZooKeeper是一个开源的分布式协调服务,分布式应用程序可以基于ZooKeeper实现注诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master管理、配置维护等功能。

    好文推荐

    1. 通俗易懂JVM
    2. 为什么Spring中的IOC(控制反转)能够降低耦合性(解耦)?
    3. 效率翻倍,这些idea的逆天功能你知道吗?
  • 相关阅读:
    2024黑马AI+若依框架项目开发 个人心得、踩坑和bug记录 全网最快最全 基础功能认识篇
    SpringBoot入门教程:数据库恢复(mysqldump和mysqlbinlog)
    [论文阅读链接]
    强强联合:OpenFeign 整合 Sentinel
    Day692.Tomcat如何隔离Web应用 -深入拆解 Tomcat & Jetty
    识别一切模型RAM(Recognize Anything Model)及其前身 Tag2Text 论文解读
    idea常用快捷键
    【FIW2022精彩回顾】国泰君安新一代核心交易系统网络底座建设实践
    Mybatis高级部分
    一、HTML&CSS
  • 原文地址:https://blog.csdn.net/tinpo_123/article/details/126093943
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号