• Kafka集群搭建配置


    kafka下载安装

    安装前的环境准备
    由于Kafka是用Scala语言开发的,运行在JVM上,因此在安装Kafka之前需要先安装JDK。
    kafka依赖zookeeper,所以需要先安装zookeeper

    修改配置:文件config/server.properties:
    #broker.id属性在kafka集群中必须要是唯一
    broker.id=0
    #kafka部署的机器ip和提供服务的端口号
    listeners=PLAINTEXT://192.168.36.131:9092
    #kafka的消息存储文件
    log.dir=/usr/local/data/kafka-logs
    #kafka连接zookeeper的地址
    zookeeper.connect=192.168.36.131:2181

    启动kafka,运行日志在logs目录的server.log文件里
    bin/kafka-server-start.sh -daemon config/server.properties
    #后台启动,不会打印日志到控制台或者用
    bin/kafka-server-start.sh config/server.properties &

    我们进入zookeeper目录通过zookeeper客户端查看下zookeeper的目录树
    bin/zkCli.sh
    查看zk的根目录kafka相关节点
    ls /brokers/ids #查看kafka节点
    停止kafka
    bin/kafka-server-stop.sh

    核心配置详情

    在这里插入图片描述

    集群搭建配置

    对于kafka来说,一个单独的broker意味着kafka集群中只有一个节点。要想增加kafka集群中的节点数量,只需要多启动几个broker实例即可。为了有更好的理解,现在我们在一台机器上同时启动三个broker例。
    首先,我们需要建立好其他2个broker的配置文件:

    cp config/server.properties config/server-1.properties
    cp config/server.properties config/server-2.properties
    
    配置文件需要修改的内容分别如下:
    config/server-1.properties:
    #broker.id属性在kafka集群中必须要是唯一 
    broker.id=1 
    #kafka部署的机器ip和提供服务的端口号 
    listeners=PLAINTEXT://192.168.36.131:9093 
    log路径
    log.dir=/usr/local/data/kafka-logs-1 
    #kafka连接zookeeper的地址,要把多个kafka实例组成集群,对应连接的zookeeper必须相同 zookeeper.connect=192.168.36.131:2181
        
    config/server-2.properties:
    broker.id=2 
    listeners=PLAINTEXT://192.168.36.131:9094 
    log.dir=/usr/local/data/kafka-logs-2 
    zookeeper.connect=192.168.36.131:2181
        
    启动两个broker结点:
    bin/kafka-server-start.sh -daemon config/server-1.properties
    bin/kafka-server-start.sh -daemon config/server-2.properties
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22

    kafka的图形界面有这么几种:
    可以参见我云雀笔记这里就不一一给大家叙述了:
    kafka图形界面介绍安装

    kafka集群搭建配置:
    kafka集群配置搭建

  • 相关阅读:
    【kernel exploit】CVE-2022-34918 nftable堆溢出漏洞利用(list_head任意写)
    ARM开发初级-STM32中断系统-学习笔记07
    事件对象的兼容
    c++|内联函数
    singularity-ce-4.1.0 + go 完整安装步骤,及报错解决
    UE4游戏保存
    Linux系统各种库/软件版本输出指令
    web课程设计网页规划与设计——惊奇漫画网站
    Leveldb学习笔记:leveldb的使用与原理探究
    自制操作系统日志——第二十一天
  • 原文地址:https://blog.csdn.net/huanglu0314/article/details/125533755