• centos7安装kafka、zookeeper

    安装jdk

    安装jdk8  

    安装zookeeper

    在指定目录执行下载命令 我是在/newdisk/zookeeper目录下

    wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.8/apache-zookeeper-3.5.8-bin.tar.gz --no-check-certificate

    下载好后并解压  tar -zxvf apache-zookeeper-3.5.8-bin.tar.gz

    校验是否安装好，进入 /newdisk/zookeeper/apache-zookeeper-3.5.8-bin/conf

    复制zoo_sample.cfg配置文件为zoo.cfg

    cp zoo_sample.cfg zoo.cfg

    在进入/newdisk/zookeeper/apache-zookeeper-3.5.8-bin/bin目录

    启动zk服务端

    ./zkServer.sh start

     启动客户端

     ./zkCli.sh

    在查看根节点 ，出现如下界面就安装成功了

    安装kafka 

    进入到要下载的目录，我这边是/newdisk/kafka 执行下载命令（有点慢）

    wget https://archive.apache.org/dist/kafka/2.4.1/kafka_2.11-2.4.1.tgz --no-check-certificate

    或者直接使用安装包kafka_2.13-3.6.0.tgz

    解压  tar -xvzf kafka_2.13-3.6.0.tgz

    修改配置

    进入/newdisk/kafka/kafka_2.13-3.6.0/config，vim server.properties

    1. # broker.id属性在kafka集群中必须要是唯一
    2. broker.id=0
    3. # kafka部署的机器ip和提供服务的端口号
    4. listeners=PLAINTEXT://内网ip:9092
    5. # kafka的消息存储文件
    6. log.dirs=/usr/local/data/kafka-logs
    7. # kafka连接zookeeper的地址
    8. zookeeper.connect=内网ip:2181
    1. broker.id=0
    2. listeners=PLAINTEXT://192.168.31.131:9092
    3. log.dir=/newdisk/kafka/data/kafka-logs
    4. zookeeper.connect=192.168.31.131:2181

    启动kafka（前提是zookeeper服务端启动）

    进入/newdisk/kafka/kafka_2.13-3.6.0/，执行如下命令

    bin/kafka-server-start.sh config/server.properties

    通过zookeeper客户端查看是否注册成功

    kafka基本操作

    创建topic

    参数 --topic 指定 Topic 名，--partitions 指定分区数，--replication-factor 指定副本数：

    ./kafka-topics.sh --create --bootstrap-server 192.168.31.131:9092 --replication-factor 1 --partitions 1 --topic test

    查看topic

    ./kafka-topics.sh --list --bootstrap-server 192.168.31.131:9092

     发送消息

    ./kafka-console-producer.sh --broker-list 192.168.31.131:9092 --topic test

    消费消息 

    ./kafka-console-consumer.sh --bootstrap-server 192.168.31.131:9092 --topic test --from-beginning

    安装可视化工具Apache Kafka UI

    地址：GitHub - provectus/kafka-ui: Open-Source Web UI for Apache Kafka Management

    简介

    Apache Kafka UI 是一个免费的开源 Web UI，用于监控和管理 Apache Kafka 集群。

    Apache Kafka UI 是一个简单的工具，可让您的数据流可观察，帮助更快地发现和解决问题并提供最佳性能。其轻量级仪表板可以轻松跟踪 Kafka 集群的关键指标 - 代理、主题、分区、生产和消耗。

    安装及启动（docker）

    运行如下命令

    docker run -it -p 8080:8080 -d -e DYNAMIC_CONFIG_ENABLED=true provectuslabs/kafka-ui

    然后访问 Web UI ：http://localhost:8080

    可视化工具kafka-eagle（推荐）

    下载 ，只需要到自己想要下载的文件路径下执行如下命令

    wget https://github.com/smartloli/kafka-eagle-bin/archive/v2.1.0.tar.gz

    解压，解压后发现里面还是一个压缩包

    tar -xzvf v2.1.0.tar.gz

    继续解压 

    tar -xvzf efak-web-2.1.0-bin.tar.gz

    复制到指定文件夹

     mv efak-web-2.1.0 /newdisk/kafka/kafka-web

    配置kafka_eagle环境变量：vim /etc/profile

    1. # KAFKA_EAGLE
    2. export KE_HOME=/newdisk/kafka/kafka-web
    3. export PATH=$PATH:$KE_HOME/bin

    source /etc/profile

    配置kafka_eagle，修改配置文件conf文件夹下的system-config.properties文件

     

    完整的配置如下

    1.  
    2. ######################################
    3. # multi zookeeper & kafka cluster list
    4. # Settings prefixed with 'kafka.eagle.' will be deprecated, use 'efak.' instead
    5. ######################################
    6. #efak.zk.cluster.alias=cluster1,cluster2
    7. #cluster1.zk.list=tdn1:2181,tdn2:2181,tdn3:2181
    8. #cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181
    9.  
    10. efak.zk.cluster.alias=cluster1
    11. cluster1.zk.list=192.168.31.131:2181
    12.  
    13.  
    14. ######################################
    15. # zookeeper enable acl
    16. ######################################
    17. cluster1.zk.acl.enable=false
    18. cluster1.zk.acl.schema=digest
    19. cluster1.zk.acl.username=test
    20. cluster1.zk.acl.password=test123
    21.  
    22. ######################################
    23. # broker size online list
    24. ######################################
    25. cluster1.efak.broker.size=20
    26.  
    27. ######################################
    28. # zk client thread limit
    29. ######################################
    30. kafka.zk.limit.size=16
    31.  
    32. ######################################
    33. # EFAK webui port
    34. ######################################
    35. efak.webui.port=8048
    36.  
    37. ######################################
    38. # EFAK enable distributed
    39. ######################################
    40. efak.distributed.enable=false
    41. efak.cluster.mode.status=master
    42. efak.worknode.master.host=localhost
    43. efak.worknode.port=8085
    44.  
    45. ######################################
    46. # kafka jmx acl and ssl authenticate
    47. ######################################
    48. cluster1.efak.jmx.acl=false
    49. cluster1.efak.jmx.user=keadmin
    50. cluster1.efak.jmx.password=keadmin123
    51. cluster1.efak.jmx.ssl=false
    52. cluster1.efak.jmx.truststore.location=/data/ssl/certificates/kafka.truststore
    53. cluster1.efak.jmx.truststore.password=ke123456
    54.  
    55. ######################################
    56. # kafka offset storage
    57. ######################################
    58. cluster1.efak.offset.storage=kafka
    59. #cluster2.efak.offset.storage=zk
    60.  
    61. ######################################
    62. # kafka jmx uri
    63. ######################################
    64. cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/jmxrmi
    65.  
    66. ######################################
    67. # kafka metrics, 15 days by default
    68. ######################################
    69. efak.metrics.charts=true
    70. efak.metrics.retain=15
    71.  
    72. ######################################
    73. # kafka sql topic records max
    74. ######################################
    75. efak.sql.topic.records.max=5000
    76. efak.sql.topic.preview.records.max=10
    77.  
    78. ######################################
    79. # delete kafka topic token
    80. ######################################
    81. efak.topic.token=keadmin
    82.  
    83. ######################################
    84. # kafka sasl authenticate
    85. ######################################
    86. cluster1.efak.sasl.enable=false
    87. cluster1.efak.sasl.protocol=SASL_PLAINTEXT
    88. cluster1.efak.sasl.mechanism=SCRAM-SHA-256
    89. cluster1.efak.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="kafka" password="kafka-eagle";
    90. cluster1.efak.sasl.client.id=
    91. cluster1.efak.blacklist.topics=
    92. cluster1.efak.sasl.cgroup.enable=false
    93. cluster1.efak.sasl.cgroup.topics=
    94. #cluster2.efak.sasl.enable=false
    95. #cluster2.efak.sasl.protocol=SASL_PLAINTEXT
    96. #cluster2.efak.sasl.mechanism=PLAIN
    97. #cluster2.efak.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="kafka" password="kafka-eagle";
    98. #cluster2.efak.sasl.client.id=
    99. #cluster2.efak.blacklist.topics=
    100. #cluster2.efak.sasl.cgroup.enable=false
    101. #cluster2.efak.sasl.cgroup.topics=
    102.  
    103. ######################################
    104. # kafka ssl authenticate
    105. ######################################
    106. cluster3.efak.ssl.enable=false
    107. cluster3.efak.ssl.protocol=SSL
    108. cluster3.efak.ssl.truststore.location=
    109. cluster3.efak.ssl.truststore.password=
    110. cluster3.efak.ssl.keystore.location=
    111. cluster3.efak.ssl.keystore.password=
    112. cluster3.efak.ssl.key.password=
    113. cluster3.efak.ssl.endpoint.identification.algorithm=https
    114. cluster3.efak.blacklist.topics=
    115. cluster3.efak.ssl.cgroup.enable=false
    116. cluster3.efak.ssl.cgroup.topics=
    117.  
    118. ######################################
    119. # kafka sqlite jdbc driver address
    120. ######################################
    121. #efak.driver=org.sqlite.JDBC
    122. #efak.url=jdbc:sqlite:/hadoop/kafka-eagle/db/ke.db
    123. #efak.username=root
    124. #efak.password=www.kafka-eagle.org
    125.  
    126. ######################################
    127. # kafka mysql jdbc driver address
    128. ######################################
    129. efak.driver=com.mysql.cj.jdbc.Driver
    130. efak.url=jdbc:mysql://192.168.31.131:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
    131. efak.username=root
    132. efak.password=123456

     保存后，启动

    bin/ke.sh start

    我这边启动报错，根据提升是内存不够，我们把内存调小一点

    vim bin/ke.sh

    重新启动

     查看状态

    bin/ke.sh status

    浏览器访问http://192.168.31.131:8048/    用户名/密码  admin/123456

    到这边就成功了 

  • 相关阅读:
    在 Azure 中开发云原生应用程序：工具和技巧
    三、thymeleaf基本语法
    【python】内置库函数大集合 ❢ 这不得点赞收藏一波~
    Mysql 索引使用总结
    Redis学习笔记（四）Redis订阅发布&主从复制&哨兵模式
    Java面试八股之Java中为什么没有全局变量
    Hadoop 2.0：主流开源云架构（四）
    BP神经网络算法基本原理,bp神经网络算法的原理
    1.Netty概述
    【面试】——Java面试重难点剖析
  • 原文地址：https://blog.csdn.net/qq_62408075/article/details/136402103