• kafka-eagle部署


    • 1.下载 + 解压 +环境准备
      1. http://download.kafka-eagle.org/
      2. tar -zxvf 压缩包
      3. 环境准备 :Java环境 + mysql数据库
    • 2.配置环境变量
      1. export JAVA_HOME=jdk目录
      2. export KE_HOME=/安装目录/kafka-eagle
      3. export PATH=$PATH:$JAVA_HOME/bin:$KE_HOME/bin
    • 3.修改配置文件 /conf/system-config.properties
      • 修改说明:
      • 1.注释掉cluster2和cluster3的相关内容
      • 2.修改kafka只监控cluster1集群即可 --第一行
      • 3.-- cluster1.kafka.eagle.sasl.protocol 修改为 SASL_PLAINTEXT
      • 4.修改ke的jdbc用mysql
      • 5.配置ke连接的mysql的信息
    1. #####################################
    2. # multi zookeeper & kafka cluster list
    3. ######################################
    4. kafka.eagle.zk.cluster.alias=cluster1
    5. cluster1.zk.list=bd-01:2181,bd-02:2181,bd-03:2181
    6. #cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181
    7. ######################################
    8. # broker size online list
    9. ######################################
    10. cluster1.kafka.eagle.broker.size=20
    11. ######################################
    12. # zk client thread limit
    13. ######################################
    14. kafka.zk.limit.size=25
    15. ######################################
    16. # kafka eagle webui port
    17. ######################################
    18. kafka.eagle.webui.port=8048
    19. ######################################
    20. # kafka offset storage
    21. ######################################
    22. cluster1.kafka.eagle.offset.storage=kafka
    23. #cluster2.kafka.eagle.offset.storage=zk
    24. ######################################
    25. # kafka metrics, 15 days by default
    26. ######################################
    27. kafka.eagle.metrics.charts=true
    28. kafka.eagle.metrics.retain=15
    29. ######################################
    30. # kafka sql topic records max
    31. ######################################
    32. kafka.eagle.sql.topic.records.max=5000
    33. kafka.eagle.sql.fix.error=true
    34. ######################################
    35. # delete kafka topic token
    36. ######################################
    37. kafka.eagle.topic.token=keadmin
    38. ######################################
    39. # kafka sasl authenticate
    40. ######################################
    41. cluster1.kafka.eagle.sasl.enable=false
    42. cluster1.kafka.eagle.sasl.protocol=SASL_PLAINTEXT
    43. cluster1.kafka.eagle.sasl.mechanism=PLAIN
    44. cluster1.kafka.eagle.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="kafka" password="kafka-eagle";
    45. cluster1.kafka.eagle.sasl.client.id=
    46. cluster1.kafka.eagle.sasl.cgroup.enable=false
    47. cluster1.kafka.eagle.sasl.cgroup.topics=
    48. #cluster2.kafka.eagle.sasl.enable=false
    49. #cluster2.kafka.eagle.sasl.protocol=SASL_PLAINTEXT
    50. #cluster2.kafka.eagle.sasl.mechanism=PLAIN
    51. #cluster2.kafka.eagle.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="kafka" password="kafka-eagle";
    52. #cluster2.kafka.eagle.sasl.client.id=
    53. #cluster2.kafka.eagle.sasl.cgroup.enable=false
    54. #cluster2.kafka.eagle.sasl.cgroup.topics=
    55. ######################################
    56. # kafka ssl authenticate
    57. ######################################
    58. #cluster3.kafka.eagle.ssl.enable=false
    59. #cluster3.kafka.eagle.ssl.protocol=SSL
    60. #cluster3.kafka.eagle.ssl.truststore.location=
    61. #cluster3.kafka.eagle.ssl.truststore.password=
    62. #cluster3.kafka.eagle.ssl.keystore.location=
    63. #cluster3.kafka.eagle.ssl.keystore.password=
    64. #cluster3.kafka.eagle.ssl.key.password=
    65. #cluster3.kafka.eagle.ssl.cgroup.enable=false
    66. #cluster3.kafka.eagle.ssl.cgroup.topics=
    67. ######################################
    68. # kafka sqlite jdbc driver address
    69. ######################################
    70. kafka.eagle.driver=com.mysql.jdbc.Driver
    71. kafka.eagle.url=jdbc:mysql://192.168.8.81:3306/kafka_eagle?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
    72. kafka.eagle.username=root
    73. kafka.eagle.password=123456
    74. ######################################
    75. # kafka mysql jdbc driver address
    76. ######################################
    77. #kafka.eagle.driver=com.mysql.jdbc.Driver
    78. #kafka.eagle.url=jdbc:mysql://127.0.0.1:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
    79. #kafka.eagle.username=root
    80. #kafka.eagle.password=123456
    • kafka开启jmx端口
    1. vi /opt/kafka/bin/kafka-server-start.sh
    2. 在export KAFKA_HEAP_OPTS="-Xmx1G -Xms1G"下方
    3. 添加一行export JMX_PORT="9999"然后重启kafka
    • 5.使用运维
      1. ke.sh start 启动Kafka Eagle系统
      2. ke.sh stop 停止Kafka Eagle系统
      3. ke.sh restart 重启Kafka Eagle系统
      4. ke.sh status 查看Kafka Eagle系统运行状态
      5. ke.sh stats 统计Kafka Eagle系统占用Linux资源情况
      6. ke.sh find [ClassName] 查看Kafka Eagle系统中的类是否存在

  • 相关阅读:
    IPWorks 2022 Python Edition Crack
    JVM第一话 -- JVM入门详解以及运行时数据区分析
    紫光同创FPGA实现HSSTLP高速接口通信,8b/10b编解码数据回环,提供PDS工程源码和技术支持
    Docker实践:使用Docker搭建个人开发环境
    鲜花商城系统设计与实现(Java+Web+MySQL)
    痞子衡嵌入式:MCUBootUtility v5.3发布,利用XMCD轻松使能外部RAM
    CRC校验原理与FPGA实现(含推导过程)
    Python数学基础二、利用正弦sin求曲边图形的面积
    css设置 图片根据宽或高 等比例缩放
    【自然语言处理】seq2seq模型—机器翻译
  • 原文地址:https://blog.csdn.net/JinChao94/article/details/126485211