码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【分布式系统】Filebeat+Kafka+ELK 的服务部署


    目录

    一.实验准备

    二.配置部署 Filebeat

    三.配置Logstash

    四.验证


    一.实验准备

    结合之前的博客中的实验

    主机名ip地址主要软件
    es01192.168.80.101ElasticSearch
    es02192.168.80.102ElasticSearch
    es03192.168.80.103ElasticSearch、Kibana
    nginx01192.168.80.104nginx、Logstash
    NA192.168.80.105nginx、Filebeat
    NA192.168.80.106Zookeeper、Kafka
    NA192.168.80.107Zookeeper、Kafka
    NA192.168.80.108Zookeeper、Kafka

    二.配置部署 Filebeat

    1. cd /usr/local/filebeat
    2. vim filebeat.yml
    3. 注释162、164行内容
    4. 163行起添加
    5. output.kafka:
    6. enabled: true
    7. hosts: ["192.168.80.106:9092","192.168.80.107","192.168.80.108"] #指定 Kafka 集群配置
    8. topic: "nginx" #指定 Kafka 的 topic
    9. 启动 filebeat
    10. ./filebeat -e -c filebeat.yml

    三.配置Logstash

    1. cd /etc/logstash/conf.d/
    2. vim kafka.conf
    3. input {
    4. kafka {
    5. bootstrap_server => "192.168.80.106:9092,192.168.80.107:9092,192.168.80.108:9092"
    6. topics => "nginx"
    7. type => "nginx_kafka"
    8. auto_offset_reset => "latest"
    9. }
    10. }
    11. #filter {}
    12. output {
    13. elasticsearch {
    14. hosts => ["192.168.80.101:9200", "192.168.80.102:9200", "192.168.80.103:9200"]
    15. index => "nginx_kafka-%{+yyyy.MM.dd}"
    16. }
    17. }
    18. logstash -t -f kafka.conf
    19. logstash -f kafka.conf

    四.验证

    浏览器访问 http://192.168.80.103:5601 登录 Kibana,单击【管理】按钮【创建索引模式】,搜

    索【nginx_kafka-*】单击 【下一步】按钮创建,选择【@timestamp】 按钮,【创建索引模

    式】;可查看图表信息及日志信息

  • 相关阅读:
    js 将多张图片合并成一张图片
    Karmada 1.3 新特性:基于污点的故障迁移
    生成式人工智能 - stable diffusion web-ui安装教程
    RK3399平台开发系列讲解(中断篇)中断控制器(Generic Interrupt Controller)
    C语言练习题(递归)
    Spark DataFrame join后移除重复的列
    小表join顺序和广播问题
    ResNet网络学习笔记。
    Terraform 系列-Terraform 简介
    windows server安装mysql后公司区域网连接
  • 原文地址:https://blog.csdn.net/F12138X/article/details/140274471
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号