• ELK 企业级日志分析系统 ELFK


    一、概述

    ELK平台是一套完整的日志集中处理解决方案,将 ElasticSearchLogstash 和 Kiabana 三个开源工具配合使用, 完成更强大的用户对日志的查询、排序、统计需求。

    使用ELK日志文件系统的原因:日志主要包括系统日志、应用程序日志和安全日志。系统运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误及错误发生的原因。经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误。
    往往单台机器的日志我们使用grep、awk等工具就能基本实现简单分析,但是当日志被分散的储存不同的设备上。如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志。这样是不是感觉很繁琐和效率低下。当务之急我们使用集中化的日志管理,例如:开源的syslog,将所有服务器上的日志收集汇总。集中化管理日志后,日志的统计和检索又成为一件比较麻烦的事情,一般我们使用 grep、awk和wc等Linux命令能实现检索和统计,但是对于要求更高的查询、排序和统计等要求和庞大的机器数量依然使用这样的方法难免有点力不从心。
    一般大型系统是一个分布式部署的架构,不同的服务模块部署在不同的服务器上,问题出现时,大部分情况需要根据问题暴露的关键信息,定位到具体的服务器和服务模块,构建一套集中式日志系统,可以提高定位问题的效率。

    完整日志系统基本特征

    收集:能够采集多种来源的日志数据
    传输:能够稳定的把日志数据解析过滤并传输到存储系统
    存储:存储日志数据
    分析:支持 UI 分析
    警告:能够提供错误报告,监控机制

    二、组件介绍

    ElasticSearch

    ElasticSearch:是基于Lucene(一个全文检索引擎的架构)开发的分布式存储检索引擎,用来存储各类日志。
    Elasticsearch 是用 Java 开发的,可通过 RESTful Web 接口,让用户可以通过浏览器与 Elasticsearch 通信。
    Elasticsearch是一个实时的、分布式的可扩展的搜索引擎,允许进行全文、结构化搜索,它通常用于索引和搜索大容量的日志数据,也可用于搜索许多不同类型的文档。

    数据存储的方式类似于redis的cluster集群,对数据进行了分片,并且每个片都会有相应的副本
     

    核心特点

    1、接近实时(NRT):搜索速度非常的快,轻微的延迟

    2、集群(cluster):集群有一个唯一标志的名字,默认Elasticasearch,将一个或多个节点组织在一起,组成一个cluster的集群,每个节点基于集群名字加入到集群中,且在集群中使用自己的名字来身份标识。

    3、节点(node):每一个节点就是一台单台服务器

    4、索引(index):一个索引由一个名字来标识(必须全部是小写字母),并且当我们要多对应这个索引中的文档进行索引、更新、删除的时候,都要使用到这个名字。

    6、类型(type):在一个索引中,你可以定义一个或多种类型。比如:当我们存储一个购物平台的数据时,可以定义一个用户数据类型,产品数据类型等

    7、文档(document):一个文档是一个可被索引的基础信息单元

    分片与副本:

    分片:为了解决索引存储的数据可能超过单个节点的硬件限制,ES提供了将索引分成多个分片的功能,当在创建索引时,可以定义想要的分片数量,每一个分片就是一个全功能独立的索引。

    分片的优点:1、水平分割扩展,增大了存储量。 2、分布式跨越分片操作,提高性能和吞吐量

    副本:为了健壮性,高可用性,可以故障切换。es将分片复制一份或多份放在不同的节点主机上,称为分片副本

    副本的优点:1、高可用,以应对分片或者节点故障,出于这个原因,分片副本要在不同的节点上。 2、加强性能,增强吞吐量,搜索可以并行在所有副本上执行


    总结:对logstash过滤的数据进行索引和存储

    Kiabana

    Kiabana:Kibana 通常与 Elasticsearch 一起部署,Kibana 是 Elasticsearch 的一个功能强大的数据可视化 Dashboard,Kibana 提供图形化的 web 界面来浏览 Elasticsearch 日志数据,可以用来汇总、分析和搜索重要数据。

    主要特点

    1、Elasticsearch无缝之集成

    2、整合数据

    3、接口灵活,分享容易

    4、配置简单

    5、可视化多数据源

    6、简单数据导出

    7、让更多团队成员收益

    总结:将elasticsearch服务中存储的数据以可视化的方式展示给用户

    Logstash

    Logstash:作为数据收集引擎。它支持动态的从各种数据源搜集数据,并对数据进行过滤、分析、丰富、统一格式等操作,然后存储到用户指定的位置,一般会发送给 Elasticsearch。
    Logstash 由 Ruby 语言编写,运行在 Java 虚拟机(JVM)上,是一款强大的数据处理工具, 可以实现数据传输、格式处理、格式化输出。Logstash 具有强大的插件功能,常用于日志处理。

    由三个组件组成:  input(数据采集)  filter(数据过滤)  output(数据输出)

    主要组件

    Shipper(日志收集):负责监控本地日志文件的变化,及时把日志文件的最新内容收集起来。通常远程代理端(agent)只需要运行这个组件即可
    Indexer(日志存储):负责接收日志并写入到本地文件
    Broker(日志Hub):负责连接多个Shipper和多个Indexer
    Search and Storage:允许对事件进行搜索和存储
    Web Interface:基于Web的展示界面

    总结:对集中的日志数据进行采集,并且格式化数据后,输出给elasticsearch中

    可以添加的其它组件:Filebeat

    Filebeat:轻量级的开源日志文件数据搜集器。通常在需要采集数据的客户端安装 Filebeat,并指定目录与日志格式,Filebeat 就能快速收集数据,并发送给 logstash 进或是直接发给 Elasticsearch 存储,性能上相比运行于 JVM 上的 logstash 优势明显,是对它的替代。常应用于 EFLK 架构当中。行解析。

    filebeat的工作原理

    Filebeat可以保持每个文件的状态,并且频繁的把文件状态从注册表里更新到磁盘,这里所说的文件状态是用来记录上一次Harvaster读取文件时,读取到的位置,以保证能把全部的日志都读取出来,然后发给output。

    如果在某一时刻,作为output的Elasticsearch或则Logstash变成了不可用,Filebeat将会把最后的文件读取位置保存下来,直到output重新可用的时候,快速地恢复文件数据的读取。

    在Filebeat运行过程中,每个Prospector的状态信息都会保存在内存里,如果Filebeat出现了重启,完成重启之后,会从注册表文件里恢复重启之间的状态信息,让Filebeat继续从之间已知的位置开始进行读取数据。

    filebeat和logstash的区别:

    因为logstash是jvm跑的,资源消耗比较大,启动一个logstash就需要消耗500M左右的内存(这就是为什么logstash启动特别慢的原因)。
    而filebeat只需要10M左右的内存资源。
    常用的ELK日志采集方案中,大部分的做法就是将所有节点的日志内容通过filebeat发送到logstash,lostash根据配置文件进行过滤,然后将过滤之后的文件传输到elasticsearch中,最后通过kibana展示。

    Filebeat结合logstash带来的好处:

    (1)通过 Logstash 具有基于磁盘的自适应缓冲系统,该系统将吸收传入的吞吐量,从而减轻 Elasticsearch 持续写入数据的压力。

    (2)从其他数据源(例如数据库,S3对象存储或消息传递队列)中提取

    (3)将数据发送到多个目的地,例如S3,HDFS(Hadoop分布式文件系统)或写入文件

    (4)使用条件数据流逻辑组成更复杂的处理管道

    缓存/消息队列(redis、kafka、RabbitMQ等)

    可以对高并发日志数据进行流量削峰和缓冲,这样的缓冲可以一定程度的保护数据不丢失,还可以对整个架构进行应用解耦。

    Fluentd

    是一个流行的开源数据收集器。由于 logstash 太重量级的缺点,Logstash 性能低、资源消耗比较多等问题,随后就有 Fluentd 的出现。相比较 logstash,Fluentd 更易用、资源消耗更少、性能更高,在数据处理上更高效可靠,受到企业欢迎,成为 logstash 的一种替代方案,常应用于 EFK 架构当中。在 Kubernetes 集群中也常使用 EFK 作为日志数据收集的方案。
    在 Kubernetes 集群中一般是通过 DaemonSet 来运行 Fluentd,以便它在每个 Kubernetes 工作节点上都可以运行一个 Pod。 它通过获取容器日志文件、过滤和转换日志数据,然后将数据传递到 Elasticsearch 集群,在该集群中对其进行索引和存储。

    三、ELK工作原理

    (1)在所有需要收集日志的服务器上部署Logstash;或者先将日志进行集中化管理在日志服务器上,在日志服务器上部署 Logstash。
    (2)Logstash 收集日志,将日志格式化并输出到 Elasticsearch 群集中。
    (3)Elasticsearch 对格式化后的数据进行索引和存储。
    (4)Kibana 从 ES 群集中查询数据生成图表,并进行前端数据的展示。

    总结:logstash作为日志搜集器,从数据源采集数据,并对数据进行过滤,格式化处理,然后交由Elasticsearch存储,kibana对日志进行可视化处理。

    input :数据采集
    output :数据输出
    filter :数据过滤

    四、实例演示

                                     ip地址                     服务
    node1 (mysql2)    192.168.11.22    elasticsearch
    node2 (mysql3)    192.168.11.23    elasticsearch elasticsearch-head kibana
    mysql3 (客户端)    192.168.11.24    apache logstash
    192.168.11.10 (客户端)    192.168.11.12    filebeat

    1. Node1节点(2C/4G):node1/192.168.10.13 Elasticsearch Kibana
    2. Node2节点(2C/4G):node2/192.168.10.14 Elasticsearch
    3. Apache节点:apache/192.168.10.15 Logstash Apache
    4. systemctl stop firewalld
    5. setenforce 0
    6. ------------------- ELK Elasticsearch 集群部署(在Node1、Node2节点上操作) ----------------------------------
    7. 1.环境准备
    8. #更改主机名、配置域名解析、查看Java环境
    9. Node1节点:hostnamectl set-hostname node1
    10. Node2节点:hostnamectl set-hostname node2
    11. vim /etc/hosts
    12. 192.168.10.13 node1
    13. 192.168.10.14 node2
    14. 注:版本问题
    15. java -version #如果没有安装,yum -y install java
    16. openjdk version "1.8.0_131"
    17. OpenJDK Runtime Environment (build 1.8.0_131-b12)
    18. OpenJDK 64-Bit Server VM (build 25.131-b12, mixed mode)
    19. 建议使用jdk
    20. 2.部署 Elasticsearch 软件
    21. 1)安装elasticsearch—rpm包
    22. #上传elasticsearch-5.5.0.rpm到/opt目录下
    23. cd /opt
    24. rpm -ivh elasticsearch-5.5.0.rpm
    25. 2)加载系统服务
    26. systemctl daemon-reload
    27. systemctl enable elasticsearch.service
    28. 3)修改elasticsearch主配置文件
    29. cp /etc/elasticsearch/elasticsearch.yml /etc/elasticsearch/elasticsearch.yml.bak
    30. vim /etc/elasticsearch/elasticsearch.yml
    31. --17--取消注释,指定集群名字
    32. cluster.name: my-elk-cluster
    33. --23--取消注释,指定节点名字:Node1节点为node1,Node2节点为node2
    34. node.name: node1
    35. --33--取消注释,指定数据存放路径
    36. path.data: /data/elk_data
    37. --37--取消注释,指定日志存放路径
    38. path.logs: /var/log/elasticsearch/
    39. --43--取消注释,改为在启动的时候不锁定内存
    40. bootstrap.memory_lock: false
    41. --55--取消注释,设置监听地址,0.0.0.0代表所有地址
    42. network.host: 0.0.0.0
    43. --59--取消注释,ES 服务的默认监听端口为9200
    44. http.port: 9200
    45. --68--取消注释,集群发现通过单播实现,指定要发现的节点 node1、node2
    46. discovery.zen.ping.unicast.hosts: ["node1", "node2"]
    47. grep -v "^#" /etc/elasticsearch/elasticsearch.yml
    48. 4)创建数据存放路径并授权
    49. mkdir -p /data/elk_data
    50. chown elasticsearch:elasticsearch /data/elk_data/
    51. 5)启动elasticsearch是否成功开启
    52. systemctl start elasticsearch.service
    53. netstat -antp | grep 9200
    54. 6)查看节点信息
    55. 浏览器访问 http://192.168.10.13:9200 、 http://192.168.10.14:9200 查看节点 Node1、Node2 的信息。
    56. 浏览器访问 http://192.168.10.13:9200/_cluster/health?pretty 、 http://192.168.10.14:9200/_cluster/health?pretty查看群集的健康情况,可以看到 status 值为 green(绿色), 表示节点健康运行。
    57. 浏览器访问 http://192.168.10.13:9200/_cluster/state?pretty 检查群集状态信息。
    58. #使用上述方式查看群集的状态对用户并不友好,可以通过安装 Elasticsearch-head 插件,可以更方便地管理群集。
    59. 3.安装 Elasticsearch-head 插件
    60. Elasticsearch 在 5.0 版本后,Elasticsearch-head 插件需要作为独立服务进行安装,需要使用npm工具(NodeJS的包管理工具)安装。
    61. 安装 Elasticsearch-head 需要提前安装好依赖软件 node 和 phantomjs。
    62. node:是一个基于 Chrome V8 引擎的 JavaScript 运行环境。
    63. phantomjs:是一个基于 webkit 的JavaScriptAPI,可以理解为一个隐形的浏览器,任何基于 webkit 浏览器做的事情,它都可以做到。
    64. 1)编译安装 node
    65. #上传软件包 node-v8.2.1.tar.gz 到/opt
    66. yum install gcc gcc-c++ make -y
    67. cd /opt
    68. tar zxvf node-v8.2.1.tar.gz
    69. cd node-v8.2.1/
    70. ./configure
    71. make && make install
    72. 2)安装 phantomjs(前端的框架)
    73. #上传软件包 phantomjs-2.1.1-linux-x86_64.tar.bz2
    74. cd /opt
    75. tar jxvf phantomjs-2.1.1-linux-x86_64.tar.bz2 -C /usr/local/src/
    76. cd /usr/local/src/phantomjs-2.1.1-linux-x86_64/bin
    77. cp phantomjs /usr/local/bin
    78. 3)安装 Elasticsearch-head 数据可视化工具
    79. #上传软件包 elasticsearch-head.tar.gz 到/opt
    80. cd /opt
    81. tar zxvf elasticsearch-head.tar.gz -C /usr/local/src/
    82. cd /usr/local/src/elasticsearch-head/
    83. npm install
    84. 4)修改 Elasticsearch 主配置文件
    85. vim /etc/elasticsearch/elasticsearch.yml
    86. ......
    87. --末尾添加以下内容--
    88. http.cors.enabled: true #开启跨域访问支持,默认为 false
    89. http.cors.allow-origin: "*" #指定跨域访问允许的域名地址为所有
    90. systemctl restart elasticsearch
    91. 5)启动 elasticsearch-head 服务
    92. #必须在解压后的 elasticsearch-head 目录下启动服务,进程会读取该目录下的 gruntfile.js 文件,否则可能启动失败。
    93. cd /usr/local/src/elasticsearch-head/
    94. npm run start &
    95. > elasticsearch-head@0.0.0 start /usr/local/src/elasticsearch-head
    96. > grunt server
    97. Running "connect:server" (connect) task
    98. Waiting forever...
    99. Started connect web server on http://localhost:9100
    100. #elasticsearch-head 监听的端口是 9100
    101. netstat -natp |grep 9100
    102. 6)通过 Elasticsearch-head 查看 Elasticsearch 信息
    103. 通过浏览器访问 http://192.168.10.13:9100/ 地址并连接群集。如果看到群集健康值为 green 绿色,代表群集很健康。
    104. 7)插入索引
    105. #通过命令插入一个测试索引,索引为 index-demo,类型为 test
    106. //输出结果如下:curl -X PUT 'localhost:9200/index-demo1/test/1?pretty&pretty' -H 'content-Type: application/json' -d '{"user":"zhangsan","mesg":"hello world"}'
    107. {
    108. "_index" : "index-demo",
    109. "_type" : "test",
    110. "_id" : "1",
    111. "_version" : 1,
    112. "result" : "created",
    113. "_shards" : {
    114. "total" : 2,
    115. "successful" : 2,
    116. "failed" : 0
    117. },
    118. "created" : true
    119. }
    120. 浏览器访问 http://192.168.10.13:9100/ 查看索引信息,可以看见索引默认被分片5个,并且有一个副本。
    121. 点击“数据浏览”,会发现在node1上创建的索引为 index-demo,类型为 test 的相关信息。
    122. ---------------------- ELK Logstash 部署(在 Apache 节点上操作) ----------------------------------------
    123. Logstash 一般部署在需要监控其日志的服务器。在本案例中,Logstash 部署在 Apache 服务器上,用于收集 Apache 服务器的日志信息并发送到 Elasticsearch。
    124. 1.更改主机名
    125. hostnamectl set-hostname apache
    126. 2.安装Apahce服务(httpd)
    127. yum -y install httpd
    128. systemctl start httpd
    129. 3.安装Java环境
    130. yum -y install java
    131. java -version
    132. 4.安装logstash
    133. #上传软件包 logstash-5.5.1.rpm 到/opt目录下
    134. cd /opt
    135. rpm -ivh logstash-5.5.1.rpm
    136. systemctl start logstash.service
    137. systemctl enable logstash.service
    138. ln -s /usr/share/logstash/bin/logstash /usr/local/bin/
    139. 5.测试 Logstash
    140. Logstash 命令常用选项:
    141. -f:通过这个选项可以指定 Logstash 的配置文件,根据配置文件配置 Logstash 的输入和输出流。
    142. -e:从命令行中获取,输入、输出后面跟着字符串,该字符串可以被当作 Logstash 的配置(如果是空,则默认使用 stdin 作为输入,stdout 作为输出)。
    143. -t:测试配置文件是否正确,然后退出。
    144. 定义输入和输出流:
    145. #输入采用标准输入,输出采用标准输出(类似管道)
    146. logstash -e 'input { stdin{} } output { stdout{} }'
    147. ......
    148. www.baidu.com #键入内容(标准输入)
    149. 2020-12-22T03:58:47.799Z node1 www.baidu.com #输出结果(标准输出)
    150. www.sina.com.cn #键入内容(标准输入)
    151. 2017-12-22T03:59:02.908Z node1 www.sina.com.cn #输出结果(标准输出)
    152. //执行 ctrl+c 退出
    153. #使用 rubydebug 输出详细格式显示,codec 为一种编解码器
    154. logstash -e 'input { stdin{} } output { stdout{ codec=>rubydebug } }'
    155. ......
    156. www.baidu.com #键入内容(标准输入)
    157. {
    158. "@timestamp" => 2020-12-22T02:15:39.136Z, #输出结果(处理后的结果)
    159. "@version" => "1",
    160. "host" => "apache",
    161. "message" => "www.baidu.com"
    162. }
    163. #使用 Logstash 将信息写入 Elasticsearch 中
    164. logstash -e 'input { stdin{} } output { elasticsearch { hosts=>["192.168.10.13:9200"] } }'
    165. 输入 输出 对接
    166. ......
    167. www.baidu.com #键入内容(标准输入)
    168. www.sina.com.cn #键入内容(标准输入)
    169. www.google.com #键入内容(标准输入)
    170. //结果不在标准输出显示,而是发送至 Elasticsearch 中,可浏览器访问 http://192.168.10.13:9100/ 查看索引信息和数据浏览。
    171. 6.定义 logstash配置文件
    172. Logstash 配置文件基本由三部分组成:inputoutput 以及 filter(可选,根据需要选择使用)。
    173. input:表示从数据源采集数据,常见的数据源如Kafka、日志文件等
    174. filter:表示数据处理层,包括对数据进行格式化处理、数据类型转换、数据过滤等,支持正则表达式
    175. output:表示将Logstash收集的数据经由过滤器处理之后输出到Elasticsearch。
    176. #格式如下:
    177. input {...}
    178. filter {...}
    179. output {...}
    180. #在每个部分中,也可以指定多个访问方式。例如,若要指定两个日志来源文件,则格式如下:
    181. input {
    182. file { path =>"/var/log/messages" type =>"syslog"}
    183. file { path =>"/var/log/httpd/access.log" type =>"apache"}
    184. }
    185. #修改 Logstash 配置文件,让其收集系统日志/var/log/messages,并将其输出到 elasticsearch 中。
    186. chmod +r /var/log/messages #让 Logstash 可以读取日志
    187. vim /etc/logstash/conf.d/system.conf
    188. input {
    189. file{
    190. path =>"/var/log/messages" #指定要收集的日志的位置
    191. type =>"system" #自定义日志类型标识
    192. start_position =>"beginning" #表示从开始处收集
    193. }
    194. }
    195. output {
    196. elasticsearch { #输出到 elasticsearch
    197. hosts => ["192.168.10.13:9200"] #指定 elasticsearch 服务器的地址和端口
    198. index =>"system-%{+YYYY.MM.dd}" #指定输出到 elasticsearch 的索引格式
    199. }
    200. }
    201. systemctl restart logstash
    202. 浏览器访问 http://192.168.10.13:9100/ 查看索引信息
    203. ---------------------- ELK Kiabana 部署(在 Node1 节点上操作) ----------------------------------------
    204. 1.安装 Kiabana
    205. #上传软件包 kibana-5.5.1-x86_64.rpm 到/opt目录
    206. cd /opt
    207. rpm -ivh kibana-5.5.1-x86_64.rpm
    208. 2.设置 Kibana 的主配置文件
    209. vim /etc/kibana/kibana.yml
    210. --2--取消注释,Kiabana 服务的默认监听端口为5601
    211. server.port: 5601
    212. --7--取消注释,设置 Kiabana 的监听地址,0.0.0.0代表所有地址
    213. server.host: "0.0.0.0"
    214. --21--取消注释,设置和 Elasticsearch 建立连接的地址和端口
    215. elasticsearch.url: "http://192.168.10.13:9200"
    216. --30--取消注释,设置在 elasticsearch 中添加.kibana索引
    217. kibana.index: ".kibana"
    218. 3.启动 Kibana 服务
    219. systemctl start kibana.service
    220. systemctl enable kibana.service
    221. netstat -natp | grep 5601
    222. 4.验证 Kibana
    223. 浏览器访问 http://192.168.10.13:5601
    224. 第一次登录需要添加一个 Elasticsearch 索引:
    225. Index name or pattern
    226. //输入:system-* #在索引名中输入之前配置的 Output 前缀“system”
    227. 单击 “create” 按钮创建,单击 “Discover” 按钮可查看图表信息及日志信息。
    228. 数据展示可以分类显示,在“Available Fields”中的“host”,然后单击 “add”按钮,可以看到按照“host”筛选后的结果
    229. 5.将 Apache 服务器的日志(访问的、错误的)添加到 Elasticsearch 并通过 Kibana 显示
    230. vim /etc/logstash/conf.d/apache_log.conf
    231. input {
    232. file{
    233. path => "/etc/httpd/logs/access_log"
    234. type => "access"
    235. start_position => "beginning"
    236. }
    237. file{
    238. path => "/etc/httpd/logs/error_log"
    239. type => "error"
    240. start_position => "beginning"
    241. }
    242. }
    243. output {
    244. if [type] == "access" {
    245. elasticsearch {
    246. hosts => ["192.168.10.13:9200"]
    247. index => "apache_access-%{+YYYY.MM.dd}"
    248. }
    249. }
    250. if [type] == "error" {
    251. elasticsearch {
    252. hosts => ["192.168.10.13:9200"]
    253. index => "apache_error-%{+YYYY.MM.dd}"
    254. }
    255. }
    256. }
    257. cd /etc/logstash/conf.d/
    258. /usr/share/logstash/bin/logstash -f apache_log.conf
    259. 浏览器访问 http://192.168.10.13:9100 查看索引是否创建
    260. 浏览器访问 http://192.168.10.13:5601 登录 Kibana,单击“Create Index Pattern”按钮添加索引, 在索引名中输入之前配置的 Output 前缀 apache_access-*,并单击“Create”按钮。在用相同的方法添加 apache_error-*索引。
    261. 选择“Discover”选项卡,在中间下拉列表中选择刚添加的 apache_access-* 、apache_error-* 索引, 可以查看相应的图表及日志信息。

     1.ELK之 部署"E"  Elasticsearch

    两台node服务器同步操作:


    此处不是同步操作,在此处注意修改node.name行的时候,node1和node2不一样,要修改!!!

    浏览器访问,查看节点信息,(这是elasticsearch原本的视图界面,很简陋,不方便)

    安装Elasticsearch-head 插件

    Elasticsearch 在 5.0 版本后,Elasticsearch-head 插件需要作为独立服务进行安装,需要使用npm工具(NodeJS的包管理工具)安装。
    安装 Elasticsearch-head 需要提前安装好依赖软件 node 和 phantomjs。
    node:是一个基于 Chrome V8 引擎的 JavaScript 运行环境。
    phantomjs:是一个基于 webkit 的JavaScriptAPI,可以理解为一个隐形的浏览器,任何基于 webkit 浏览器做的事情,它都可以做到。

    1、编译安装 node

    把安装elasticsearch-head所需要的前置插件的安装包上传到opt目录下

    安装 phantomjs(前端的框架) 

    (3)安装 Elasticsearch-head 数据可视化工具

     (4)修改 Elasticsearch 主配置文件

    (5)启动 elasticsearch-head 服务 

    必须在解压后的 elasticsearch-head 目录下启动服务,进程会读取该目录下的 gruntfile.js 文件,否则可能启动失败。

    (6)通过 Elasticsearch-head 查看 Elasticsearch 信息 

    (7)插入索引

    通过命令插入一个测试索引,索引为 index-demo,类型为 test

    输出结果如下:curl -X PUT 'localhost:9200/index-demo1/test/1?pretty&pretty' -H 'content-Type: application/json' -d '{"user":"zhangsan","mesg":"hello world"}'

    2. ELK之 部署"L"  Logstash(在 Apache 节点上操作)

    Logstash 一般部署在需要监控其日志的服务器。在本案例中,Logstash 部署在 Apache 服务器上,用于收集 Apache 服务器的日志信息并发送到 Elasticsearch。

    使用 rubydebug 输出详细格式显示,codec 为一种编解码器

     修改 Logstash 配置文件,让其收集系统日志/var/log/messages,并将其输出到 elasticsearch 中。

     访问192.168.11.23:9100查看Elasticsearch存储的日志索引信息

    3. ELK之部署"K"  Kibana服务

    4. ELFK之部署"F"  Filebeat

  • 相关阅读:
    Docker安装Nginx
    Java初识:类和对象(上)
    oracle sql语言模糊查询
    订单30分钟未支付自动取消怎么实现?
    AI发展下的伦理挑战,应当如何应对?
    Linux基础内容(11)—— 进程理解
    MP4视频播放时绿屏|屏幕变成绿色| AVC编码完美解决方案
    2023年亚太杯数学建模亚太赛C题思路解析+代码+论文
    关于肾结石5个知识介绍
    基于Python pyqt5的随机抽号机源代码 ,可设备抽号器的人数及刷新间隔
  • 原文地址:https://blog.csdn.net/chenzhivhao/article/details/132948265