-
分布式搜索——Elasticsearch
一、初始ES
什么是elasticsearch
elasticsearch是一款非常强大的开源分布式搜索引擎，可以帮助我们从海量数据中快速找到需要的内容。elasticsearch结合kibana、Logstash、Beats，也就是elastic stack（ELK：以elasticsearch为核心的技术栈，包括beats、Logstash、kibana、elasticsearch）。被广泛应用在日志数据分析、实时监控等领域
elasticsearch是elastic stack的核心，负责存储、搜索、分析数据。而elasticsearch底层的实现是Lucene技术（Lucene中核心技术为倒排索引）；Lucene是一个Java语言的搜索引擎类库（jar 包），是Apache公司的顶级项目 。elasticsearch则是基于lucene的多次开发，相比与lucene，elasticsearch更具备优势
● 支持分布式，可水平扩展● 提供Restful接口，可被任何语言调用
官网地址：https://www.elastic.co/cn/
倒排索引
传统数据库（如MySQL）采用正向索引，例如给下表（tb_goods）中的id创建索引：
elasticsearch采用倒排索引：
● 文档（document）：每条数据就是一个文档
● 词条（term）：文档按照语义分成的词语
什么是文档和词条？ ● 每一条数据就是一个文档 ● 对文档中的内容分词，得到的词语就是词条 什么是正向索引？ ● 基于文档id创建索引。查询词条时必须先找到文档，而后判断是否包含词条 什么是倒排索引？ ● 对文档内容分词，对词条创建索引，并记录词条所在文档的信息。查询时先根据词条查询到文 档id，而后获取到文档- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
elasticsearch是面向文档存储的，可以是数据库中的一条商品数据，一个订单信息。
文档数据会被序列化为json格式后存储在elasticsearch中。
索引（Index）：相同类型的文档集合
映射（mapping）：索引中文档的字段约束信息，类似表的结构约束
es与mysql的概念对比
MySQL Elasticsearch 说明 Table Index 索引(index)，就是文档的集合，类似数据库的表(table) Row Document 文档（Document），就是一条条的数据，类似数据库中的行（Row），文档都是JSON格式 Colume Field 字段（Field），就是JSON文档中的字段，类似数据库中的列（Column） Schema Mapping Mapping（映射）是索引中文档的约束，例如字段类型约束。类似数据库的表结构（Schema） SQL DSL DSL是elasticsearch提供的JSON风格的请求语句，用来操作elasticsearch，实现CRUD 架构
Mysql：擅长事务类型操作，可以确保数据的安全和一致性
Elasticsearch：擅长海量数据的搜索、分析、计算
安装es
部署单点es
资源链接：
es镜像：链接：https://pan.baidu.com/s/1xGIoyxoolLF8l3W_pp8jLw
提取码：GY66
kibana镜像：https://pan.baidu.com/s/1ADzZHA2V5HhuypBNi2KX9g
提取码：GY661、创建网络
因为需要部署kibana容器，因此需要让es和kibana容器互联。这里先创建一个网络：
docker network create es-net- 1
2、加载镜像
这里采用elasticsearch的7.12.1版本的镜像，这个镜像体积非常大，接近1G。镜像的tar包：
将其上传到虚拟机中，然后运行命令加载即可：
# 导入数据 docker load -i es.tar- 1
- 2
同理还有
kibana的tar包也需要这样做。3、运行
运行docker命令，部署单点es（es底层是基于Java实现的）：
docker run -d \ --name es \ -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \ #配置JVM的堆内存大小 -e "discovery.type=single-node" \ -v es-data:/usr/share/elasticsearch/data \ -v es-plugins:/usr/share/elasticsearch/plugins \ --privileged \ --network es-net \ -p 9200:9200 \ # http协议端口，供用户访问 -p 9300:9300 \ # es容器各个节点互连的端口 elasticsearch:7.12.1 # 镜像名称- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
命令解释：
-e "cluster.name=es-docker-cluster"： 设置集群名称 【-e：设置环境变量】-e "http.host=0.0.0.0"： 监听的地址，可以外网访问-e "ES_JAVA_OPTS=-Xms512m -Xmx512m"： 内存大小（es运行时的堆内存大小，默认1G）-e "discovery.type=single-node"： 非集群模式（单点运行）-v es-data:/usr/share/elasticsearch/data： 挂载逻辑卷，绑定es的数据目录-v es-logs:/usr/share/elasticsearch/logs： 挂载逻辑卷，绑定es的日志目录-v es-plugins:/usr/share/elasticsearch/plugins： 挂载逻辑卷，绑定es的插件目录--privileged： 授予逻辑卷访问权--network es-net： 加入一个名为es-net的网络中-p 9200:9200： 端口映射配置
在浏览器中输入：http://192.168.197.140:9200 即可看到elasticsearch的响应结果：
es启动成功！！！安装kibana
部署kibana
kibana可以给我们提供一个elasticsearch的可视化界面，便于我们学习。1.部署
运行docker命令，部署kibanadocker run -d \ --name kibana \ -e ELASTICSEARCH_HOSTS=http://es:9200 \ --network=es-net \ -p 5601:5601 \ kibana:7.12.1 # 版本必须与es的版本保持一致- 1
- 2
- 3
- 4
- 5
- 6
命令解释：
--network es-net： 加入一个名为es-net的网络中，与elasticsearch在同一个网络中-e ELASTICSEARCH_HOSTS=http://es:9200"： 设置elasticsearch的地址，因为kibana已经与elasticsearch在一个网络，因此可以用容器名直接访问elasticsearch-p 5601:5601： 端口映射配置
kibana启动一般比较慢，需要多等待一会，可以通过命令：
docker logs -f kibana- 1
查看运行日志，当查看到下面的日志，说明成功：
此时，在浏览器输入地址访问：http://192.168.150.101:5601，即可看到结果
kibana中提供了一个DevTools界面：这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。
分词器
es在创建倒排索引时需要对文档分词；在搜索时，需要对用户输入内容分词（分词器的作用）。但默认的分词规则对中文处理并不友好。
我们在kibana的DevTools中测试：# 测试分词器 （/_analyze：做分词分析； analyzer：分词器，此处按英文进行分词 #"analyzer": "standard"——————>默认的标准分词器 ） POST /_analyze { "analyzer": "english", "text": "错过了落日afterglow，还可以期待漫天繁星！" }- 1
- 2
- 3
- 4
- 5
- 6
- 7
IK分词器
处理中文分词，一般会使用IK分词器。官方网站：https://github.com/medcl/elasticsearch-analysis-ik
ik分词器包含两种模式：
● ik_smart：最少切分，粗粒度
● ik_max_word：最细切分，细粒度资源链接
IK分词器：https://pan.baidu.com/s/1H4ww8mKeYTKiz4knsGJcpw
提取码：GY66安装IK分词器
一、在线安装ik插件（较慢）
# 进入容器内部 docker exec -it elasticsearch /bin/bash # 在线下载并安装 ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip #退出 exit #重启容器 docker restart elasticsearch- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
二、离线安装ik插件（推荐）
1、查看数据卷目录
安装插件需要知道elasticsearch的plugins目录位置，而我们用了数据卷挂载，因此需要查看elasticsearch的数据卷目录，通过下面命令查看:
docker volume inspect es-plugins- 1
显示结果：
[ { "CreatedAt": "2022-05-06T10:06:34+08:00", "Driver": "local", "Labels": null, "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data", "Name": "es-plugins", "Options": null, "Scope": "local" } ]- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
说明plugins目录被挂载到了：
/var/lib/docker/volumes/es-plugins/_data这个目录中。2、解压缩分词器安装包
将提供的ik分词器解压缩，命名为ik3、上传到es容器的插件数据卷中
也就是/var/lib/docker/volumes/es-plugins/_data：4、重启容器
# 4、重启容器 docker restart es- 1
- 2
# 查看es日志 docker logs -f es- 1
- 2
中文分词成功！！！
ik_smart——【最少切分，粗粒度】
{ "tokens" : [ { "token" : "错", "start_offset" : 0, "end_offset" : 1, "type" : "CN_CHAR", "position" : 0 }, { "token" : "过了", "start_offset" : 1, "end_offset" : 3, "type" : "CN_WORD", "position" : 1 }, { "token" : "落日", "start_offset" : 3, "end_offset" : 5, "type" : "CN_WORD", "position" : 2 }, { "token" : "afterglow", "start_offset" : 5, "end_offset" : 14, "type" : "ENGLISH", "position" : 3 }, { "token" : "还可", "start_offset" : 15, "end_offset" : 17, "type" : "CN_WORD", "position" : 4 }, { "token" : "以", "start_offset" : 17, "end_offset" : 18, "type" : "CN_CHAR", "position" : 5 }, { "token" : "期待", "start_offset" : 18, "end_offset" : 20, "type" : "CN_WORD", "position" : 6 }, { "token" : "满天", "start_offset" : 20, "end_offset" : 22, "type" : "CN_WORD", "position" : 7 }, { "token" : "繁星", "start_offset" : 22, "end_offset" : 24, "type" : "CN_WORD", "position" : 8 } ] }- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
ik_max_word——【最细切分，细粒度】
{ "tokens" : [ { "token" : "错过", "start_offset" : 0, "end_offset" : 2, "type" : "CN_WORD", "position" : 0 }, { "token" : "过了", "start_offset" : 1, "end_offset" : 3, "type" : "CN_WORD", "position" : 1 }, { "token" : "落日", "start_offset" : 3, "end_offset" : 5, "type" : "CN_WORD", "position" : 2 }, { "token" : "afterglow", "start_offset" : 5, "end_offset" : 14, "type" : "ENGLISH", "position" : 3 }, { "token" : "还可", "start_offset" : 15, "end_offset" : 17, "type" : "CN_WORD", "position" : 4 }, { "token" : "可以", "start_offset" : 16, "end_offset" : 18, "type" : "CN_WORD", "position" : 5 }, { "token" : "以期", "start_offset" : 17, "end_offset" : 19, "type" : "CN_WORD", "position" : 6 }, { "token" : "期待", "start_offset" : 18, "end_offset" : 20, "type" : "CN_WORD", "position" : 7 }, { "token" : "满天", "start_offset" : 20, "end_offset" : 22, "type" : "CN_WORD", "position" : 8 }, { "token" : "繁星", "start_offset" : 22, "end_offset" : 24, "type" : "CN_WORD", "position" : 9 } ] }- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
IK分词器的扩展和停用字典
ik分词器-拓展词库（个性化设置）
要拓展ik分词器的词库，只需要修改一个ik分词器目录中的config目录中的IkAnalyzer.cfg.xml文件：DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd"> <properties> <comment>IK Analyzer 扩展配置comment> <entry key="ext_dict">ext.dicentry> properties>- 1
- 2
- 3
- 4
- 5
- 6
- 7
然后在名为ext.dic的文件中，添加想要拓展的词语即可，例如：
白嫖 奥力给- 1
- 2
ik分词器-停用词库
要禁用某些敏感词条，只需要修改一个ik分词器目录中的config目录中的IkAnalyzer.cfg.xml文件：DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd"> <properties> <comment>IK Analyzer 扩展配置comment> <entry key="ext_dict">ext.dicentry> <entry key="ext_stopwords">stopword.dicentry> properties>- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
然后在名为stopword.dic的文件中，添加想要停用的词语即可，例如：
国际- 1
拓展词库、停用词库为独立的文件，文件在当前配置文件所在目录。stopword.dic存在，可以直接添加；而ext.dic可以手动创建！stopword.dic中默认已经添加了很多停止词（如英文中的冠词、介词等无意义的词…）
二、操作索引库
索引库操作：
创建索引库：PUT /索引库名 查询索引库：GET /索引库名 删除索引库：DELETE /索引库名 添加字段：PUT /索引库名/_mapping- 1
- 2
- 3
- 4
mapping属性
mapping是对索引库中文档的约束，常见的mapping属性包括：
type：字段数据类型，常见的简单类型有： ● 字符串：text（可分词的文本）、keyword（精确值，例如：品牌、国家、ip地址） ● 数值：long、integer、short、byte、double、float、 ● 布尔：boolean ● 日期：date ● 对象：object index：是否创建索引 # 倒排索引————>可以被搜索），默认为true analyzer：使用哪种分词器 # 结合text类型使用，其他所有类型都无需分词 properties：该字段的子字段- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
创建索引库
ES中通过Restful请求操作索引库、文档。请求内容用DSL语句来表示。创建索引库和mapping的DSL语法如下：
成功创建索引库
查看、删除、修改索引库
查看索引库语法
GET /索引库名- 1
示例：
GET /xx- 1
删除索引库的语法
DELETE /索引库名- 1
示例：
DELETE /xx- 1
修改索引库
索引库和mapping一旦创建无法修改，但是可以添加新的字段，语法如下：
索引库创建完后，数据结构（mapping映射）已定义好，es会基于mapping创建倒排索引，若要修改某个字段就会导致原有的整个倒排索引彻底失效，带来的影响较大，因此es禁止修改索引库PUT /索引库名/_mapping { "properties": { "新字段名":{ "type": "integer" } } }- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
示例：（给xx索引库添加age的属性）
PUT /xx/_mapping { "properties": { "age":{ "type": "integer" } } }- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
三、文档操作
新增文档
新增文档的DSL语法如下：
查询文档
查看文档语法：
GET /索引库名/_doc/文档id- 1
示例：
GET /GY/_doc/1- 1
删除文档
删除索引库的语法:
DELETE /索引库名/_doc/文档id- 1
示例：
DELETE /GY/_doc/1- 1
修改文档
方式一：全量修改，会删除旧文档，添加新文档
方式二：增量修改，修改指定字段值
-
相关阅读:
Visual Studio Professional 2019 软件安装教程（附安装包下载）
浮点型数据在内存中是如何存储的
DHCP服务
CodeForces 888C. K-Dominant Character（思维）
Vue2.0 —— Vue.set（vm.$set） 源码探秘
插件式开发
【Selenium4自动化测试（1）】Selenium4简介
【ELK日志收集系统】
使用 multiprocessing 多进程处理批量数据
Ncnn框架在c++的推理及其认识
- 原文地址：https://blog.csdn.net/m0_56188609/article/details/127601978
