• 安装elasticsearch


    1.部署单点es

    1.1.创建网络

    因为我们还需要部署kibana容器,因此需要让es和kibana容器互联。这里先创建一个网络:

    docker network create es-net
    

    1.2.加载镜像

    这里我们采用elasticsearch的7.12.1版本的镜像,这个镜像体积非常大,接近1G。不建议大家自己pull。

    课前资料提供了镜像的tar包:

    大家将其上传到虚拟机中,然后运行命令加载即可:

    1. # 导入数据
    2. docker load -i es.tar

    同理还有kibana的tar包也需要这样做。

    1.3.运行

    运行docker命令,部署单点es:

    1. docker run -d \
    2. --name es \
    3. -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
    4. -e "discovery.type=single-node" \
    5. -v es-data:/usr/share/elasticsearch/data \
    6. -v es-plugins:/usr/share/elasticsearch/plugins \
    7. --privileged \
    8. --network es-net \
    9. -p 9200:9200 \
    10. -p 9300:9300 \
    11. elasticsearch:7.12.1

    命令解释:

    • -e "cluster.name=es-docker-cluster":设置集群名称
    • -e "http.host=0.0.0.0":监听的地址,可以外网访问
    • -e "ES_JAVA_OPTS=-Xms512m -Xmx512m":内存大小
    • -e "discovery.type=single-node":非集群模式
    • -v es-data:/usr/share/elasticsearch/data:挂载逻辑卷,绑定es的数据目录
    • -v es-logs:/usr/share/elasticsearch/logs:挂载逻辑卷,绑定es的日志目录
    • -v es-plugins:/usr/share/elasticsearch/plugins:挂载逻辑卷,绑定es的插件目录
    • --privileged:授予逻辑卷访问权
    • --network es-net :加入一个名为es-net的网络中
    • -p 9200:9200:端口映射配置

    在浏览器中输入:http://192.168.150.101:9200 即可看到elasticsearch的响应结果:

    2.部署kibana

    kibana可以给我们提供一个elasticsearch的可视化界面,便于我们学习。

    2.1.部署

    运行docker命令,部署kibana

    1. docker run -d \
    2. --name kibana \
    3. -e ELASTICSEARCH_HOSTS=http://es:9200 \
    4. --network=es-net \
    5. -p 5601:5601 \
    6. kibana:7.12.1
    • --network es-net :加入一个名为es-net的网络中,与elasticsearch在同一个网络中
    • -e ELASTICSEARCH_HOSTS=http://es:9200":设置elasticsearch的地址,因为kibana已经与elasticsearch在一个网络,因此可以用容器名直接访问elasticsearch
    • -p 5601:5601:端口映射配置

    kibana启动一般比较慢,需要多等待一会,可以通过命令:

    docker logs -f kibana
    

    查看运行日志,当查看到下面的日志,说明成功:

     

    此时,在浏览器输入地址访问:http://192.168.150.101:5601,即可看到结果

    2.2.DevTools

    kibana中提供了一个DevTools界面:

    这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。 

    3.安装IK分词器

    3.1.在线安装ik插件(较慢)

    1. # 进入容器内部
    2. docker exec -it elasticsearch /bin/bash
    3. # 在线下载并安装
    4. ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip
    5. #退出
    6. exit
    7. #重启容器
    8. docker restart elasticsearch

    3.2.离线安装ik插件(推荐)

    1)查看数据卷目录

    安装插件需要知道elasticsearch的plugins目录位置,而我们用了数据卷挂载,因此需要查看elasticsearch的数据卷目录,通过下面命令查看:

    docker volume inspect es-plugins
    

    显示结果:

    1. [
    2. {
    3. "CreatedAt": "2022-05-06T10:06:34+08:00",
    4. "Driver": "local",
    5. "Labels": null,
    6. "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
    7. "Name": "es-plugins",
    8. "Options": null,
    9. "Scope": "local"
    10. }
    11. ]

    说明plugins目录被挂载到了:/var/lib/docker/volumes/es-plugins/_data这个目录中。

    2)解压缩分词器安装包

    下面我们需要把课前资料中的ik分词器解压缩,重命名为ik

     

    3)上传到es容器的插件数据卷中

    也就是/var/lib/docker/volumes/es-plugins/_data

    4)重启容器

    1. # 4、重启容器
    2. docker restart es
    1. # 查看es日志
    2. docker logs -f es

    5)测试:

    IK分词器包含两种模式:

    • ik_smart:最少切分

    • ik_max_word:最细切分

    1. GET /_analyze
    2. {
    3. "analyzer": "ik_max_word",
    4. "text": "黑马程序员学习java太棒了"
    5. }

    结果:

    1. {
    2. "tokens" : [
    3. {
    4. "token" : "黑马",
    5. "start_offset" : 0,
    6. "end_offset" : 2,
    7. "type" : "CN_WORD",
    8. "position" : 0
    9. },
    10. {
    11. "token" : "程序员",
    12. "start_offset" : 2,
    13. "end_offset" : 5,
    14. "type" : "CN_WORD",
    15. "position" : 1
    16. },
    17. {
    18. "token" : "程序",
    19. "start_offset" : 2,
    20. "end_offset" : 4,
    21. "type" : "CN_WORD",
    22. "position" : 2
    23. },
    24. {
    25. "token" : "员",
    26. "start_offset" : 4,
    27. "end_offset" : 5,
    28. "type" : "CN_CHAR",
    29. "position" : 3
    30. },
    31. {
    32. "token" : "学习",
    33. "start_offset" : 5,
    34. "end_offset" : 7,
    35. "type" : "CN_WORD",
    36. "position" : 4
    37. },
    38. {
    39. "token" : "java",
    40. "start_offset" : 7,
    41. "end_offset" : 11,
    42. "type" : "ENGLISH",
    43. "position" : 5
    44. },
    45. {
    46. "token" : "太棒了",
    47. "start_offset" : 11,
    48. "end_offset" : 14,
    49. "type" : "CN_WORD",
    50. "position" : 6
    51. },
    52. {
    53. "token" : "太棒",
    54. "start_offset" : 11,
    55. "end_offset" : 13,
    56. "type" : "CN_WORD",
    57. "position" : 7
    58. },
    59. {
    60. "token" : "了",
    61. "start_offset" : 13,
    62. "end_offset" : 14,
    63. "type" : "CN_CHAR",
    64. "position" : 8
    65. }
    66. ]
    67. }

    3.3 扩展词词典

    随着互联网的发展,“造词运动”也越发的频繁。出现了很多新的词语,在原有的词汇列表中并不存在。比如:“奥力给”,“传智播客” 等。

    所以我们的词汇也需要不断的更新,IK分词器提供了扩展词汇的功能。

    1)打开IK分词器config目录:

    2)在IKAnalyzer.cfg.xml配置文件内容添加:

    1. "1.0" encoding="UTF-8"?>
    2. properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
    3. <properties>
    4. <comment>IK Analyzer 扩展配置comment>
    5. <entry key="ext_dict">ext.dicentry>
    6. properties>

    3)新建一个 ext.dic,可以参考config目录下复制一个配置文件进行修改

    1. 传智播客
    2. 奥力给

    4)重启elasticsearch

    1. docker restart es
    2. # 查看 日志
    3. docker logs -f elasticsearch

    日志中已经成功加载ext.dic配置文件

    5)测试效果:

    1. GET /_analyze
    2. {
    3. "analyzer": "ik_max_word",
    4. "text": "传智播客Java就业超过90%,奥力给!"
    5. }

    注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑

    3.4 停用词词典

    在互联网项目中,在网络间传输的速度很快,所以很多语言是不允许在网络上传递的,如:关于宗教、政治等敏感词语,那么我们在搜索时也应该忽略当前词汇。

    IK分词器也提供了强大的停用词功能,让我们在索引时就直接忽略当前的停用词汇表中的内容。

    1)IKAnalyzer.cfg.xml配置文件内容添加:

    1. "1.0" encoding="UTF-8"?>
    2. properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
    3. <properties>
    4. <comment>IK Analyzer 扩展配置comment>
    5. <entry key="ext_dict">ext.dicentry>
    6. <entry key="ext_stopwords">stopword.dicentry>
    7. properties>

    3)在 stopword.dic 添加停用词

    4)重启elasticsearch

    1. # 重启服务
    2. docker restart elasticsearch
    3. docker restart kibana
    4. # 查看 日志
    5. docker logs -f elasticsearch

    日志中已经成功加载stopword.dic配置文件

    5)测试效果:

    1. GET /_analyze
    2. {
    3. "analyzer": "ik_max_word",
    4. "text": "传智播客Java就业率超过95%,都点赞,奥力给!"
    5. }

    注意当前文件的编码必须是 UTF-8 格式,严禁使用Windows记事本编辑

    4.部署es集群

    部署es集群可以直接使用docker-compose来完成,不过要求你的Linux虚拟机至少有4G的内存空间

    首先编写一个docker-compose文件,内容如下:

    1. version: '2.2'
    2. services:
    3. es01:
    4. image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    5. container_name: es01
    6. environment:
    7. - node.name=es01
    8. - cluster.name=es-docker-cluster
    9. - discovery.seed_hosts=es02,es03
    10. - cluster.initial_master_nodes=es01,es02,es03
    11. - bootstrap.memory_lock=true
    12. - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    13. ulimits:
    14. memlock:
    15. soft: -1
    16. hard: -1
    17. volumes:
    18. - data01:/usr/share/elasticsearch/data
    19. ports:
    20. - 9200:9200
    21. networks:
    22. - elastic
    23. es02:
    24. image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    25. container_name: es02
    26. environment:
    27. - node.name=es02
    28. - cluster.name=es-docker-cluster
    29. - discovery.seed_hosts=es01,es03
    30. - cluster.initial_master_nodes=es01,es02,es03
    31. - bootstrap.memory_lock=true
    32. - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    33. ulimits:
    34. memlock:
    35. soft: -1
    36. hard: -1
    37. volumes:
    38. - data02:/usr/share/elasticsearch/data
    39. networks:
    40. - elastic
    41. es03:
    42. image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    43. container_name: es03
    44. environment:
    45. - node.name=es03
    46. - cluster.name=es-docker-cluster
    47. - discovery.seed_hosts=es01,es02
    48. - cluster.initial_master_nodes=es01,es02,es03
    49. - bootstrap.memory_lock=true
    50. - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    51. ulimits:
    52. memlock:
    53. soft: -1
    54. hard: -1
    55. volumes:
    56. - data03:/usr/share/elasticsearch/data
    57. networks:
    58. - elastic
    59. volumes:
    60. data01:
    61. driver: local
    62. data02:
    63. driver: local
    64. data03:
    65. driver: local
    66. networks:
    67. elastic:
    68. driver: bridge

    Run docker-compose to bring up the cluster:

    docker-compose up
  • 相关阅读:
    吉他谱制作软件哪个好 吉他弹唱谱制作软件推荐
    基于A*、RBFS 和爬山算法求解 TSP问题(Matlab代码实现)
    一文搞懂二叉树后序遍历的三种方法
    TypeScript学习日志-第三十二天(infer关键字)
    Vulkan 创建 PhysicalDevice 和 Surface 的包装思路
    Linux内核分析(一)--内核架构和子系统
    【Linux】服务器部署:CentOS 8 安装 Docker
    高精度室内定位技术,在智慧工厂安全管理的应用
    虚幻5.1 常见的效果关闭方式
    蓝禾,三七互娱,顺丰,康冠科技,金证科技24春招内推
  • 原文地址:https://blog.csdn.net/qq_64376339/article/details/136605744