• ElasticSearch的文档、字段、映射和高级查询


    1. 文档(Document)

    在ES中一个文档是一个可被索引的基础信息单元,也就是一条数据

    比如:你可以拥有某一个客户的文档,某一个产品的一个文档,当然,也可以拥有某个订单的一个文档。文档以JSON(Javascript Object Notation)格式来表示,而JSON是一个到处存在的互联网数据交互格式。

    在一个index/type里面,你可以存储任意多的文档。

    1.1 创建文档

    1. POST users/_doc
    2. {
    3. "user" : "Mike",
    4.   "post_date" : "2019-04-15T14:12:12",
    5.   "message" : "trying out Kibana"
    6. }

    1. PUT users/_doc/1?op_type=create
    2. {
    3. "user" : "Jack",
    4. "post_date" : "2019-05-15T14:12:12",
    5. "message" : "trying out Elasticsearch"
    6. }

    1.2 查看文档

    GET users/_doc/1

    1.3 更新文档

    1. POST users/_doc/1
    2. {
    3. "user": "Lucy"
    4. }

    GET users/_doc/1
    

    在原文档上增加字段

    1. POST users/_update/1/
    2. {
    3. "doc":{
    4. "post_date" : "2019-05-15T14:12:12",
    5. "message" : "trying out Elasticsearch"
    6. }
    7. }

    再次查看结果

    1.4  删除文档

    DELETE users/_doc/1
    

    条件删除

    1. POST users/_delete_by_query
    2. {
    3. "query":{
    4. "match": {
    5. "user": "Mike"
    6. }
    7. }
    8. }

    2. 字段(Field)

    相当于是数据表的字段,对文档数据根据不同属性进行的分类标识。

    3. 映射(Mapping)

    mapping是处理数据的方式和规则方面做一些限制,如:某个字段的数据类型、默认值、分析器、是否被索引等等。这些都是映射里面可以设置的,其它就是处理ES里面数据的一些使用规则设置也叫做映射,按着最优规则处理数据对性能提高很大,因此才需要建立映射,并且需要思考如何建立映射才能对性能更好。

    3.1 创建映射

    1. PUT /student
    2. PUT /student/_mapping
    3. {
    4. "properties": {
    5. "name":{
    6. "type": "text",
    7. "index": true
    8. },
    9. "sex":{
    10. "type": "text",
    11. "index": true
    12. },
    13. "age":{
    14. "type": "long",
    15. "index": true
    16. }
    17. }
    18. }

    映射数据说明:

    l字段名:任意填写,下面指定许多属性,例如:titlesubtitleimagesprice

    ltype:类型,Elasticsearch中支持的数据类型非常丰富,说几个关键的:

    nString类型,又分两种:

    text:可分词

    keyword:不可分词,数据会作为完整字段进行匹配

    nNumerical:数值类型,分两类

    基本数据类型:longintegershortbytedoublefloathalf_float

    浮点数的高精度类型:scaled_float

    nDate:日期类型

    nArray:数组类型

    nObject:对象

    lindex:是否索引,默认为true,也就是说你不进行任何配置,所有字段都会被索引。

    true:字段会被索引,则可以用来进行搜索

    false:字段不会被索引,不能用来搜索

    lstore:是否将数据进行独立存储,默认为false

    原始的文本会存储在_source里面,默认情况下其他提取出来的字段都不是独立存储的,是从_source里面提取出来的。当然你也可以独立的存储某个字段,只要设置"store": true即可,获取独立存储的字段要比从_source中解析快得多,但是也会占用更多的空间,所以要根据实际业务需求来设置。

    lanalyzer:分词器,这里的ik_max_word即使用ik分词器

    3.2 查看映射

    GET /student/_mapping
    

    3.3 索引映射关联

    1. PUT /student1
    2. {
    3. "settings": {},
    4. "mappings": {
    5.   "properties": {
    6. "name":{
    7.   "type": "text",
    8.   "index": true
    9.   
    10. },
    11. "sex":{
    12.   "type": "text",
    13.   "index": false
    14. },
    15. "age":{
    16.   "type": "long",
    17.   "index": false
    18. }
    19.   }
    20. }
    21. }

    4. ES高级查询

    Elasticsearch提供了基于JSON提供完整的查询DSL来定义查询

    定义数据 :

    1. POST /student/_doc/1001
    2. {
    3. "name":"zhangsan",
    4. "nickname":"zhangsan",
    5. "sex":"男",
    6. "age":30
    7. }
    8. POST /student/_doc/1002
    9. {
    10. "name":"lisi",
    11. "nickname":"lisi",
    12. "sex":"男",
    13. "age":20
    14. }
    15. POST /student/_doc/1003
    16. {
    17. "name":"wangwu",
    18. "nickname":"wangwu",
    19. "sex":"女",
    20. "age":40
    21. }
    22. POST /student/_doc/1004
    23. {
    24. "name":"zhangsan1",
    25. "nickname":"zhangsan1",
    26. "sex":"女",
    27. "age":50
    28. }
    29. POST /student/_doc/1005
    30. {
    31. "name":"zhangsan2",
    32. "nickname":"zhangsan2",
    33. "sex":"女",
    34. "age":30
    35. }

    4.1 查询所有文档:match_all

    term查询,精确的关键词匹配查询,不对查询条件进行分词。

    1. GET /student/_search
    2. {
    3. "query":{
    4. "match_all": {}
    5. }
    6. }

    4.2 匹配查询:match

    1. GET /student/_search
    2. {
    3. "query": {
    4. "match": {
    5. "name": "zhangsan"
    6. }
    7. }
    8. }

    4.3 字段匹配查询:multi_match

    1. GET /student/_search
    2. {
    3. "query": {
    4. "multi_match": {
    5. "query": "zhangsan",
    6. "fields": ["name""nickname"]
    7. }
    8. }
    9. }

    4.4 关键字精确查询:term

    1. GET /student/_search
    2. {
    3. "query": {
    4. "term": {
    5. "name": {
    6. "value": "wangwu"
    7. }
    8. }
    9. }
    10. }

    4.5 多关键字精确查询:terms

    terms 查询和 term 查询一样,但它允许你指定多值进行匹配。

    如果这个字段包含了指定值中的任何一个值,那么这个文档满足条件,类似于mysql的in

    1. GET /student/_search
    2. {
    3. "query": {
    4. "terms": {
    5. "name": [
    6. "zhangsan",
    7. "lisi"
    8. ]
    9. }
    10. }
    11. }

    4.6 指定返回字段_source

    默认情况下,Elasticsearch在搜索的结果中,会把文档中保存在_source的所有字段都返回。

    如果我们只想获取其中的部分字段,我们可以添加_source的过滤

    1. GET /student/_search
    2. {
    3. "_source": "name"
    4. "query": {
    5. "terms": {
    6. "name": [
    7. "zhangsan"
    8. ]
    9. }
    10. }
    11. }

    4.7 过滤字段:includes

    我们也可以通过:

    includes:来指定想要显示的字段

    excludes:来指定不想要显示的字段

    1. GET /student/_search
    2. {
    3. "_source": {
    4. "includes": ["name","nickname"]
    5. },  
    6. "query": {
    7. "terms": {
    8. "nickname": ["zhangsan"]
    9. }
    10. }
    11. }

    1. GET /student/_search
    2. {
    3. "_source": {
    4. "excludes": ["name","nickname"]
    5. },  
    6. "query": {
    7. "terms": {
    8. "nickname": ["zhangsan"]
    9. }
    10. }
    11. }

    4.8 组合查询:bool

    bool把各种其它查询通过must(必须 )、must_not(必须不)、should(应该)的方式进行组合

    1. GET /student/_search
    2. {
    3. "query": {
    4. "bool": {
    5. "must": [
    6. {
    7. "match": {
    8. "name": "zhangsan"
    9. }
    10. }
    11. ],
    12. "must_not": [
    13. {
    14. "match": {
    15. "age": 40
    16. }
    17. }
    18. ],
    19. "should": [
    20. {
    21. "match": {
    22. "sex": "男"
    23. }
    24. }
    25. ]
    26. }
    27. }
    28. }

    4.9 范围查询

    range 查询找出那些落在指定区间内的数字或者时间。range查询允许以下字符

    操作符

    说明

    gt

    大于>

    gte

    大于等于>=

    lt

    小于<

    lte

    小于等于<=

    1. GET /student/_search
    2. {
    3. "query": {
    4. "range": {
    5. "age": {
    6. "gte": 30,
    7. "lte": 35
    8. }
    9. }
    10. }
    11. }

    4.10 模糊查询

    返回包含与搜索字词相似的字词的文档。

    编辑距离是将一个术语转换为另一个术语所需的一个字符更改的次数。这些更改可以包括:

    1. 更改字符(box → fox)
    2. 删除字符(black → lack)
    3. 插入字符(sic → sick)
    4. 转置两个相邻字符(act → cat

    为了找到相似的术语,fuzzy查询会在指定的编辑距离内创建一组搜索词的所有可能的变体或扩展。然后查询返回每个扩展的完全匹配。

    通过fuzziness修改编辑距离。一般使用默认值AUTO,根据术语的长度生成编辑距离。

    1. GET /student/_search
    2. {
    3. "query": {
    4. "fuzzy": {
    5. "name": {
    6. "value": "zhangsan"
    7. }
    8. }
    9. }
    10. }

    4.11 单字段排序

    sort 可以让我们按照不同的字段进行排序,并且通过order指定排序的方式。desc降序,asc升序。

    1. GET /student/_search
    2. {
    3. "query": {
    4. "fuzzy": {
    5. "name": "zhangsan"
    6. }
    7. },
    8. "sort": [
    9. {
    10. "age": {
    11. "order" : "desc"
    12. }
    13. }
    14. ]
    15. }

    4.12 多字段排序

    假定我们想要结合使用 age和 _score进行查询,并且匹配的结果首先按照年龄排序,然后按照相关性得分排序

    1. GET /student/_search
    2. {
    3. "query": {
    4. "fuzzy": {
    5. "name": "zhangsan"
    6. }
    7. },
    8. "sort": [
    9. {
    10. "age": {
    11. "order" : "desc"
    12. }
    13. },
    14. {
    15. "_score": {
    16. "order": "desc"
    17. }
    18. }
    19. ]
    20. }

    4.13 高亮查询

    在进行关键字搜索时,搜索出的内容中的关键字会显示不同的颜色,称之为高亮。

    Bing搜索"大数据"

    Elasticsearch可以对查询内容中的关键字部分,进行标签和样式(高亮)的设置。

    在使用match查询的同时,加上一个highlight属性:

    lpre_tags:前置标签

    lpost_tags:后置标签

    lfields:需要高亮的字段

    title:这里声明title字段需要高亮,后面可以为这个字段设置特有配置,也可以空

    1. GET /student/_search
    2. {
    3. "query": {
    4. "match": {
    5. "name": "zhangsan"
    6. }
    7. },
    8. "highlight": {
    9. "pre_tags": "",
    10. "post_tags": "",
    11. "fields": {
    12. "name": {}
    13. }
    14. }
    15. }

    4.14 分页查询

    from:当前页的起始索引,默认从0开始。 from = (pageNum - 1) * size

    size:每页显示多少条

    1. GET /student/_search
    2. {
    3. "query": {
    4. "match_all": {}
    5. },
    6. "sort": [
    7. {
    8. "age": {
    9. "order": "desc"
    10. }
    11. }
    12. ],
    13. "from": 0,
    14. "size": 2
    15. }

    4.15 聚合查询

    聚合允许使用者对es文档进行统计分析,类似与关系型数据库中的group by,当然还有很多其他的聚合,例如取最大值、平均值等等。

    对某个字段取最大值max

    1. GET /student/_search
    2. {
    3. "aggs":{
    4. "max_age":{
    5. "max":{"field":"age"}
    6. }
    7. },
    8. "size":0
    9. }

    4.16 桶聚合查询

    桶聚和相当于sql中的group by语句

    terms聚合,分组统计

    1. GET /student/_search
    2. {
    3. "aggs":{
    4. "age_groupby":{
    5. "terms":{"field":"age"}
    6. }
    7. },
    8. "size":0
    9. }

  • 相关阅读:
    数据分析经典算法——红黑树
    【云栖 2023】姜伟华:Hologres Serverless 之路——揭秘弹性计算组
    Java进阶常用的辅助类(CountDownLatch 减法计数器、CyclicBarrier 加法计数器、Semaphore 信号量)
    方法递归调用
    js:创建一个基于vite 的React项目
    Kafka中的acks机制——一次由错误资料引发的源码学习
    这还不硬?你来打我!手把手教学!
    OS-调度
    java单例模式
    U_BOOT_DRIVER简析
  • 原文地址:https://blog.csdn.net/shangjg03/article/details/134319014