Elasticsearch学习系列三(搜索案例实战)

Query DSL

Es提供了基于JSON的完整查询DSL(Domain Specific Language 特定域的语言)来定义查询。将查询DSL视为查询的AST(抽象语法树)。它由两种子句组成:

  • 叶子查询子句

叶子查询子句,在特定域中寻找特定的值,如match、term或range查询

  • 复合查询子句

复合查询子句包装其他叶子查询或复合查询,并用于以逻辑方式组合多个查询。如bool、dis_max、constant_score查询

1. 查询所有

POST /索引名称/_search
{
  "query":{
    "match_all": {}
  }
}

查询结果示例:

{
  "took" : 1,
  "timed_out" : false,
  "_shards" : {
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 3,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
        "_index" : "test-demo1",
        "_type" : "_doc",
        "_id" : "1",
        "_score" : 1.0,
        "_source" : {
          "name" : "百度3",
          "job" : "运营",
          "amt" : "3000.34",
          "logo" : "http://www.lgstatic.com/ttasdf2",
          "createTime" : "20220303230000"
        }
      }
      ...省略2条数据
    ]
  }
}

  • took:查询花费时间,单位是毫秒
  • time_out:是否超时
  • _shards:分片信息
  • hits:搜索结果总览对象
    • total:搜索到的总条数
    • max_score:所有结果中文档得分的最高分
    • hits:搜索结果的文档对象数组,每个元素是一条搜索到的文档信息
      • _index:索引库
      • _type:文档类型
      • _id:文档id
      • _score:文档得分
      • _source:文档的源数据

2. 全文搜索

全文搜索能够搜索已分析的文本字段,如电子邮件正文、商品描述等。

先造一些测试数据:

PUT /item
{
  "settings": {},
  "mappings": {
    "properties": {
      "title": {
        "type": "text",
        "analyzer": "ik_max_word"
      },
      "images": {
        "type": "keyword"
      },
      "price": {
        "type": "float"
      }
    }
  }
}

POST /item/_doc/
{
"title": "小米电视4A",
"images": "http://image.lagou.com/12479122.jpg",
"price": 4288
}

POST /item/_doc/
{
"title": "小米手机",
"images": "http://image.lagou.com/12479122.jpg",
"price": 2688
}

POST /item/_doc/
{
"title": "苹果手机",
"images": "http://image.lagou.com/12479122.jpg",
"price": 5699
}
2.1 匹配搜索
  • or关系

match类型的查询,会把查询条件分词,多个词条之间是or的关系。如下面的例子,会根据小米和手机分别去搜索,能搜出3条数据。

POST /item/_search
{
  "query":{
    "match": {
      "title": "小米手机"
    }
  }
}
  • and关系
POST /item/_search
{
  "query":{
    "match": {
      "title": {
        "query": "小米手机",
        "operator":"and"
      }
    }
  }
}
2.2 短语搜索

match_phrase查询用来对一个字段进行短语查询,可以指定analyzer、slop移动因子

POST /item/_search
{
  "query":{
   "match_phrase": {
     "title": "小米手机"
   }
  }
}

带slop:

POST /item/_search
{
  "query":{
   "match_phrase": {
     "title": {
       "query": "手机小米",
       "slop":2
     }
   }
  }
}

slop参数告诉match_phrase查询词条能够相隔多远时仍然将文档视为匹配。相隔多远的意思是,你需要移动一个词条多少次来让查询和文档匹配

2.3 query_string 查询

query string提供了无需指定某字段而对文档全文进行匹配查询的一个高级查询,同时可以指定在哪些字段上进行匹配。

GET /item/_search
{
  "query": {
    "query_string": {
      "query": "2688"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "price", 
      "query": "2688"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "手机 OR 小米"
    }
  }
}

GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "手机 and 小米"
    }
  }
}

#模糊查询
GET /item/_search
{
  "query": {
    "query_string": {
      "default_field": "title", 
      "query": "小米~1"
    }
  }
}

#多字段支持
GET /item/_search
{
  "query": {
    "query_string": {
      "fields": ["title","price"], 
      "query": "2699"
    }
  }
}
2.4 多字段匹配搜索

如果你需要在多个字段上进行文本搜索,可用multi_match。

GET /item/_search
{
  "query": {
    "multi_match": {
      "query": "2688",
      "fields": ["title","price"]
    }
  }
}

#还可以使用*配置

GET /item/_search
{
  "query": {
    "multi_match": {
      "query": "2688",
      "fields": ["title","pri*"]
    }
  }
}

3. 词条搜索

可以使用term-level queries根据结构化数据中的精确值查找文档。term-level queries不分析搜索词。搜索词与存储在字段中的词需要完全匹配

3.1 词条普通搜索

用于查询指定字段包含某个搜索词的文档

POST /item/_search
{
  "query": {
    "term": {
      "title":"小米"
    }
  }
}
3.2 词条集合搜索
POST /item/_search
{
  "query": {
    "terms": {
      "title": ["小米","电视"]
    }
  }
}
3.3 范围搜索
  • gte:大于等于
  • gt:大于
  • lte:小于等于
  • lt:小于
  • boost:查询权重
POST /item/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 10,
        "lte": 3000
      }
    }
  }
}

#日期范围
POST /item/_search
{
  "query": {
    "range": {
      "createTime": {
        "gte": "2022-01-01",
        "lte": "2022-02-01",
        "format": "yyyy-MM-dd"
      }
    }
  }
}
3.4 不为空搜索
GET /item/_search
{
  "query": {
    "exists": {
      "field": "price"
    }
  }
}
3.5 词项前缀搜索
GET /item/_search
{
  "query": {
    "prefix": {
      "title": {
        "value": "小米"
      }
    }
  }
}
3.6 通配符搜索
GET /item/_search
{
  "query": {
    "wildcard": {
      "title":"小*"
    }
  }
}
3.7 正则搜索
GET /item/_search
{
  "query": {
    "regexp": {
      "title":"小米[a-z0-9]"
    }
  }
}
3.8 模糊搜索
GET /item/_search
{
  "query": {
    "fuzzy": {
      "title": "手机"
    }
  }
}

#错别字纠正
GET /item/_search
{
  "query": {
    "fuzzy": {
      "title": {
        "value": "大米",
        "fuzziness": 1
      }
    }
  }
}
3.9 ids搜索
GET /item/_search
{
  "query": {
    "ids": {
      "values": ["t76YgYEB9TD2fYkcLzha","tb6XgYEB9TD2fYkc6zhx"]
    }
  }
}

4. 复合搜索

4.1 constant_score,用来包装另一个查询,将查询匹配的文档的评分设为一个常值
GET /item/_search
{
  "query": {
   "constant_score": {
     "filter": {
       "term": {
         "title": "小米"
       }
     },
     "boost": 1.2
   }
  }
}
4.2 bool query,用bool组合多个查询子句为一个查询。
  • must:必须满足
  • filter:必须满足,但执行的是filter上下文,不参与、影响评分
  • should:或
  • must_not:必须不满足,在filter上下文中执行,不参与、不影响评分
POST /item/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "title": "小米"
          }
        }
      ], "filter": {
        "term": {
          "title": "电视"
        }
      },"must_not": [
        {
          "range": {
            "price": {
              "gte": 4200,
              "lte": 4300
            }
          }
        }
      ]
      ,"minimum_should_match": 0
    }
  }
}

minimum_should_match代表了最小匹配精度,如果设置为1,代表should语句中至少需要有一个条件满足。

5. 排序

5.1 相关性评分排序

默认情况下,返回的结果是按照相关性进行排序的。默认排序是_score降序

# 按照评分升序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "_score":{
      "order":"asc"
    }
  }
  ]
}


#根据字段值排序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "price":{
      "order":"asc"
    }
  }
  ]
}

#多个字段的排序
GET /item/_search
{
  "query": {
    "match_all": {}
  },
  "sort":[{
    "price":{
      "order":"asc"
    }
  },{
    "createTime": {
      "order":"desc"
    }
  }
  ]
}

6.分页

size:每页显示多少条

from:当前页起始索引

POST /item/_search
{
  "query": {
    "match_all": {}
  }
  ,"size": 2,
  "from": 0
}

7. 高亮

POST /item/_search
{
  "query": {
    "match": {
      "title": "小米"
    }
  },
  "highlight": {
    "pre_tags": "<font color='pink'>",
    "post_tags": "</font>",
    "fields": [{"title":{}}]
  }
}
  • pre_tags:前置标签
  • post_tags:后置标签
  • fields:需要高亮的字段
    • title:这里声明title字段需要高亮

8. 文档批量操作

8.1 mget批量查询

不同的索引

GET /_mget
{
  "docs":[
    {
      "_index":"item",
      "_id":"tb6XgYEB9TD2fYkc6zhx"
    },
    {
      "_index":"test-location",
      "_id":1
    }
    ]
}

相同的索引

POST /test-location/_search
{
  "query": {
    "ids": {
      "values": ["1","2"]
    }
  }
}
8.2 bulk批量增删改

语法:

POST /_bulk
{"action": {"metadata"}}
{"data"}

示例:

POST /_bulk
  {"delete":{"_index":"item","_id":"tb6XgYEB9TD2fYkc6zhx"}}
  {"create":{"_index":"item","_id":"1"}}
  {"title":"华为电脑","price":2333}
  {"update":{"_index":"item","_id":2}}
  {"doc":{"title":"冰箱"}}
  • delete:删除一个文档,删除没有请求体,只需要一个json串就行
  • create:相当于强制创建
  • index:普通的PUT操作,可以创建也可以全量替换
  • update:执行的是局部更新

格式:每个json不能换行,相邻json必须换行

隔离:每个操作互不影响,操作失败的行会返回其失败信息

实际用法:bulk请求一次不要太大,否则一下积压到内存中,性能会下降。所以,一次请求几千个操作、大小在几M正好。bulk会将要处理的数据载入内存中,所以数据量是有限的,最佳的数据量不是一个确定的数据,它取决于你的硬件,你的文档大小以及复杂性,你的索引以及搜索的负载。一般建议是1000-5000个文档,大小建议是5-15MB,默认不能超过100M,可以在es的配置文件(ES的config下的elasticsearch.yml)中配置。

http.max_content_length: 10mb

Filter

Elasticsearch中的所有查询都会触发相关度得分的计算。对于我们不需要相关度得分的场景,Es以过滤器的形式提供了另一种查询功能,过滤器在概念上类似于查询,但是它们有非常快的执行速度,执行速度快主要有以下两个原因:

  • 过滤器不会计算相关度的得分
  • 过滤器可以被缓存到内存中,这使得在重复的搜索查询上,比相应的查询快出许多。
{
  "query": {
    "bool":{
      "must":{
        "match_all":{}
      },
      "filter": {
        "range": {
          "price": {
            "gte": 10,
            "lte": 20000
          }
        }
      }
    }
  }
}
posted @ 2022-06-22 09:43  女友在高考  阅读(727)  评论(0编辑  收藏  举报