四十四 Python分布式爬虫打造搜索引擎Scrapy精讲—elasticsearch(搜索引擎)的基本查询
1、elasticsearch(搜索引擎)的查询
elasticsearch是功能非常强大的搜索引擎，使用它的目的就是为了快速的查询到需要的数据
查询分类：
基本查询：使用elasticsearch内置的查询条件进行查询
组合查询：把多个查询条件组合在一起进行复合查询
过滤：查询同时，通过filter条件在不影响打分的情况下筛选数据
2、elasticsearch(搜索引擎)创建数据
首先我们先创建索引、表、以及字段属性、字段类型、添加好数据
注意：一般我们中文使用ik_max_word中文分词解析器，所有在需要分词建立倒牌索引的字段都要指定，ik_max_word中文分词解析器
系统默认不是ik_max_word中文分词解析器
ik_max_word中文分词解析器是elasticsearch(搜索引擎)的一个插件，在elasticsearch安装目录的plugins/analysis-ik文件夹里，版本为5.1.1
更多说明：https://github.com/medcl/elasticsearch-analysis-ik
说明：
#创建索引(设置字段类型)
#注意：一般我们中文使用ik_max_word中文分词解析器，所有在需要分词建立倒牌索引的字段都要指定，ik_max_word中文分词解析器
#系统默认不是ik_max_word中文分词解析器
PUT jobbole #创建索引设置索引名称
{
"mappings": { #设置mappings映射字段类型
"job": { #表名称
"properties": { #设置字段类型
"title":{ #表名称
"store": true, #字段属性true表示保存数据
"type": "text", #text类型，text类型可以分词，建立倒排索引
"analyzer": "ik_max_word" #设置分词解析器，ik_max_word是一个中文分词解析器插件
},
"company_name":{ #字段名称
"store": true, #字段属性true表示保存数据
"type": "keyword" #keyword普通字符串类型，不分词
},
"desc":{ #字段名称
"type": "text" #text类型，text类型可以分词，但是没有设置分词解析器，使用系统默认
},
"comments":{ #字段名称
"type": "integer" #integer数字类型
},
"add_time":{ #字段名称
"type": "date", #date时间类型
"format":"yyyy-MM-dd" #yyyy-MM-dd时间格式化
}
}
}
}
}
#保存文档(相当于数据库的写入数据)
POST jobbole/job
{
"title":"python django 开发工程师", #字段名称：值
"company_name":"美团科技有限公司", #字段名称：值
"desc":"对django的概念熟悉， 熟悉python基础知识", #字段名称：值
"comments":20, #字段名称：值
"add_time":"2017-4-1" #字段名称：值
}
POST jobbole/job
{
"title":"python scrapy redis 分布式爬虫基础",
"company_name":"玉秀科技有限公司",
"desc":"对scrapy的概念熟悉， 熟悉redis基础知识",
"comments":5,
"add_time":"2017-4-2"
}
POST jobbole/job
{
"title":"elasticsearch打造搜索引擎",
"company_name":"通讯科技有限公司",
"desc":"对elasticsearch的概念熟悉",
"comments":10,
"add_time":"2017-4-3"
}
POST jobbole/job
{
"title":"pyhhon打造推荐引擎系统",
"company_name":"智能科技有限公司",
"desc":"熟悉推荐引擎系统算法",
"comments":60,
"add_time":"2017-4-4"
}
通过上面可以看到我们创建了索引并且设置好了字段的属性、类型、以及分词解析器，创建了4条数据
3、elasticsearch(搜索引擎)基本查询
match查询【用的最多】
会将我们的搜索词在当前字段设置的分词器进行分词，到当前字段查找，匹配度越高排名靠前，如果搜索词是大写字母会自动转换成小写
#match查询
#会将我们的搜索词进行分词，到指定字段查找，匹配度越高排名靠前
GET jobbole/job/_search
{
"query": {
"match": {
"title": "搜索引擎"
}
}
}
term查询
不会将我们的搜索词进行分词，将搜索词完全匹配的查询
#term查询
#不会将我们的搜索词进行分词，将搜索词完全匹配的查询
GET jobbole/job/_search
{
"query": {
"term": {
"title":"搜索引擎"
}
}
}
terms查询
传递一个数组，将数组里的词分别匹配
#terms查询
#传递一个数组，将数组里的词分别匹配
GET jobbole/job/_search
{
"query": {
"terms": {
"title":["工程师","django","系统"]
}
}
}
控制查询的返回数量
from从第几条数据开始
size获取几条数据
#控制查询的返回数量
#from从第几条数据开始
#size获取几条数据
GET jobbole/job/_search
{
"query": {
"match": {
"title": "搜索引擎"
}
},
"from": 0,
"size": 3
}
match_all查询,查询所有数据
#match_all查询,查询所有数据
GET jobbole/job/_search
{
"query": {
"match_all": {}
}
}
match_phrase查询
短语查询
短语查询，会将搜索词分词，放进一个列表如[python,开发]
然后搜索的字段必须满足列表里的所有元素，才符合
slop是设置分词后[python,开发]python 与 开发，之间隔着多少个字符算匹配
间隔字符数小于slop设置算匹配到，间隔字符数大于slop设置不匹配
#match_phrase查询
#短语查询
#短语查询，会将搜索词分词，放进一个列表如[python,开发]
#然后搜索的字段必须满足列表里的所有元素，才符合
#slop是设置分词后[python,开发]python 与 开发，之间隔着多少个字符算匹配
#间隔字符数小于slop设置算匹配到，间隔字符数大于slop设置不匹配
GET jobbole/job/_search
{
"query": {
"match_phrase": {
"title": {
"query": "elasticsearch引擎",
"slop":3
}
}
}
}
multi_match查询
比如可以指定多个字段
比如查询title字段和desc字段里面包含python的关键词数据
query设置搜索词
fields要搜索的字段
title^3表示权重，表示title里符合的关键词权重，是其他字段里符合的关键词权重的3倍
#multi_match查询
#比如可以指定多个字段
#比如查询title字段和desc字段里面包含python的关键词数据
#query设置搜索词
#fields要搜索的字段
#title^3表示权重，表示title里符合的关键词权重，是其他字段里符合的关键词权重的3倍
GET jobbole/job/_search
{
"query": {
"multi_match": {
"query": "搜索引擎",
"fields": ["title^3","desc"]
}
}
}
stored_fields设置搜索结果只显示哪些字段
注意：使用stored_fields要显示的字段store属性必须为true，如果要显示的字段没有设置store属性那么默认为false，如果为false将不会显示该字段
#stored_fields设置搜索结果只显示哪些字段
GET jobbole/job/_search
{
"stored_fields": ["title","company_name"],
"query": {
"multi_match": {
"query": "搜索引擎",
"fields": ["title^3","desc"]
}
}
}
通过sort搜索结果排序
注意：排序的字段必须是数字或者日期
desc升序
asc降序
#通过sort搜索结果排序
#注意：排序的字段必须是数字或者日期
#desc升序
#asc降序
GET jobbole/job/_search
{
"query": {
"match_all": {}
},
"sort": [{
"comments": {
"order": "asc"
}
}]
}
range字段值范围查询
查询一个字段的值范围
注意：字段值必须是数字或者时间
gte大于等于
ge大于
lte小于等于
lt小于
boost是权重，可以给指定字段设置一个权重
#range字段值范围查询
#查询一个字段的值范围
#注意：字段值必须是数字或者时间
#gte大于等于
#ge大于
#lte小于等于
#lt小于
#boost是权重，可以给指定字段设置一个权重
GET jobbole/job/_search
{
"query": {
"range": {
"comments": {
"gte": 10,
"lte": 20,
"boost": 2.0
}
}
}
}
range字段值为时间范围查询
#range字段值为时间范围查询
#查询一个字段的时间值范围
#注意：字段值必须是时间
#gte大于等于
#ge大于
#lte小于等于
#lt小于
#now为当前时间
GET jobbole/job/_search
{
"query": {
"range": {
"add_time": {
"gte": "2017-4-1",
"lte": "now"
}
}
}
}
wildcard查询，通配符查询
*代表一个或者多个任意字符
#wildcard查询，通配符查询
#*代表一个或者多个任意字符
GET jobbole/job/_search
{
"query": {
"wildcard": {
"title": {
"value": "py*n",
"boost": 2
}
}
}
}
fuzzy模糊查询
#fuzzy模糊搜索
#搜索包含词的内容
GET lagou/biao/_search
{
"query": {
"fuzzy": {"title": "广告"}
},
"_source": ["title"]
}
#fuzziness设置编辑距离,编辑距离就是把要查找的字段值，编辑成查找的关键词需要编辑多少个步骤（插入、删除、替换）
#prefix_length为关键词前面不参与变换的长度
GET lagou/biao/_search
{
"query": {
"fuzzy": {
"title": {
"value": "广告录音",
"fuzziness": 2,
"prefix_length": 2
}
}
},
"_source": ["title"]
}
