Elasticsearch 的一些常见疑问(持续更新中)
数据类型
keyword和text有什么区别?
keyword用于索引结构化内容的字段,例如电子邮件地址,主机名,状态码,邮政编码或标签。
通常用于过滤(找到我的所有博客文章,其中 status为published),排序,和聚合。keyword类型的字段只能按其准确值进行搜索。text是用于全文检索的数据类型,存储时会通过分词器对数据进行分词存储,搜索时会对分词后的多个短语进行搜索。text类型不适用用于排序和聚合。
日期类型
Elasticsearch提供了date类型来处理日期,但是由于JSON是没有日期类型的,所以在内部日期被转换为UTC并且存储为时间戳(带毫秒)。
插入日期时如果插入的为常规日期格式(yyyy-MM-dd
或者yyyy-MM-dd'T'HH:mm:ss.SSSZ
),es会自动识别日期格式,将字段类型设置为Date
。如果mapping中字段类型已经确定为Date
,此时插入格式化日期字符串或者时间戳(字符串和Numeric
类型)时都会被Es作为日期类型存储,只不过在数据显示上和存储时的格式一致(存时间戳返回就是时间戳,字符串返回就是字符串,但是推荐存标准化的UTC时间或时间戳,避免类型不一致)。
时区问题
A:Elasticsearch默认为UTC时间,即零时区,查询时若不指定时区,则默认以0时区查询,和我们所在的东八区差8小时。yyyy-MM-dd'T'HH:mm:ss.SSSZ
,这里的Z
就代表UTC时区。
Es在进行日期查询/聚合时可以指定时区:
//日期范围查询
POST datatypetest/_search
{
"query": {
"range": {
"date3": {
"gte": "2018-07-05",
"lte": "now",
"time_zone": "Asia/Shanghai"//这就是东八区(北京时间/中国标准时间)
}
}
}
}
//日期聚合
GET my_index/_search?size=0
{
"aggs": {
"by_day": {
"date_histogram": {
"field": "date",
"interval": "day",
"time_zone": "Asia/Shanghai"
}
}
}
}
//Java获取系统时区id
TimeZone.getDefault().getID()
//Es Java Api日期范围查询
QueryBuilders
.rangeQuery("your date field")
.gte("your date from")
.lte("your date to")
.timeZone(TimeZone.getDefault().getID());//此处只能设置时区id
//Es Java Api日期聚合查询
AggregationBuilders
.dateHistogram("your alias")
.timeZone(DateTimeZone.getDefault());//获取系统默认时区,此处timeZone对象是joda包中的DateTimeZone
在使用Kibana时,Kibana会默认获取浏览器时区,在显示数据时根据时区做日期的格式化。但使用DevTools写DSL或者直接请求Es时默认返回的都是UTC时间,会发现时间少了8小时。
使用日期类型时推荐不修改日期格式时区,所有数据都用UTC时区,这样时间统一才不容易出问题。
object和nested类型的区别,各自的应用场景是什么
object为es的默认对象类型,嵌套的json对象存入es就会被默认设置为object类型。es内部会将嵌套的json对象扁平化转换存储。
例如,一个普通的json
{
"region": "US",
"manager": {
"age": 30,
"name": {
"first": "John",
"last": "Smith"
}
}
}
在es内部会被转换为扁平化的基础json数据
{
"region": "US",
"manager.age": 30,
"manager.name.first": "John",
"manager.name.last": "Smith"
}
nested用于JSON对象的数组,它允许对象数组以可彼此独立查询的方式进行索引。由于lucene没有内部对象的概念,因此es需要把数据转换为简单的扁平化结构。
一个对象数组嵌套:
{
"group" : "fans",
"user" : [
{
"first" : "John",
"last" : "Smith"
},
{
"first" : "Alice",
"last" : "White"
}
]
}
在es内部会被转换为:
{
"group" : "fans",
"user.first" : [ "alice", "john" ],
"user.last" : [ "smith", "white" ]
}
user.first和user.last字段被转换为多值字段,数据之间的关联性就会丢失,导致查询结果有误。
此时用nested类型就可以解决此问题。
查询
term和match匹配有什么区别?
term为精确匹配,查询时不对关键词进行分词。而match用于全文检索,首先会对检索关键词进行分词,然后进行全文搜索。
must,filter,post_filter有什么区别?
must为查询上下文(query context),查询时会计算分值(文档相关性)。filter为过滤上下文,查询时不计算分值。而post_filter为后置过滤器,会对聚合的结果也进行过滤。执行顺序为:filter -> aggregations - post_filter。
query context & filter context区别?
must/should为查询上下文。filter或must_not在参数 bool的查询中/filter在constant_score的查询/filter aggretion这些场景中为过滤上下文。
查询上下文会计算返回文档的分值,而过滤上下文不计算分值,语义只是此文档是否匹配,而不计算相关度。在过滤上下文时,es会自动对过滤器进行缓存从而提高查询性能。