ES 使用FunctionScore实现自定义评分

一、function_score 简介

function_score内容较多，此篇主要是对function_score内容做系统性的讲解，之后会出几篇实际应用的方法，参考以下链接

ElasticSearch - function_score (field_value_factor具体实例)（https://blog.csdn.net/weixin_40341116/article/details/80913067）

ElasticSearch - function_score (weight具体实例)（https://blog.csdn.net/weixin_40341116/article/details/80931573）

ElasticSearch - function_score (衰减函数 linear、exp、gauss 具体实例)（https://blog.csdn.net/weixin_40341116/article/details/81003513）

1. 在使用ES进行全文搜索时，搜索结果默认会以文档的相关度进行排序，而这个 "文档的相关度"，是可以透过 function_score 自己定义的，也就是说我们可以透过使用function_score，来控制 "怎麽样的文档相关度更高" 这件事

function_score是专门用于处理文档_score的DSL，它允许爲每个主查询query匹配的文档应用加强函数，以达到改变原始查询评分 score的目的

function_score会在主查询query结束后对每一个匹配的文档进行一系列的重打分操作，能够对多个字段一起进行综合评估，且能够使用 filter 将结果划分爲多个子集 (每个特性一个filter)，并爲每个子集使用不同的加强函数

2. function_score 提供了几种加强_score计算的函数

weight : 设置一个简单而不被规范化的权重提升值

weight加强函数和 boost参数类似，可以用于任何查询，不过有一点差别是weight不会被Lucene nomalize成难以理解的浮点数，而是直接被应用 (boost会被nomalize)

例如当 weight 爲 2 时，最终结果爲new_score = old_score * 2

field_value_factor : 将某个字段的值乘上old_score

像是将字段shareCount 或是字段likiCount 作爲考虑因素，new_score = old_score * 那个文档的likeCount的值

random_score : 爲每个用户都使用一个不同的随机评分对结果排序，但对某一具体用户来说，看到的顺序始终是一致的

衰减函数 (linear、exp、guass) : 以某个字段的值为基准，距离某个值越近得分越高

script_score : 当需求超出以上范围时，可以用自定义脚本完全控制评分计算，不过因为还要额外维护脚本不好维护，因此尽量使用ES提供的评分函数，需求真的无法满足再使用script_score

3. function_scroe其他辅助的参数

boost_mode : 决定 old_score 和加强score 如何合併

multiply(默认) : new_score = old_score * 加强score

sum : new_score = old_score + 加强score

min : old_score 和加强score 取较小值，new_score = min(old_score, 加强score)

max : old_score 和加强score 取较大值，new_score = max(old_score, 加强score)

replace : 加强score直接替换掉old_score，new_score = 加强score

score_mode : 决定functions裡面的加强score们怎麽合併，会先合併加强score们成一个总加强score，再使用总加强score去和old_score做合併，换言之就是会先执行score_mode，再执行boost_mode

multiply (默认)

sum

avg

first : 使用首个函数(可以有filter，也可以没有)的结果作为最终结果

max

min

max_boost : 限制加强函数的最大效果，就是限制加强score最大能多少，但要注意不会限制old_score

如果加强score超过了max_boost限制的值，会把加强score的值设成max_boost的值

假设加强score是5，而max_boost是2，因为加强score超出了max_boost的限制，所以max_boost就会把加强score改为2

简单的说，就是加强score = min(加强score, max_boost)

4. function_score查询模板

如果要使用function_score改变分数，要使用function_score查询

简单的说，就是在一个function_score内部的query的全文搜索得到的_score基础上，给他加上其他字段的评分标准，就能够得到把 "全文搜索 + 其他字段" 综合起来评分的效果
单个加强函数的查询模板
GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "function_score": {
            "query": {.....}, //主查询，查询完后这裡自己会有一个评分，就是old_score
            "field_value_factor": {...}, //在old_score的基础上，给他加强其他字段的评分，这裡会产生一个加强score
，如果只有一个加强function时，直接将加强函数名写在query下面就可以了
            "boost_mode": "multiply", //指定用哪种方式结合old_score和加强score成为new_score
            "max_boost": 1.5 //限制加强score的最高分，但是不会限制old_score
        }
    }
}
多个加强函数的查询模板
如果有多个加强函数，那就要使用functions来包含这些加强函数们，functions是一个数组，裡面放著的是将要被使用的加强函数列表

可以为functions裡的加强函数指定一个filter，这样做的话，只有在文档满足此filter的要求，此filter的加强函数才会应用到文挡上，也可以不指定filter，这样的话此加强函数就会应用到全部的文挡上

一个文档可以一次满足多条加强函数和多个filter，如果一次满足多个，那麽就会产生多个加强score，因此ES会使用score_mode定义的方式来合併这些加强score们，得到一个总加强score，得到总加强score之后，才会再使用boost_mode定义的方式去和old_score做合併
像是下面的例子，field_value_factor和gauss这两个加强函数会应用到所有文档上，而weight只会应用到满足filter的文档上，假设有个文档满足了filter的条件，那他就会得到3个加强score，这3个加强score会使用sum的方式合併成一个总加强score，然后才和old_score使用multiply的方式合併
GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "function_score": {
            "query": {.....},
            "functions": [   //可以有多个加强函数(或是filter+加强函数)，每一个加强函数会产生一个加强score，因
此functions会有多个加强score
                { "field_value_factor": ... },
                { "gauss": ... },
                { "filter": {...}, "weight": ... }
            ],
            "score_mode": "sum", //决定加强score们怎麽合併,
            "boost_mode": "multiply" //決定總加強score怎麼和old_score合併
        }
    }
}

5. 不要执著在调整function_score上

文档相关度的调整非常玄，"最相关的文档" 是一个难以触及的模糊概念，每个人对文档排序有著不同的想法，这很容易使人陷入持续反覆调整，但是确没有明显的进展
为了避免跳入这种死循环，在调整function_score时，一定要搭配监控用户操作，才有意义
- 像是如果返回的文档是用户想要的高相关的文档，那麽用户就会选择前10个中的一个文档，得到想要的结果，反之，用户可能会来回点击，或是尝试新的搜索条件
- 一旦有了这些监控手段，想要调适完美的function_score就不是问题
因此调整function_score的重点在于，要透过监控用户、和用户互动，慢慢去调整我们的搜索条件，而不要妄想一步登天，第一次就把文档的相关度调整到最好，这几乎是不可能的，因为，连用户自己也不知道他自己想要什麽

二、具体实例

1.首先准备数据和索引，在ES插入三笔数据，其中title是text类型，like是integer类型(代表点赞量)

{ "title": "ES 入门", "like": 2 }
{ "title": "ES 进阶", "like": 5 }
{ "title": "ES 最高难度", "like": 10 }

2.先使用一般的query，查看普通的查询的评分会是如何

GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "match": {
            "title": "ES"
        }
    }
}

"hits": [
    {
        "_score": 0.2876821,
        "_source": { "title": "ES 入门", "like": 2 }
    },
    {
        "_score": 0.20309238,
        "_source": { "title": "ES 进阶", "like": 5 }
    },
    {
        "_score": 0.16540512,
        "_source": { "title": "ES 最高难度", "like": 10 }
    }
]

3.使用function_score 的 field_value_factor改变_score，将old_score乘上like的值

本来 "ES最高难度" 的score是0.16540512，经过field_value_factor的改变，乘上了那个文档中的like值(10)之后，新的score变为 1.6540513

GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "function_score": {
            "query": {
                "match": {
                    "title": "ES"
                }
            },
            "field_value_factor": {
                "field": "like"
            }
        }
    }
}

"hits": [
    {
        "_score": 1.6540513, //原本是0.16540512
        "_source": { "title": "ES 最高难度", "like": 10 }
    },
    {
        "_score": 1.0154619, //原本是0.20309238
        "_source": { "title": "ES 进阶", "like": 5 }
    },
    {
        "_score": 0.5753642, //原本是0.2876821
        "_source": { "title": "ES 入门", "like": 2 }
    }
]

4.加上max_boost，限制field_value_factor的最大加强score

可以看到ES入门的加强score是2，在max_boost限制裡，所以不受影响
而ES进阶和ES最高难度的field_value_factor函数产生的加强score因为超过max_boost的限制，所以被设为3

{
    "query": {
        "function_score": {
            "query": {
                "match": {
                    "title": "ES"
                }
            },
            "field_value_factor": {
                "field": "like"
            },
            "max_boost": 3
        }
    }
}

"hits": [
    {
        "_score": 0.6092771, //原本是0.20309238
        "_source": { "title": "ES 进阶", "like": 5 }
    },
    {
        "_score": 0.5753642, //原本是0.2876821
        "_source": { "title": "ES 入门", "like": 2 }
    },
    {
        "_score": 0.49621537, //原本是0.16540512
        "_source": { "title": "ES 最高难度", "like": 10 }
    }
]

5.有时候线性的计算new_score = old_score * like值的效果并不是那麽好，field_value_factor中还支持 modifier、factor 参数，可以改变like值对old_score的影响

modifier参数支持的值
- none : new_score = old_score * like值
  - 默认状态就是none，线性
- log1p : new_score = old_score * log(1 + like值)
  - 最常用，可以让like值字段的评分曲线更平滑
- log2p : new_score = old_score * log(2 + like值)
- ln : new_score = old_score * ln(like值)
- ln1p : new_score = old_score * ln(1 + like值)
- ln2p : new_score = old_score * ln(2 + like值)
- square : 计算平方
- sqrt : 计算平方根
- reciprocal : 计算倒数
factor参数
- factor作为一个调节用的参数，没有modifier那麽强大会改变整个曲线，他仅改变一些常量值，设置factor>1会提昇效果，factor<1会降低效果
- 假设modifier是log1p，那麽加入了factor的公式就是new_score = old_score * log(1 + factor * like值)

对刚刚的例子加上 modifier、factor

GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "function_score": {
            "query": {
                "match": {
                    "title": "ES"
                }
            },
            "field_value_factor": {
                "field": "like",
                "modifier": "log1p",
                "factor": 2
            }
        }
    }
}

就算加上了modifier，但是 "全文评分与 field_value_factor函数值乘积" 的效果可能还是太大，我们可以通过参数boost_mode来决定 old_score 和加强score 合併的方法

如果将boost_mode改成sum，可以大幅弱化最终效果，特别是使用一个较小的factor时
加入了boost_mode=sum、且factor=0.1的公式变为new_score = old_score + log(1 + 0.1 * like值)

GET 127.0.0.1/mytest/doc/_search
{
    "query": {
        "function_score": {
            "query": {
                "match": {
                    "title": "ES"
                }
            },
            "field_value_factor": {
                "field": "like",
                "modifier": "log1p",
                "factor": 0.1
            },
            "boost_mode": "sum"
        }
    }
}

三、java 代码分析

List<FunctionScoreQueryBuilder.FilterFunctionBuilder> filterFunctionBuilders = new ArrayList<>();

// 用户端默认排序优先使用是否置顶参数
//将置顶的数据设置权重100。old_score*100，提升_score分数
FunctionScoreQueryBuilder.FilterFunctionBuilder isTop = new FunctionScoreQueryBuilder.FilterFunctionBuilder(QueryBuilders.termQuery(EsConstant.IS_TOP, 1),ScoreFunctionBuilders.weightFactorFunction(100));
//将非置顶的数据设置权重1。old_score*1，_score分数保持不变
FunctionScoreQueryBuilder.FilterFunctionBuilder noTop = new FunctionScoreQueryBuilder.FilterFunctionBuilder(QueryBuilders.termQuery(EsConstant.IS_TOP, 0), ScoreFunctionBuilders.weightFactorFunction(1));
filterFunctionBuilders.add(isTop);
filterFunctionBuilders.add(noTop);

// 评论数 log1p。子分数= log(1 + 0.1 * EsConstant.COMMENT_NUM值)
ScoreFunctionBuilder<FieldValueFactorFunctionBuilder> commentNumScoreFunction = new FieldValueFactorFunctionBuilder(EsConstant.COMMENT_NUM).modifier(FieldValueFactorFunction.Modifier.LOG1P).factor(0.1f);
            filterFunctionBuilders.add(new FunctionScoreQueryBuilder.FilterFunctionBuilder(commentNumScoreFunction));
// 销量数 log1p。子分数= log(1 + 0.1 * EsConstant.SOLD_NUM值)
ScoreFunctionBuilder<FieldValueFactorFunctionBuilder> saleNumScoreFunction = new FieldValueFactorFunctionBuilder(EsConstant.SOLD_NUM).modifier(FieldValueFactorFunction.Modifier.LOG1P).factor(0.1f);
filterFunctionBuilders.add(new FunctionScoreQueryBuilder.FilterFunctionBuilder(saleNumScoreFunction));

filterFunctionBuilders.toArray();
//scoreMode是加强分之间的处理方式：加和，boostMode是old_score与总加强分之间的关系：加和
FunctionScoreQueryBuilder functionScoreQueryBuilder = QueryBuilders.functionScoreQuery(boolQueryBuilder, ArrayUtil.toArray(filterFunctionBuilders, FunctionScoreQueryBuilder.FilterFunctionBuilder.class))
                    .scoreMode(FunctionScoreQuery.ScoreMode.SUM).boostMode(CombineFunction.SUM);
// 封装所有的查询条件(带有function score)
searchSourceBuilder.query(functionScoreQueryBuilder);