104 - kube-scheduler源码分析 - predicate整体流程
(注：从微信公众：CloudGeek复制过来，格式略微错乱，更好阅读体验请移步公众号，二维码在文末)
今天我们来跟一下predicates的整个过程；predicate这个词应该是“断言、断定”的意思，在这里我们姑且翻译为“预选”，虽然不符合这个单词的本意，但是在schedule过程中predicate过程做的事情确实还是叫“预选”比较好理解！
上一讲我们提到predicate过程的入口在findNodesThatFit这个函数，所以今天我们从这个函数入手，看看这里面有哪些玄机。这个函数在：pkg/scheduler/core/generic_scheduler.go:289，声明如下：
可以看到有不少参数，我们理一下这些参数都是什么：
- pod *v1.Pod,
//表示一个pod - nodeNameToInfo map[string]*schedulercache.NodeInfo,
//NodeInfo是node级别的信息集合，里面包含v1.Node，pods，usedPorts等node上的信息；nodeNameToInfo也就是一个node的name到NodeInfo的映射 - nodes []*v1.Node,
//node列表，可用的node集合 - predicateFuncs map[string]algorithm.FitPredicate,
//predicate函数的别名到具体函数的映射，这里的string类似：PodFitsHostPorts；后面的FitPredicate类型是一个func类型：type FitPredicate func(pod *v1.Pod, meta PredicateMetadata, nodeInfo *schedulercache.NodeInfo) (bool, []PredicateFailureReason, error)；这个函数类型判断一个pod能否跑在一个node上 - extenders []algorithm.SchedulerExtender,
//SchedulerExtender是一个接口类型，表示的是一个外部的处理过程，主要用于某些资源不是直接由k8s管理的场景下，调度决策需要外部介入时调用 - metadataProducer algorithm.PredicateMetadataProducer,
//PredicateMetadataProducer是一个函数类型，入参是pod和nodeNameToInfo，返回值是PredicateMetadata，PredicateMetadata是一个interface类型，这个类型表示predicate metadata支持的所有access操作，包含3个函数：ShallowCopy()/AddPod()/RemovePod()；这个interface的实现是struct：predicateMetadata，这个struct包含pod、podPorts、serviceAffinityInUse等属性 - ecache *EquivalenceCache,
//结构体EquivalenceCache主要包含1：一个以node name为key，AlgorithmCache为value的map；2：一个获取equivalence pod的函数。AlgorithmCache这个结构体存储了一个lru.Cache类型的属性，lru是最近最少使用的意思，groupcache里实现的这个Cache - schedulingQueue SchedulingQueue,
//这个interface保存一个等待被调度的pods队列，有Add()、Pop(）等函数 - alwaysCheckAllPredicates bool,
//是否检查所有的predicate
咋看你肯定感觉迷糊，略抓狂，这么多东西咋个理解呢，，，别急，咱再看一下一个关键类型，然后静下心来往后看完，再回过头看是不是理解了这里的所有参数：
1、上面的FitPredicate类型源码里解释如下：
// FitPredicate is a function that indicates（标示） if a pod fits into an existing node. The failure information is given by the error.入参有3个，分别是：
- pod *v1.Pod
- meta PredicateMetadata
- nodeInfo *schedulercache.NodeInfo
返回值是：
- bool
- []PredicateFailureReason
- error
也就是说给定一个pod和一个node，这个函数需要判断这个pod能否跑在这个node上，能否体现在返回值bool类型上；然后如果失败了，也就是不能的情况，需要返回PredicateFailureReason集合，也就是失败的原因们。这个PredicateFailureReason是个interface，看一眼定义就很清晰了，特别简单：
ok，我们接着看findNodesThatFit函数的返回值：
1.[]*v1.Node,
2.FailedPredicateMap,
//这个返回值是map[string][]algorithm.PredicateFailureReason类型，这个类型就是上面截图中那个
3.error
到这里我们可以初步判断findNodesThatFit函数的输入是一个pod和一堆nodes和xxx，返回值是可以跑这个pod的node集合和xxx，xxx先不考虑，我们专注一下这里的一个pod和N个node，返回值是M个node，M<=N.
这个函数的逻辑并不复杂，我们撇开里面主要的子函数podFitsOnNode后过程大致如下图：
这里我们稍微看一下这里的checkNode函数是怎么被并发调用的：
如上图，checkNode是一个函数类型，明显predicateFuncs都在这个内嵌函数中执行了。这个内嵌函数的调用在截图的倒数第二行：workqueue.Parallelize(16, len(nodes), checkNode)；这个函数的入参是16，nodes的数量，checkNode这个函数，跟进去看一下可以知道这里的逻辑，不复杂不过挺有意思：
上面的workers是16，pieces是node数量，doWorkPiece就是checkNode这个函数，这个函数的参数还记得吗？是一个int类型的i；ParallelizeUntil这个函数中写入了pieces个数据到toProcess，也就是node的数量，然后就close掉了这个channal，也就是这个channal被读完就废了。然后判断如果node数量少于workers，也就是少于16的话，则workers=16；最后开了workers个goroutines， 也就是最多16个并发来消费toProcess，也就是最多16个并发来计算N个checkNode任务，每个checkNode任务处理一个node上的predicate functions计算过程。
好，下面看podFitsOnNode了，先略看函数声明：
可以看到这里的注释不少，大致翻译过来是这个意思：podFitsOnNode检查一个以NodeInfo形式提供的node是否能够通过给定的predicate functions筛选；对于一个给定的pod，podFitsOnNode会检查node上是否有已经存在的等价的pod，如果存在则尝试尽量重用这个pod缓存的predicate结果信息。这个函数会从2个不同的入口被调用：Schedule and Preempt，当从Schedule进入时，本函数检测一个node在考虑所有已存在pods和被指定将跑到这个node上是所有更高优先级或者相同优先级（和当前要被调度的pod比较）的pod都跑起来的情况下能否跑现在这个被调度的pod.；；；就解释到这里，下面我们还是老规矩，看看入参和返回值：
入参：
- pod *v1.Pod,
- meta algorithm.PredicateMetadata,
- info *schedulercache.NodeInfo,
//上一个函数的nodeNameToInfo[nodeName]获取到的NodeInfo
- predicateFuncs map[string]algorithm.FitPredicate,
- ecache *EquivalenceCache,
- queue SchedulingQueue,
- alwaysCheckAllPredicates bool,
- equivCacheInfo *equivalenceClassInfo,
返回值：
- bool,
- []algorithm.PredicateFailureReason,
//上层函数返回值中的FailedPredicateMap是map[string][]algorithm.PredicateFailureReason类型
- error
这里没有逐个解释，基本和上层函数的参数对应得上，findNodesThatFit解释哪些nodes能够跑给定的pod，而podFitsOnNode解释给定node能否跑给定pod.我们先看一下这个过程的简要流程图（2次循环考虑第一次的情况）：
看一下代码：predicateResults := make(map[string]HostPredicate)这一行的string标识predicate名称，HostPredicate类型是：
这个i从0到1只跑2遍的for循环中分歧点只有如下这个if：
如上，在i为0时调用到了addNominatedPods函数，这个函数把更高或者相同优先级的pod（待运行到本node上的）信息增加到meta和nodeInfo中，也就是对应考虑这些nominated都Running的场景；后面i为1对应的就是不考虑这些pod的场景。对于这个2遍过程，注释里是这样解释的：
如果这个node上“指定”了更高或者相等优先级的pods（也就是优先级不低于本pod的一群pods将要跑在这个node上），我们运行predicates过程当这些pods信息全被加到meta和nodeInfo中的情况。如果所有的predicates过程成功了，我们再次运行这些predicates过程在这些pods信息没有被加到meta和nodeInfo的情况。这样第二次过程可能会因为一些pod间的亲和性策略过不了（因为这些计划要跑的pods没有跑，所以可能亲和性被破坏）。这里其实基于2点考虑：1、有亲和性要求的pod如果认为这些nominated pods在，则在这些nominated pods不在的情况下会异常；2、有反亲和性要求的pod如果认为这些nominated pods不在，则在这些nominated pods在的情况下会异常。
我们接着看predicate函数主要是怎样被调用的：
如上，predicate是FitPredicate类型的一个对象，也就是对应具体的predicate函数，所以下面的predicate(pod, metaToUse, nodeInfoToUse)也就对应一个具体的predicate函数的执行。
最后我们瞄一眼具体的predicate函数是怎么定义的：
一个predicate函数类似这样：
这样被注册：
紫色部分的常量对应一个个字符串描述：
行，剩下的我们下回分解~
