Dubbo 负载均衡与集群容错(十一)
负载均衡
Dubbo支持的负载均衡有如下策略：默认是随机
- 权重随机（random），实现类RandomLoadBalance
- 权重轮询(roundrobin)，实现类RoundRobinLoadBalance
- 最少活跃（leastactive）负载策略，实现类LeastActiveLoadBalance
- 一致性hash(consistenthash) 实现类ConsistentHashLoadBalance
在AbstractClusterInvoker#invoke => AbstractClusterInvoker#initLoadBalance
protected LoadBalance initLoadBalance(List<Invoker<T>> invokers, Invocation invocation) { if (CollectionUtils.isNotEmpty(invokers)) { //从url通过key "loadbalance" 取不到值，就取默认random随机策略 return ExtensionLoader.getExtensionLoader(LoadBalance.class).getExtension(invokers.get(0).getUrl() .getMethodParameter(RpcUtils.getMethodName(invocation), Constants.LOADBALANCE_KEY, Constants.DEFAULT_LOADBALANCE)); } else { return ExtensionLoader.getExtensionLoader(LoadBalance.class).getExtension(Constants.DEFAULT_LOADBALANCE); } }
FailoverClusterInvoker.doInvoke =>
Invoker<T> invoker = select(loadbalance, invocation, copyInvokers, invoked); =>
Invoker<T> invoker = doSelect(loadbalance, invocation, invokers, selected) =>
Invoker<T> invoker = loadbalance.select(invokers, getUrl(), invocation);
到这边就进入了具体的负载策略逻辑了，下面以最小活跃数来介绍
@Override protected <T> Invoker<T> doSelect(List<Invoker<T>> invokers, URL url, Invocation invocation) { // Number of invokers 总个数 int length = invokers.size(); // The least active value of all invokers int leastActive = -1; // 当前最小活跃数值 // The number of invokers having the same least active value (leastActive) int leastCount = 0; // 相同最小活跃数的个数 // The index of invokers having the same least active value (leastActive) int[] leastIndexes = new int[length]; // 相同最小活跃数的下标 // the weight of every invokers int[] weights = new int[length]; // The sum of the warmup weights of all the least active invokes int totalWeight = 0; // 总权重 // The weight of the first least active invoke int firstWeight = 0; // 第一个权重，用于于计算是否相同 // Every least active invoker has the same weight value? boolean sameWeight = true; // 是否所有权重相同 // Filter out all the least active invokers for (int i = 0; i < length; i++) { Invoker<T> invoker = invokers.get(i); // Get the active number of the invoke int active = RpcStatus.getStatus(invoker.getUrl(), invocation.getMethodName()).getActive(); // Get the weight of the invoke configuration. The default value is 100. int afterWarmup = getWeight(invoker, invocation); // save for later use weights[i] = afterWarmup; // If it is the first invoker or the active number of the invoker is less than the current least active number if (leastActive == -1 || active < leastActive) { // 每次循环到的invoker 得到的最小连接数 小于超过之前invoke的最小连接数 // Reset the active number of the current invoker to the least active number leastActive = active; //把最小的连接数赋值给leastActive // Reset the number of least active invokers leastCount = 1; // 当前相同的最小连接数reset为1个 // Put the first least active invoker first in leastIndexs leastIndexes[0] = i; // Reset totalWeight totalWeight = afterWarmup; // Record the weight the first least active invoker firstWeight = afterWarmup; // Each invoke has the same weight (only one invoker here) sameWeight = true; // If current invoker's active value equals with leaseActive, then accumulating. } else if (active == leastActive) { // 发现当前的invoke最小连接数 与 目前最小连接数相同 // Record the index of the least active invoker in leastIndexs order leastIndexes[leastCount++] = i; // 最小连接数就+1 并保存这个invoker的下标到leastIndexes // Accumulate the total weight of the least active invoker totalWeight += afterWarmup; // If every invoker has the same weight? if (sameWeight && i > 0 && afterWarmup != firstWeight) { sameWeight = false; } } } // Choose an invoker from all the least active invokers if (leastCount == 1) { // 相同最小连接数只有一个的话 直接返回该下标的invoker // If we got exactly one invoker having the least active value, return this invoker directly. return invokers.get(leastIndexes[0]); } if (!sameWeight && totalWeight > 0) { // If (not every invoker has the same weight & at least one invoker's weight>0), select randomly based on // totalWeight. int offsetWeight = ThreadLocalRandom.current().nextInt(totalWeight); // Return a invoker based on the random value. for (int i = 0; i < leastCount; i++) { int leastIndex = leastIndexes[i]; offsetWeight -= weights[leastIndex]; if (offsetWeight < 0) { return invokers.get(leastIndex); } } } // If all invokers have the same weight value or totalWeight=0, return evenly. // 如果权重相同或权重为0则均等随机 return invokers.get(leastIndexes[ThreadLocalRandom.current().nextInt(leastCount)]); }
其他的负载均衡策略相对简单，不过多介绍，读者可以网上查阅相关资料。另外关于加权轮询算法可以参看这篇文章：https://cloud.tencent.com/developer/article/1109584
集群容错
这是来自官网上的关于集群容错的示意图
下面对这几种集群容错模式的简单介绍，默认使用
Failfast Cluster
快速失败，只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。
Failsafe Cluster
失败安全，出现异常时，直接忽略。通常用于写入审计日志等操作。
Failback Cluster
失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。
Forking Cluster
并行调用多个服务器，只要一个成功即返回。通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。
Broadcast Cluster
广播调用所有提供者，逐个调用，任意一台报错则报错。通常用于通知所有提供者更新缓存或日志等本地资源信息。
FailoverClusterInvoker（FailoverCluster，dubbo默认策略）
失败后自动选择其他服务提供者进行重试，重试次数由retries属性设置，< dubbo:reference retries = “2”/>设置，默认为2，代表重试2次，最多执行3次。
AvailableClusterInvoker
策略：选择集群第一个可用的服务提供者。
缺点：相当于服务的主备，但同时只有一个服务提供者承载流量，并没有使用集群的负载均衡机制。
这边以一个简单的AvailableClusterInvoker作为一个简单的例子来介绍一下，
AbstractClusterInvoker#invoke -> AvailableClusterInvoker#doInvoke
很简单 就是只要发现有一个invoker可以使用 就选择该invoker
public Result doInvoke(Invocation invocation, List<Invoker<T>> invokers, LoadBalance loadbalance) throws RpcException { for (Invoker<T> invoker : invokers) { if (invoker.isAvailable()) { return invoker.invoke(invocation); } } throw new RpcException("No provider available in " + invokers); }
