springcloud实现限流

在高并发中，限流是必不可少的一个环节，如何使用springcloud-zuul实现限流，限流的实现最重要在于算法，常见的限流算法包

括了漏桶算法及令牌桶算法。

漏桶算法

漏桶这个名字就很形象，算法内部有一个容器，类似于漏斗。进来的请求类似于加水，不管倒入的水流量多大，下面出去的水流量很稳定。

不管服务调用方多么不稳定，通过漏桶算法进行限流，每隔固定的时间处理一次请求。因为处理请求的速率固定，所以新加入的请求会被放

置在桶中，等待下一次请求处理，若桶已经放满，则丢弃要加入的请求。

 

 令牌桶算法

令牌桶算法中，有一个桶，算法按照一定的速率向桶中添加令牌，拿到了令牌的请求才能被处理。若请求没有拿到令牌则等待可用的令牌，或者

直接拒绝。若桶中令牌数量达到了上线，就丢弃令牌。

 

 springcloudGateWay实现限流

GoogleGuava提供了限流工具类RateLimiter，如下编写一个pre类型的filter，适用于单zuul节点的情况。

import com.google.common.util.concurrent.RateLimiter;
import com.netflix.zuul.ZuulFilter;
import com.netflix.zuul.context.RequestContext;
import com.netflix.zuul.exception.ZuulException;
import org.springframework.cloud.netflix.zuul.filters.support.FilterConstants;
import org.springframework.core.Ordered;
import org.springframework.http.HttpStatus;
import org.springframework.http.MediaType;
import org.springframework.stereotype.Component;

import javax.servlet.http.HttpServletResponse;

@Component
public class RateLimitZuulFilter extends ZuulFilter {
    //同一時刻允許請求的個數 3個
    private RateLimiter rateLimiter = RateLimiter.create(2);
    @Override
    public String filterType() {
        return FilterConstants.PRE_TYPE;
    }

    @Override
    public int filterOrder() {
        return Ordered.HIGHEST_PRECEDENCE;
    }

    @Override
    public boolean shouldFilter() {
        //可以考慮弄個開關
        return true;
    }

    @Override
    public Object run() throws ZuulException {
        RequestContext requestContext = RequestContext.getCurrentContext();
        HttpServletResponse response = requestContext.getResponse();
        if(!rateLimiter.tryAcquire()){//超过设置的请求个数
            HttpStatus tooManyRequests = HttpStatus.TOO_MANY_REQUESTS;
            response.setContentType(MediaType.TEXT_PLAIN_VALUE);
            response.setStatus(tooManyRequests.value());
            requestContext.setSendZuulResponse(false);
            throw new ZuulException(tooManyRequests.getReasonPhrase(),tooManyRequests.value(),tooManyRequests.getReasonPhrase());
        }
        return null;
    }
}

 

编写测试类，模仿http请求访问某个服务。

public class HttpRequest {
    public static void main(String[] args)throws Exception {
        Thread []thread = new Thread[10];
        for(int i = 0;i < 10;i++){
            thread[i] = new Thread(()->{
                try{
                    URI url = new URI("http://localhost:9527/menbbo/springcloudzuul/index");
                    SimpleClientHttpRequestFactory simpleClientHttpRequestFactory = new SimpleClientHttpRequestFactory();
                    ClientHttpRequest request = simpleClientHttpRequestFactory.createRequest(url, HttpMethod.POST);
                    ClientHttpResponse execute = request.execute();
                    InputStream body = execute.getBody();
                    InputStreamReader ins =  new InputStreamReader(body);
                    BufferedReader bufferedReader = new BufferedReader(ins);
                    String s = "";
                    while ((s=bufferedReader.readLine())!=null){
                        System.out.println(s);
                    }
                }
                catch (Exception e){
                    e.printStackTrace();
                }
            });
        }
        for(int i =0;i<10;i++){
            thread[i].start();
        }
    }
}

结果如下：

 

 调用成功3次，其他被过滤掉。

源码地址：https://gitee.com/menbbo/springclouddemo.git