建网站如果不买域名别人能不能访问,青海设计网站,平面设计提升培训中心,新乡小程序开发公司限流的作用
在API对外互联网开放的情况下#xff0c;是无法控制调用方的行为的。当遇到请求激增或者黑客攻击的情况下#xff0c;会导致接口占用大量的服务器资源#xff0c;使得接口响应效率的降低或者超时#xff0c;更或者导致服务器宕机。
限流是指对应用服务进行限制…限流的作用
在API对外互联网开放的情况下是无法控制调用方的行为的。当遇到请求激增或者黑客攻击的情况下会导致接口占用大量的服务器资源使得接口响应效率的降低或者超时更或者导致服务器宕机。
限流是指对应用服务进行限制。例如对某一个接口限制为1秒100次请求超过这个请求的就放弃
限流可以应对热点业务带来的突发情况、调用方的异常请求、恶意攻击等
为什么要使用分布式限流
我们先看下单节点的限流如下图所示:
当我们对单个节点进行限流的时候我们后面所带的资源服务得到了保护。但是我们的应用大多是分布式的应用。如下图所示:
服务变为分布式的部署的情况下我们只对单个节点进行限流的时候其他节点并未得到限流。后面依赖的资源还是每得到保护。我们再看下分布式限流的图:
基于中间件实现的分布式限流我们可以方便的控制服务集群的请求限制这样整个集器依赖的资源也得到了保护。
限流的算法
1.固定窗口计数器
这种算法最简单就是把时间切割成多个窗口比如一秒钟一个窗口。每次请求进来计数器1.如果本窗口内计数器达到限制则进入到下一个时间窗口并把计数器重置。
固定窗口计数器一般会使实际通过的请求量为限制的2倍。比如说一个场景:如果设置1秒设置限制为5假如在前一秒的后半秒通过了5在下一秒的前半秒也通过了5那么一秒内就通过了10次请求。
2.滑动窗口计数器
我们在固定窗口计数器的基础上对每一个时间窗口再进行时间上的切分比如我们是按照1分钟100次请求的限制进行限流的我们再将1分钟切成6份就是10秒一个时间窗口在每个细分的时间窗口中记录请求数量时间从前一分钟的开始到前一分钟的结束为止到了前一分钟的前10秒我们的时间窗口从前一分钟的前10秒到下一分钟的前10秒结束。如下图所示:
这种算法减少了临界值带来的并发超过阈值的问题。Spring Cloud 中的熔断框架 Hystrix以及 Spring Cloud Alibaba 中的Sentinel 都采用滑动窗口来做数据统计。 该算法时间区间划分的精度越高算法需要的空间容量就越大。
3.漏桶
我们将每个请求视为一个水滴然后有个桶装水并且整个桶以固定的速度往外漏水当进入请求(水滴)把桶装满则请求不能再进入。
4.令牌桶算法
令牌桶算法的概念如下: 我们以固定的速率生成令牌并放入桶中如果令牌桶满了生成的令牌将被丢弃。每次一个请求进来试图从令牌桶中取令牌取到令牌则请求通过如果令牌桶空了取不到则请求将被丢弃。
Google 的开源项目 guava 提供了 RateLimiter 类实现了单点的令牌桶限流。
