什么是令牌桶限流算法
当面试官问你,“什么是令牌桶限流算法”!
你知道要怎么回答,才能获得面试官的青睐吗?
大家好,我是Mic,一个工作了14年的Java程序员。
关于这个问题,面试官想考察哪些纬度?我们又该怎么回答呢?
问题解析
限流策略,是在高并发流量下保护系统稳定性的一种策略。
所以这个问题,主要是互联网公司会去考察。
当然,在实际业务开发中,限流无处不在,比如
- 线程池、连接池这些通过限制总的并发数量避免资源过度使用。
- Nginx反向代理服务器上通过limit_conn模块限制瞬时并发连接数
- 在方法层面通过Sentinel、RateLimiter等工具限制接口的并发请求数量等等
他们的核心目标,都是限制并发请求数量,避免系统被压垮导致不可用的问题。
在限流的整个体系里面,我认为有三个比较重要的纬度
- 资源,也就是针对什么资源进行限流,比如接口,或者连接等
- 阈值,流量峰值达到多少后限制后续流量的访问
- 触发限流后的行为,比如熔断、降级等
限流算法是整个限流实现的核心,不同限流算法,能够对流量的精准控制粒度,以及是否能支持突发流量等情况进行控制常见的限流算法,滑动窗口、令牌桶、漏桶等。
其中令牌桶是一种能够处理突发流量的限流算法,系统以恒定速率向令牌桶里面添加令牌,然后每个请求都需要从令牌桶去获取令牌才能访问,如果获取不到,就会触发限流。
所以,我认为这道题考察两个方面
- 对限流的整体认知
- 了解限流算法对于限流本身的重要性
高手:
令牌桶是一种控制请求访问速率的算法。
它具体工作原理是:系统以一定速率生成令牌并放到令牌桶里面。
然后所有的客户端请求进入到系统后,先从令牌桶里面获取令牌,成功获取到令牌表示可以正常访问。
如果取不到令牌,说明请求流量大于令牌生成速率,也就是并发数超过系统承载的阈值,就会触发限流的动作。
在流量较低的情况下,令牌桶可以缓存一定数量的令牌,所以令牌桶可以处理瞬时突发流量。
总结
好了,今天的分享就到这里结束了。
如果喜欢我的作品,记得点赞、收藏、关注!
需要整套面试文档扫下方!!!
版权声明:本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自
Mic带你学架构
!
如果本篇文章对您有帮助,还请帮忙点个关注和赞,您的坚持是我不断创作的动力。欢迎关注「跟着Mic学架构」公众号公众号获取更多技术干货!