自适应微服务治理背后的算法
前言
go-zero 群里经常有同学问:
服务监控是通过什么算法实现的?
滑动窗口是怎么工作的?能否讲讲这块的原理?
熔断算法是怎么设计的?为啥没有半开半闭状态呢?
本篇文章,来分析一下 go-zero
中指标统计背后的实现算法和逻辑。
指标怎么统计
这个我们直接看 breaker
:
type googleBreaker struct {
k float64
stat *collection.RollingWindow
proba *mathx.Proba
}
go-zero
中默认的breaker
是以 google SRE 做为实现蓝本。
当 breaker
在拦截请求过程中,会记录当前这类请求的成功/失败率:
func (b *googleBreaker) doReq(req func() error, fallback func(err error) error, acceptable Acceptable) error {
...
// 执行实际请求函数
err := req()
if acceptable(err) {
// 实际执行:b.stat.Add(1)
// 也就是说:内部指标统计成功+1
b.markSuccess()
} else {
// 原理同上
b.markFailure()
}
return err
}
所以其实底层说白了就是:请求执行完毕,会根据错误发生次数,内部的统计数据结构会相应地加上统计值(可正可负)。同时随着时间迁移,统计值也需要随时间进化。
简单来说:时间序列内存数据库【也没数据库这么猛,就是一个存储,只是一个内存版的】
下面就来说说这个时间序列用什么数据结构组织的。
滑动窗口
我们来看看 rollingwindow
定义数据结构:
type RollingWindow struct {
lock sync.RWMutex
size int
win *window
interval time.Duration
offset int
ignoreCurrent bool
lastTime time.Duration
}
上述结构定义中,window
就存储指标记录属性。
在一个 rollingwindow
包含若干个桶(这个看开发者自己定义):
每一个桶存储了:Sum
成功总数,Count
请求总数。所以在最后 breaker
做计算的时候,会将 Sum 累计加和为 accepts
,Count 累计加和为 total
,从而可以统计出当前的错误率。
滑动是怎么发生的
首先对于 breaker
它是需要统计单位时间(比如1s)内的请求状态,对应到上面的 bucket
我们只需要将单位时间的指标数据记录在这个 bucket
即可。
那我们怎么保证在时间前进过程中,指定的 Bucket
存储的就是单位时间内的数据?
第一个想到的方式:后台开一个定时器,每隔单位时间就创建一个 bucket
,然后当请求时当前的时间戳落在 bucket
中,记录当前的请求状态。周期性创建桶会存在临界条件,数据来了,桶还没建好的矛盾。
第二个方式是:惰性创建 bucket
,当遇到一个数据再去检查并创建 bucket
。这样就有时有桶有时没桶,而且会大量创建 bucket
,我们是否可以复用呢?
go-zero 的方式是:rollingwindow
直接预先创建,请求的当前时间通过一个算法确定到bucket
,并记录请求状态。
下面看看 breaker
调用 b.stat.Add(1)
的过程:
func (rw *RollingWindow) Add(v float64) {
rw.lock.Lock()
defer rw.lock.Unlock()
// 滑动的动作发生在此
rw.updateOffset()
rw.win.add(rw.offset, v)
}
func (rw *RollingWindow) updateOffset() {
span := rw.span()
if span <= 0 {
return
}
offset := rw.offset
// 重置过期的 bucket
for i := 0; i < span; i++ {
rw.win.resetBucket((offset + i + 1) % rw.size)
}
rw.offset = (offset + span) % rw.size
now := timex.Now()
// 更新时间
rw.lastTime = now - (now-rw.lastTime)%rw.interval
}
func (w *window) add(offset int, v float64) {
// 往执行的 bucket 加入指定的指标
w.buckets[offset%w.size].add(v)
}
上图就是在 Add(delta)
过程中发生的 bucket
发生的窗口变化。解释一下:
updateOffset
就是做bucket
更新,以及确定当前时间落在哪个bucket
上【超过桶个数直接返回桶个数】,将其之前的bucket
重置- 确定当前时间相对于
bucket interval
的跨度【超过桶个数直接返回桶个数】 - 将跨度内的
bucket
都清空数据。reset
- 更新
offset
,也是即将要写入数据的bucket
- 更新执行时间
lastTime
,也给下一次移动做一个标志
- 确定当前时间相对于
- 由上一次更新的
offset
,向对应的bucket
写入数据
而在这个过程中,如何确定确定 bucket
过期点,以及更新时间。滑动窗口最重要的就是时间更新,下面用图来解释这个过程:
而 bucket
过期点,说白就是 lastTime
即上一个更新时间跨越了几个 bucket
:timex.Since(rw.lastTime) / rw.interval
这样,在 Add()
的过程中,通过 lastTime
和 nowTime
的标注,通过不断重置来实现窗口滑动,新的数据不断补上,从而实现窗口计算。
总结
本文分析了 go-zero
框架中的指标统计的基础封装、滑动窗口的实现 rollingWindow
。当然,除此之外,store/redis
也存在指标统计,这个里面的就不需要滑动窗口计数了,因为本身只需要计算命中率,命中则对 hit +1,不命中则对 miss +1 即可,分指标计数,最后统计一下就知道命中率。
滑动窗口适用于流控中对指标进行计算,同时也可以做到控流。
关于 go-zero
更多的设计和实现文章,可以关注『微服务实践』公众号。
项目地址
https://github.com/tal-tech/go-zero
欢迎使用 go-zero 并 star 支持我们!
微信交流群
关注『微服务实践』公众号并点击 交流群 获取社区群二维码。
go-zero 系列文章见『微服务实践』公众号