万豪国际注册万豪国际注册


万豪国际官网

架构必经之路2 - 熔断机制

架构之旅1 - 扣减库存

架构之旅2 - 熔断机制

 

项目中要做一个熔断机制,预防对第三方的接口调用压力太大。下面我介绍下项目中用到的熔断机制。

一、熔断机制  

1.熔断检测机制

(1)请求call到backend后,首先判断熔断开关是否打开

(2)如果熔断开关已打开,则表明当前请求不能被处理

(3)如果熔断开关未打开,则判断时间窗口(判断统计错误率)是否已满

(4)如果时间窗口(判断统计错误率)未满,则请求桶(redis) 中的请求数加1

(5)如果返回的response 有异常,则失败桶(redis) 的失败数加1,如果返回的response没有异常,则成功桶(redis) 的成功数加1

(6)如果时间窗口(判断统计错误率)已满,则开始判断是否需要熔断

 2.熔断算法

 

 

充要条件:

(1)请求总数 > 设定值X

(2)失败率 > 设定值Y

请求总数可以从请求桶redis 中获取到

失败率 = 失败数 ÷ 请求数 × 100%

当请求总数大于一定值,且失败率大于一定值时,则表示请求失败数太多了,需要熔断API请求

3.统计失败率的时间窗口

 (1)每次请求,都会判断时间窗口是否已满(如5分钟),如果时间窗口已满,则重新开始计时,且清理请求数/成功数/失败数

 (2)第一次开始的起始时间默认为当前时间。

4.熔断持续时间

(1)如果出现问题,可以将所有请求链路熔断掉,熔断恢复时间可以假定为1分钟,可以根据不同的环境进行调整

(2)熔断恢复时间没有根据环境来进行动态调整,比如网络差的时候,持续了很长时间网络都很差,这个时候,可以动态递增熔断时间

5.手动熔断

因为熔断是通过统计单位时间内的失败率来判断是否需要熔断的,而有时候我们需要快速切断请求链路,比如充值请求量太大的时候,导致很多订单都被退款,这个时候我们可以先熔断获取套餐接口,这样用户就拿不到套餐,就不能充值了。

6.总熔断检测开关

有时候我们不需要熔断检测,这个时候我们就需要一个总开关,打开总开关,则进行熔断检测,关闭总开关,则不进行熔断检测。

7.查看当前熔断的状态

我们做了熔断检测,但是需要check下是否work了,可以check下以下参数

 

8.还有哪些可以优化的?有哪些不足?以及您是否遇到熔断的坑?

欢迎留言一起探讨熔断机制~ 

作  者:Jackson0714 出  处:http://www.cnblogs.com/jackson0714/ 关于作者:专注于微软平台的项目开发。如有问题或建议,请多多赐教! 版权声明:本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文链接。 特此声明:所有评论和私信都会在第一时间回复。也欢迎园子的大大们指正错误,共同进步。或者直接私信我 声援博主:如果您觉得文章对您有帮助,可以点击文章右下角【推荐】一下。您的鼓励是作者坚持原创和持续写作的最大动力!

欢迎阅读本文章: 淘三藏

万豪国际代理

万豪国际官网