? 优质资源分享 ?

我是3y，一年CRUD经验用十年的markdown程序员??‍?常年被誉为职业八股文选手

今天继续来更新austin项目的内容，主要讲讲限流这块

01、为什么AUSTIN项目需要限流

众所周知，服务器能处理的请求数是有限的，如果请求量特别大，我们就可能需要做限流。

限流处理的姿势：要么就让请求等待，要么就把请求给扔了

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-XRMqyfZl-1657773552333)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/84f45d71bed3408e96379afecf42fbbf~tplv-k3u1fbpfcp-zoom-1.image)]

从系统架构来看，我们的统一处理入口在austin-api接入层上，austin-api接入层做完简单的参数校验以及参数拼接后，就将请求转发到消息队列上了

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jDclL9Qf-1657773552336)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/51185ed0d36f4c3892582473c3440190~tplv-k3u1fbpfcp-zoom-1.image)]

按正常来说，因为接了消息队列且接入层没有什么耗时的操作，那对外的接口压力不大的。

没错的，austin要接入限流也并不是在austin-api接入层上做，是在austin-handler消息处理下发层。austin-handler消息处理下发层我们是用线程池去隔离不同的消息渠道不同的消息类型。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ABor0inT-1657773552337)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/0ffecb13041f4735af178cddab40d7e1~tplv-k3u1fbpfcp-zoom-1.image)]

在系统本身上其实没有性能相关的问题，但我们下发的渠道可能就需要我们去控制调用的速率。

腾讯云短信默认限制3000次/秒调用下发接口

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DyZHHilC-1657773552338)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/93bde128ee69424893c0629510e0eb37~tplv-k3u1fbpfcp-zoom-1.image)]

钉钉渠道对应用消息和群机器人消息都有接口调用的限制

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3dybSgg2-1657773552340)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/4ad850dc439f4ac0af9556ec2f0563d5~tplv-k3u1fbpfcp-zoom-1.image)]

....

在保证下发速度的前提下，为了让业务方所下发的消息其用户能正常接收到和下游渠道的稳定性，我们需要给某些渠道进行限流

于是在这个背景下，我目前定义了两种限流策略：

1、按照请求数限流

2、按照下发用户数限流

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-rzROzUW5-1657773552341)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/76c04f860cc04712ad019bf446b1fdd9~tplv-k3u1fbpfcp-zoom-1.image)]

02、如何实现限流？

想要实现限流，摆在我们面前有两个选择：

1、单机限流

2、分布式限流

咋一看，线上不可能只部署一台机器去发送整个公司的消息推送的，我们的系统应用在线上环境绝对是集群部署的，那肯定就需要上分布式限流了，对吧？

但实际上分布式限流实现并不简单，目前分布式限流的方案一般借助两个中间件

1、Redis

2、Sentinel

我们可能会用Redis的setnx/incrby+expire命令(从而实现计数器、令牌桶限流)/zset数据结构(从而实现滑动窗口限流)

Redis实现的限流想要比较准确，无论是哪种方式，都要依靠lua脚本

而Sentinel支持单机限流和分布式限流，Sentinel分布式限流需要部署Token服务器

对于分布式限流而言，不管用哪一种方案，使用的成本和技术挑战都是比较大的。

如果用单机限流的话，那就简单得多了，省事直接用Guava包下的RateLimiter就完了。缺点就在于：它只能控制单机的限流，如果发生了服务器扩容和缩容，它是感知不到的。

有的人就给出了方案：那我用Zookeeper监听服务器的数量不就好了吗。理论上确实是这样的：每台机器限流值=限流总值/服务器数量

不过这又要去依赖Zookeeper，Zookeeper集群本身也有一堆状态相关的问题。

我是怎么实现的？单机限流一把梭

03、代码设计

从上面的描述可以看到，austin的限流我是要做在具体渠道上的，根据现有的代码设计我要的就是在各个的Handler上写上限流的代码。

我本身就设计了BaseHandler抽象类作为模板方法设计模式，此次限流的设计我的是：

1、将flowControl定义为abstract抽象方法，子类渠道去实现限流的代码

2、子类在初始化的时候定义限流参数，BaseHandler父类根据限流参数统一实现限流的逻辑

我选择了第二种方式，主要是我认为对于各个渠道而言，只是限流值是不同的，限流的逻辑应该都是一样的，没必要在每个子类上实现类似的逻辑。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8vawB0M3-1657773552342)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/848aa2e9d7254834b0e28205473719a8~tplv-k3u1fbpfcp-zoom-1.image)]

而限流的逻辑就比较简单了，主要就使用RateLimit提供的易用API实现

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-vbXr5r84-1657773552343)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/85a765a3b1794f75a3091d905ffc46bc~tplv-k3u1fbpfcp-zoom-1.image)]

没错，限流值的大小我是配置在apollo分布式配置中心的。假设以后真的要扩缩容了，那到时候提前把分布式配置中心的值给改掉，也能解决一部分的问题。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Kxnv8XfM-1657773552344)(https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/e15fdd73c6aa485c8ee9bdd4b8b2a5af~tplv-k3u1fbpfcp-zoom-1.image)]

04、总结

扯了半天，原来就用了Guava包的RateLimit实现了单机限流，就这么简单，只是把限流值配置在分布式配置中心上而已。

很多时候，设计简单的代码可能实现并不完美，并不智能，并不优雅，但它付出的代价往往是最小的。

虽说如此，如果大家想要了解Redis+lua实现的同学可以fetch下austin最新的代码，就我写文章这段时间里，已经有老哥提了pull request用Redis+lua实现了滑动窗口去重的功能了，本质上是一样的。我已经merge到master分支了。

austin消息推送平台项目源码Gitee链接：gitee.com/austin

austin消息推送平台项目源码GitHub链接：github.com/austin

转载请注明：xuhss » 我是如何实现限流的？