帝王谷资源网 Design By www.wdxyy.com
主要是依靠 redis + lua 来实现限流器, 使用 lua 的原因是将多条命令合并在一起作为一个原子操作, 无需过多考虑并发.
计数器模式
原理
计数器算法是指在一段窗口时间内允许通过的固定数量的请求, 比如10次/秒, 500次/30秒.
如果设置的时间粒度越细, 那么限流会更平滑.
实现
所使用的 Lua 脚本
-- 计数器限流 -- 此处支持的最小单位时间是秒, 若将 expire 改成 pexpire 则可支持毫秒粒度. -- KEYS[1] string 限流的key -- ARGV[1] int 限流数 -- ARGV[2] int 单位时间(秒) local cnt = tonumber(redis.call("incr", KEYS[1])) if (cnt == 1) then -- cnt 值为1说明之前不存在该值, 因此需要设置其过期时间 redis.call("expire", KEYS[1], tonumber(ARGV[2])) elseif (cnt > tonumber(ARGV[1])) then return -1 end return cnt
返回 -1 表示超过限流, 否则返回当前单位时间已通过的请求数
key 可以但不限于以下的情况
- ip + 接口
- user_id + 接口
优点
- 实现简单
缺点
- 粒度不够细的情况下, 会出现在同一个窗口时间内出现双倍请求数
注意
- 尽量保持时间粒度精细
场景分析
eg. 1000/3s 的限流
极端情况1:
第1秒请求数 10
第2秒请求数 10
第3秒请求数 980
第4秒请求数 900
第5秒请求数 100
第6秒请求数 0
此时注意第3~5秒内的总请求数高达 1980
极端情况2:
第1秒请求数 1000
第2秒请求数 0
第3秒请求数 0
此时后续的第2~3秒会出现大量拒绝请求
令牌桶模式
原理
令牌桶的
- 桶中保存有令牌, 存在上限, 且一开始是满的
- 每次请求都要消耗令牌(可根据不同请求消耗不同数量的令牌)
- 每隔一段时间(固定速率)会往桶中放令牌
桶的实现还分为:
可预消费
提前预支令牌数: 前人挖坑, 后人跳
不可预消费
令牌数不够直接拒绝
实现
此处实现的不可预消费的令牌桶, 具体Lua代码:
-- 令牌桶限流: 不支持预消费, 初始桶是满的 -- KEYS[1] string 限流的key -- ARGV[1] int 桶最大容量 -- ARGV[2] int 每次添加令牌数 -- ARGV[3] int 令牌添加间隔(秒) -- ARGV[4] int 当前时间戳 local bucket_capacity = tonumber(ARGV[1]) local add_token = tonumber(ARGV[2]) local add_interval = tonumber(ARGV[3]) local now = tonumber(ARGV[4]) -- 保存上一次更新桶的时间的key local LAST_TIME_KEY = KEYS[1].."_time"; -- 获取当前桶中令牌数 local token_cnt = redis.call("get", KEYS[1]) -- 桶完全恢复需要的最大时长 local reset_time = math.ceil(bucket_capacity / add_token) * add_interval; if token_cnt then -- 令牌桶存在 -- 上一次更新桶的时间 local last_time = redis.call('get', LAST_TIME_KEY) -- 恢复倍数 local multiple = math.floor((now - last_time) / add_interval) -- 恢复令牌数 local recovery_cnt = multiple * add_token -- 确保不超过桶容量 local token_cnt = math.min(bucket_capacity, token_cnt + recovery_cnt) - 1 if token_cnt < 0 then return -1; end -- 重新设置过期时间, 避免key过期 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time) redis.call('set', LAST_TIME_KEY, last_time + multiple * add_interval, 'EX', reset_time) return token_cnt else -- 令牌桶不存在 token_cnt = bucket_capacity - 1 -- 设置过期时间避免key一直存在 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time); redis.call('set', LAST_TIME_KEY, now, 'EX', reset_time + 1); return token_cnt end
令牌桶的关键是以下几个参数:
- 桶最大容量
- 每次放入的令牌数
- 放入令牌的间隔时间
令牌桶的实现不会出现计数器模式中单位时间内双倍流量的问题.
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。
帝王谷资源网 Design By www.wdxyy.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
帝王谷资源网 Design By www.wdxyy.com
暂无评论...
更新日志
2024年12月27日
2024年12月27日
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]