Pytorch图像去噪实战(八十二):Redis分布式限流实战,防止单用户高频调用拖垮服务
Pytorch图像去噪实战(八十二):Redis分布式限流实战,防止单用户高频调用拖垮服务一、问题场景:一个用户疯狂调用接口,把所有人都拖慢了前面我们做了用户配额系统,限制每日调用量。但每日额度不能解决所有问题。比如某个用户一天有 1000 次额度,但他在 1 分钟内全部打过来:1000个请求瞬间进入服务结果可能是:FastAPI worker 被占满GPU 队列堆积普通用户请求变慢Nginx 超时Celery 队列暴涨所以除了每日配额,还必须做:短时间请求频率限制,也就是限流。二、限流和配额有什么区别?配额控制长期总量:每天最多1000次限流控制短时间速率:每分钟最多30次两者都需要。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2613205.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!