接口限频算法:漏桶算法、令牌桶算法、滑动窗口算法

news2025/6/8 13:04:51

文章目录

  • 限频三大算法对比与选型建议
  • 一、漏桶算法(Leaky Bucket Algorithm)
    • 1.核心原理
    • 2.实现
    • 3.为什么要限制漏桶容量
    • 4.优缺点分析
  • 二、令牌桶算法(Token Bucket Algorithm)
    • 1.核心原理
    • 2.实现
      • (1)单机实现
      • (2)分布式实现
    • 3.优缺点分析
  • 三、滑动窗口算法(Sliding Window Algorithm)
    • 1.核心原理
    • 2.实现
    • 3.优缺点分析

限频三大算法对比与选型建议

维度漏桶算法令牌桶算法滑动窗口算法
流量平滑性强(固定速率)中(允许突发)弱(依赖窗口粒度)
实现复杂度简单中等(需处理令牌生成)中等(需处理窗口滑动)

一、漏桶算法(Leaky Bucket Algorithm)

1.核心原理

漏桶算法的核心是恒定速率输出,无论输入流量如何波动,输出始终保持稳定。其工作机制可类比为一个底部有固定孔径的水桶:

  • 输入:请求以任意速率流入桶中(如突发流量)。
  • 输出:桶以固定速率(如100请求/秒)处理请求,超出桶容量的请求直接丢弃。

2.实现

  • 实现:使用队列存储请求,通过定时任务以固定速率从队列中取出请求处理。若队列满则拒绝新请求。

在非单节点场景下,可使用消息队列中间件,或者Redis模拟队列,来实现这个算法。

3.为什么要限制漏桶容量

有容量限制 vs 无容量限制:对比分析

场景有容量限制(标准漏桶)无容量限制(无限漏桶)
流量平滑效果✅ 稳定输出,突发请求被缓存或丢弃✅ 稳定输出(但突发请求全部缓存)
内存/缓冲区占用🟡 有限占用(取决于桶容量)❌ 可能无限占用,导致OOM(内存溢出)
突发流量处理🟡 超过容量的请求被丢弃,保护下游系统❌ 缓存所有请求,下游可能被持续高负载拖垮
适用场景真实系统(如API接口限频、网络流量控制)理论场景(无实际意义,无法用于生产环境)

4.优缺点分析

  • 优点
    • 绝对平滑:严格控制输出速率,适合对稳定性要求极高的场景(如金融交易接口)。
    • 实现简单:只需维护队列和固定速率处理器,无需复杂逻辑。
  • 缺点
    • 资源浪费:突发流量会被直接丢弃,无法利用系统空闲资源。
    • 灵活性差:无法区分请求优先级,所有超额请求同等处理。

二、令牌桶算法(Token Bucket Algorithm)

1.核心原理

令牌桶算法通过令牌生成与消耗实现限流,允许一定程度的突发流量:

  • 令牌生成:系统以固定速率(如100令牌/秒)向桶中添加令牌,桶容量上限为burst_size(如200令牌)。
  • 请求处理:每个请求需消耗一个令牌,无令牌则拒绝。若桶满,新生成的令牌会被丢弃。

2.实现

(1)单机实现

Guava的RateLimiter采用令牌桶算法,支持动态调整速率和突发容量。

RateLimiter rateLimiter = RateLimiter.create(100.0); // 每秒生成100令牌
if (rateLimiter.tryAcquire()) { // 尝试获取令牌
    // 处理请求
} else {
    // 限流
}

(2)分布式实现

在分布式系统中,可以利用 Redis 的原子操作和 Lua 脚本来实现一个线程安全的令牌桶。

  • 使用 Redis 实现令牌桶的关键在于:
    • 使用原子操作保证令牌增减的线程安全
    • 实现令牌的自动生成逻辑
    • 高效地判断是否允许请求通过
原子操作
允许
拒绝
获取令牌数与时间戳
执行Lua脚本
计算时间差
计算新生成令牌数
计算当前可用令牌数
判断是否足够?
消耗令牌
拒绝请求
更新Redis状态
返回处理结果
客户端请求
获取当前时间戳
拼接Redis键
是否允许?
执行业务逻辑
返回限流响应

3.优缺点分析

  • 优点
    • 支持突发流量:允许短时间内消耗桶内累积的令牌,提升资源利用率(如电商秒杀)。
    • 参数灵活:可通过调整rate(平均速率)和burst_size(突发容量)平衡平滑性与突发性。
  • 缺点
    • 实现复杂度较高:需维护令牌生成、存储和消耗逻辑。
    • 流量尖刺风险:突发流量可能瞬间耗尽令牌,导致后续请求被拒绝。

三、滑动窗口算法(Sliding Window Algorithm)

1.核心原理

滑动窗口算法通过时间窗口划分与计数实现限流,精度随窗口细分而提升:

  • 窗口划分:将时间轴划分为多个固定长度的子窗口(如1秒划分为10个0.1秒的子窗口)。
  • 计数与滑动:统计当前窗口内的请求数,当窗口滑动时,旧子窗口的计数逐渐过期。

2.实现

在分布式系统中,可以利用 Redis 的原子操作和 Lua 脚本来实现一个这个算法。

Redis Lua脚本逻辑
获取窗口内所有时间戳
通过Lua脚本操作Redis
移除过期时间戳< current_time - T
添加当前时间戳到窗口
统计窗口内时间戳数量
判断数量是否超过阈值N
客户端请求
获取当前时间戳
生成窗口键key
拒绝请求
允许请求

3.优缺点分析

  • 优点
    • 时间敏感性强:可精确控制时间维度的请求频率(如“每分钟最多100次”)。
    • 动态调整窗口:支持秒级、分钟级等不同粒度的限流规则。
  • 缺点
    • 临界问题:窗口切换时可能出现双倍请求(如0.9秒和1.1秒各发100次)。
    • 分布式同步成本:需依赖Redis等分布式缓存,引入额外延迟。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2404161.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Spring Boot 3.3 + MyBatis 基础教程:从入门到实践

Spring Boot 3.3 MyBatis 基础教程&#xff1a;从入门到实践 在当今的Java开发领域&#xff0c;Spring Boot和MyBatis是构建高效、可维护的后端应用的两个强大工具。Spring Boot简化了Spring应用的初始搭建和开发过程&#xff0c;而MyBatis则提供了一种灵活的ORM&#xff08;…

征文投稿:如何写一份实用的技术文档?——以软件配置为例

&#x1f4dd; 征文投稿&#xff1a;如何写一份实用的技术文档&#xff1f;——以软件配置为例 目录 [TOC](目录)&#x1f9ed; 技术文档是通往成功的“说明书”&#x1f4a1; 一、明确目标读者&#xff1a;他们需要什么&#xff1f;&#x1f4cb; 二、结构清晰&#xff1a;让读…

tensorflow image_dataset_from_directory 训练数据集构建

以数据集 https://www.kaggle.com/datasets/vipoooool/new-plant-diseases-dataset 为例 目录结构 训练图像数据集要求&#xff1a; 主目录下包含多个子目录&#xff0c;每个子目录代表一个类别。每个子目录中存储属于该类别的图像文件。 例如 main_directory/ ...cat/ ...…

GOOUUU ESP32-S3-CAM 果云科技开发板开发指南(一)(超详细!)Vscode+espidf 通过摄像头拍摄照片并存取到SD卡中,文末附源码

看到最近好玩的开源项目比较多&#xff0c;就想要学习一下esp32的开发&#xff0c;目前使用比较多的ide基本上是arduino、esp-idf和platformio&#xff0c;前者编译比较慢&#xff0c;后两者看到开源大佬的项目做的比较多&#xff0c;所以主要学习后两者。 本次使用的硬件是GO…

全流程开源!高德3D贴图生成系统,白模一键生成真实感纹理贴图

导读 MVPainter 随着3D生成从几何建模迈向真实感还原&#xff0c;贴图质量正逐渐成为决定3D资产视觉表现的核心因素。我们团队自研的MVPainter系统&#xff0c;作为业内首个全流程开源的3D贴图生成方案&#xff0c;仅需一张参考图与任意白模&#xff0c;即可自动生成对齐精确…

html 滚动条滚动过快会留下边框线

滚动条滚动过快时&#xff0c;会留下边框线 但其实大部分时候是这样的&#xff0c;没有多出边框线的 滚动条滚动过快时留下边框线的问题通常与滚动条样式和滚动行为有关。这种问题可能出现在使用了自定义滚动条样式的情况下。 注意&#xff1a;使用方法 6 好使&#xff0c;其它…

数据通信与计算机网络——数据与信号

主要内容 模拟与数字 周期模拟信号 数字信号 传输减损 数据速率限制 性能 注&#xff1a;数据必须被转换成电磁信号才能进行传输。 一、模拟与数字 数据以及表示数据的信号可以使用模拟或者数字的形式。数据可以是模拟的也可以是数字的&#xff0c;模拟数据是连续的采用…

【LLM大模型技术专题】「入门到精通系列教程」LangChain4j与Spring Boot集成开发实战指南

LangChain4j和SpringBoot入门指南 LangChain4jLangchain4j API语言模型消息类型内存对象ChatMemory接口的主要实现设置 API 密钥SpringBoot Configuration配置ChatLanguageModelStreamingChatLanguageModel初始化ChatModel对象模型配置分析介绍说明通过JavaConfig创建ChatModel…

Vue3 GSAP动画库绑定滚动条视差效果 绑定滚动条 滚动条动画 时间轴

介绍 GSAP 用于创建高性能、可控制的动画效果。由 GreenSock 团队开发&#xff0c;旨在提供流畅、快速、稳定的动画效果&#xff0c;并且兼容各种浏览器。 提供了多个插件&#xff0c;扩展了动画的功能&#xff0c;如 ScrollTrigger&#xff08;滚动触发动画&#xff09;、Dra…

grafana-mcp-analyzer:基于 MCP 的轻量 AI 分析监控图表的运维神器!

还在深夜盯着 Grafana 图表手动排查问题&#xff1f;今天推荐一个让 AI 能“读图说话”的开源神器 —— grafana-mcp-analyzer。 想象一下这样的场景&#xff1a; 凌晨3点&#xff0c;服务器告警响起。。。你睁着惺忪的眼睛盯着复杂的监控图表 &#x1f635;‍&#x1f4ab;花…

【题解-洛谷】B3622 枚举子集(递归实现指数型枚举)

题目&#xff1a;B3622 枚举子集&#xff08;递归实现指数型枚举&#xff09; 题目描述 今有 n n n 位同学&#xff0c;可以从中选出任意名同学参加合唱。 请输出所有可能的选择方案。 输入格式 仅一行&#xff0c;一个正整数 n n n。 输出格式 若干行&#xff0c;每行…

(LeetCode 每日一题)3170. 删除星号以后字典序最小的字符串(贪心+栈)

题目&#xff1a;3170. 删除星号以后字典序最小的字符串 思路&#xff1a;贪心栈&#xff0c;时间复杂度0(n)。 对于每一个‘ * ’&#xff0c;优先选最右边的最小字符&#xff0c;才会使最终得到的字符串最小。 用栈&#xff0c;来记录每个字符的位置下标。细节看注释。 C版本…

使用 HTML + JavaScript 实现文章逐句高亮朗读功能

在这个信息爆炸的时代&#xff0c;我们每天都要面对大量的文字阅读。无论是学习、工作还是个人成长&#xff0c;阅读都扮演着至关重要的角色。然而&#xff0c;在快节奏的生活中&#xff0c;我们往往难以找到足够的安静时间专注于阅读。本文用 HTML JavaScript 实现了一个基于…

双碳时代,能源调度的难题正从“发电侧”转向“企业侧”

安科瑞刘鸿鹏 摘要 在“双碳”战略和能源结构转型的大背景下&#xff0c;企业储能电站逐步成为提升能源利用效率、增强用能韧性的重要手段。随着系统规模扩大与运行复杂度提升&#xff0c;如何对光伏、储能、负荷等流进行实时调控&#xff0c;成为智慧用能的关键。ACCU100微…

3. 简述node.js特性与底层原理

&#x1f63a;&#x1f63a;&#x1f63a; 一、Node.js 底层原理&#xff08;简化版&#xff09; Node.js 是一个 基于 Chrome V8 引擎构建的 JavaScript 运行时&#xff0c;底层核心由几部分组成&#xff1a; 组成部分简要说明 1.V8 引擎 将 JS 编译成机器码执行&#xff0…

OpenCV CUDA模块图像处理------创建一个模板匹配(Template Matching)对象函数createTemplateMatching()

操作系统&#xff1a;ubuntu22.04 OpenCV版本&#xff1a;OpenCV4.9 IDE:Visual Studio Code 编程语言&#xff1a;C11 算法描述 创建一个用于在 GPU 上执行模板匹配的 TemplateMatching 对象。 该函数返回一个指向 TemplateMatching 的智能指针&#xff08;Ptr&#xff09;…

【Kubernetes】K8s 之 ETCD - 恢复备份

ETCD 是一个高可用的分布式键值存储&#xff0c;常用于存储配置信息和服务发现等。当系统出现故障或数据损坏时&#xff0c;能够快速恢复成先前的状态是维护系统稳定性的关键。ETCD 提供了备份和恢复功能&#xff0c;以确保数据持久性和可靠性&#xff0c;一起来看看如何操作吧…

RabbitMQ 学习

MQ 的相关概念 什么是 MQ MQ&#xff08;message queue&#xff09;&#xff0c;从字面意思上看&#xff0c;本质是个队列&#xff0c;FIFO 先入先出&#xff0c;只不过队列中存放的内容是 message 而已&#xff0c;还是一种跨进程的通信机制&#xff0c;用于上下游传递消息。…

如何轻松、安全地管理密码(新手指南)

很多人会为所有账户使用相同、易记的密码&#xff0c;而且常常多年不换。虽然这样方便记忆&#xff0c;但安全性非常低。 您可能听说过一些大型网站的信息泄露事件&#xff0c;同样的风险也可能存在于您的WordPress网站中。如果有不法分子获取了访问权限&#xff0c;您的网站和…

AWS App Mesh实战:构建可观测、安全的微服务通信解决方案

摘要&#xff1a;本文详解如何利用AWS App Mesh统一管理微服务间通信&#xff0c;实现精细化流量控制、端到端可观测性与安全通信&#xff0c;提升云原生应用稳定性。 一、什么是AWS App Mesh&#xff1f; AWS App Mesh 是一种服务网格&#xff08;Service Mesh&#xff09;解…