gin + es 实践 08

news2025/12/17 22:28:34

自动扩缩容

本文档详细介绍如何在Kubernetes环境中实现Go-ES应用的自动扩缩容，包括水平Pod自动扩缩容(HPA)、垂直Pod自动扩缩容(VPA)和集群自动扩缩容。

1. 自动扩缩容概述

自动扩缩容是指根据负载变化自动调整计算资源的过程，主要目标是：

  • 在高负载时自动增加资源，确保应用性能和可用性
  • 在低负载时自动减少资源，优化成本和资源利用率
  • 无需人工干预，系统能够根据实际需求自动调整

Kubernetes提供了多种自动扩缩容机制，适合不同的应用场景和需求。

2. 水平Pod自动扩缩容(HPA)

HPA通过增加或减少Pod副本数来实现应用的水平扩展。

2.1 HPA基本原理

HPA控制器定期（默认15秒）检查指定的指标，并根据目标值计算所需的副本数：

所需副本数 = ceil[当前副本数 * (当前指标值 / 目标指标值)]

2.2 支持的指标类型

  • 资源指标：如CPU和内存使用率
  • 自定义指标：从Kubernetes指标API获取的指标
  • 外部指标：来自Kubernetes集群外部的指标
  • 对象指标：描述Kubernetes对象的指标

2.3 HPA配置示例

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: go-es-api-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: go-es-api
  minReplicas: 2          # 最小副本数
  maxReplicas: 10         # 最大副本数
  behavior:               # 扩缩容行为定制
    scaleUp:
      stabilizationWindowSeconds: 60   # 稳定窗口期
      policies:
      - type: Percent
        value: 100
        periodSeconds: 15
    scaleDown:
      stabilizationWindowSeconds: 300  # 缩容稳定窗口
      policies:
      - type: Percent
        value: 10
        periodSeconds: 60
  metrics:
  - type: Resource        # 基于CPU使用率
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 70
  - type: Resource        # 基于内存使用率
    resource:
      name: memory
      target:
        type: Utilization
        averageUtilization: 80

2.4 针对Go-ES的HPA最佳实践

  1. 为API服务设置HPA：

    • 基于CPU使用率（通常70-80%）
    • 考虑同时监控内存使用率
    • 为请求量大的服务配置较大的副本数范围

  2. 稳定窗口调优：

    • 扩容窗口可以较短（60秒），快速响应负载增加
    • 缩容窗口应较长（300秒以上），避免资源波动

  3. 扩缩策略调优：

    • 扩容策略可以激进一些，例如允许一次增加100%的副本
    • 缩容策略应保守，限制一次减少的副本数或百分比

3. 垂直Pod自动扩缩容(VPA)

VPA自动调整单个Pod的CPU和内存请求与限制，适合无法水平扩展的应用。

3.1 VPA组件

  • Recommender：基于历史和当前资源使用情况计算推荐值
  • Updater：应用推荐的资源设置，必要时重建Pod
  • Admission Controller：修改新创建Pod的资源请求

3.2 VPA配置示例

apiVersion: autoscaling.k8s.io/v1
kind: VerticalPodAutoscaler
metadata:
  name: go-es-mysql-vpa
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: mysql
  updatePolicy:
    updateMode: Auto    # 自动应用推荐
  resourcePolicy:
    containerPolicies:
    - containerName: '*'
      minAllowed:       # 最小资源限制
        cpu: 100m
        memory: 50Mi
      maxAllowed:       # 最大资源限制
        cpu: 1
        memory: 500Mi
      controlledResources: ["cpu", "memory"]

3.3 VPA的应用场景

对于Go-ES项目，VPA适用于：

  1. 数据库服务：MySQL等有状态服务，水平扩展复杂
  2. Elasticsearch节点：资源需求可能随索引大小变化
  3. 批处理任务：如数据导入、报表生成等

3.4 VPA最佳实践

  • 为有状态服务（如MySQL、Elasticsearch）配置VPA
  • 设置合理的资源上下限，避免过度分配或资源不足
  • 谨慎使用Auto模式，考虑使用Initial或Recreate避免频繁重启

4. 集群自动扩缩容(Cluster Autoscaler)

Cluster Autoscaler自动调整Kubernetes集群中的节点数量。

4.1 工作原理

  • 当Pod因资源不足无法调度时，自动添加节点
  • 当节点长时间资源利用率低于阈值时，移除节点（前提是其上Pod可以迁移）

4.2 配置示例（AWS EKS）

apiVersion: apps/v1
kind: Deployment
metadata:
  name: cluster-autoscaler
  namespace: kube-system
spec:
  replicas: 1
  selector:
    matchLabels:
      app: cluster-autoscaler
  template:
    metadata:
      labels:
        app: cluster-autoscaler
    spec:
      serviceAccountName: cluster-autoscaler
      containers:
      - image: k8s.gcr.io/autoscaling/cluster-autoscaler:v1.22.0
        name: cluster-autoscaler
        command:
        - ./cluster-autoscaler
        - --v=4
        - --stderrthreshold=info
        - --cloud-provider=aws
        - --scale-down-utilization-threshold=0.5
        - --scale-down-delay-after-add=10m
        - --skip-nodes-with-local-storage=false
        - --node-group-auto-discovery=asg:tag=k8s.io/cluster-autoscaler/enabled,k8s.io/cluster-autoscaler/<YOUR_CLUSTER_NAME>

4.3 关键参数

  • --scale-down-utilization-threshold：节点利用率低于该值时考虑缩容（默认0.5）
  • --scale-down-delay-after-add：新增节点后多久可以考虑缩容（默认10分钟）
  • --scale-down-unneeded-time：节点空闲多久后可以被移除（默认10分钟）

4.4 实施建议

  • 根据业务负载波动特性设置合理的缩容延迟和阈值
  • 为不同类型的工作负载配置不同的节点组，如计算密集型、内存密集型
  • 配置节点亲和性和污点（Taints），确保特定Pod调度到合适的节点

5. KEDA (Kubernetes Event-driven Autoscaling)

KEDA是一个基于事件的自动扩缩容系统，可以根据外部事件源触发扩缩容。

5.1 KEDA特点

  • 支持扩展到零（零实例运行）和从零扩展
  • 基于多种外部指标来源（Redis、Kafka、RabbitMQ、Prometheus等）
  • 与HPA协同工作，增强其功能

5.2 安装KEDA

# 使用Helm安装
helm repo add kedacore https://kedacore.github.io/charts
helm repo update
helm install keda kedacore/keda --namespace keda --create-namespace

5.3 KEDA配置示例

例如，基于RabbitMQ队列的自动扩缩容：

apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: go-es-worker-scaler
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: go-es-worker
  pollingInterval: 15            # 轮询间隔（秒）
  cooldownPeriod: 30             # 冷却期（秒）
  minReplicaCount: 0             # 最小副本数（可以为零）
  maxReplicaCount: 30            # 最大副本数
  triggers:
  - type: rabbitmq
    metadata:
      protocol: amqp
      queueName: task-queue
      host: amqp://guest:guest@rabbitmq:5672/
      queueLength: '10'          # 每个副本处理的队列消息数

5.4 KEDA适用场景

在Go-ES项目中，KEDA适用于：

  1. 异步任务处理：如索引重建、数据导入等
  2. 消息队列消费：处理用户上传、通知发送等
  3. 批处理作业：报表生成、数据分析等

6. 自动扩缩容实施指南

6.1 资源请求与限制设置

正确设置Pod的资源请求和限制是自动扩缩容的基础：

resources:
  requests:
    cpu: 100m        # 请求CPU资源，作为HPA判断基础
    memory: 128Mi    # 请求内存资源
  limits:
    cpu: 500m        # CPU资源上限
    memory: 512Mi    # 内存资源上限

6.2 应用优化

  1. 无状态设计：确保应用是无状态的，方便水平扩展
  2. 优雅启动和关闭：实现适当的启动和关闭处理，减少扩缩容影响
  3. 就绪探针：配置合适的就绪探针，确保新扩容的Pod就绪后才接收流量
readinessProbe:
  httpGet:
    path: /api/v1/health
    port: 8080
  initialDelaySeconds: 10
  periodSeconds: 5

6.3 Go-ES应用的扩缩容策略

  1. API服务：

    • 使用HPA基于CPU/内存使用率自动扩缩容
    • 设置minReplicas=2确保高可用性

  2. 数据库服务：

    • 使用VPA调整资源分配
    • 不建议使用HPA进行水平扩展

  3. Elasticsearch服务：

    • 结合VPA和Cluster Autoscaler
    • 使用StatefulSet确保稳定性

  4. 异步工作器：

    • 使用KEDA基于队列深度扩缩容
    • 可以配置缩容到零

6.4 监控与告警

  1. Prometheus指标：

    • 监控副本数变化
    • 监控资源使用率
    • 跟踪扩缩容事件

  2. 告警配置：

    • 配置频繁扩缩容告警
    • 设置扩容阈值接近上限告警
    • 监控扩容失败事件

7. 测试与验证

7.1 负载测试

使用如下工具模拟负载测试自动扩缩容：

# 使用hey工具模拟HTTP负载
hey -n 10000 -c 100 http://go-es-api-service/api/v1/products

# 使用JMeter或Locust进行复杂场景测试

7.2 验证扩缩容行为

# 监控Pod副本数变化
kubectl get hpa go-es-api-hpa -w

# 查看自动扩缩容事件
kubectl describe hpa go-es-api-hpa

# 监控节点资源使用率
kubectl top nodes

7.3 生产环境调优

  1. 收集实际负载模式数据
  2. 根据负载模式和响应时间目标调整扩缩容参数
  3. 逐步优化配置，找到资源利用率和性能之间的平衡点

8. 故障排除

8.1 常见问题

  1. HPA不扩容：

    • 检查metrics-server是否正常运行
    • 验证资源请求是否正确设置
    • 检查当前指标是否能正确获取

  2. 缩容太慢：

    • 检查stabilizationWindowSeconds设置
    • 验证缩容策略是否过于保守

  3. 节点自动扩缩容失败：

    • 检查IAM权限（云环境）
    • 验证节点组配置
    • 查看Cluster Autoscaler日志

8.2 调试方法

# 检查HPA状态和当前指标
kubectl describe hpa go-es-api-hpa

# 检查metrics-server是否正常
kubectl get pods -n kube-system | grep metrics-server

# 检查自定义指标可用性
kubectl get --raw "/apis/custom.metrics.k8s.io/v1beta1"

# 查看Cluster Autoscaler日志
kubectl logs -n kube-system -l app=cluster-autoscaler

9. 最佳实践总结

  1. 合理设置阈值：避免过于激进的扩缩容，导致资源波动
  2. 分层扩缩容：结合使用HPA、VPA和Cluster Autoscaler
  3. 根据负载特性调整：不同类型的服务需要不同的扩缩容策略
  4. 监控与反馈：持续监控扩缩容行为，根据实际情况调整
  5. 优雅处理：确保应用能够处理扩缩容过程中的连接迁移和状态转换

通过合理配置这些自动扩缩容机制，您的Go-ES应用可以根据负载自动调整资源，既能满足高峰期需求，又能在低峰期释放资源，实现资源利用率和性能的最佳平衡。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/2374291.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

修改图像分辨率

修改图像分辨率

在这个教程中&#xff0c;您将学习如何使用Python和深度学习技术来调整图像的分辨率。我们将从基础的图像处理技术开始&#xff0c;逐步深入到使用预训练的深度学习模型进行图像超分辨率处理。 一、常规修改方法 1. 安装Pillow库 首先&#xff0c;你需要确保你的Python环境中…
阅读更多...
Redis 主从同步与对象模型（四）

Redis 主从同步与对象模型（四）

目录 1.淘汰策略 1.1 expire/pexpire&#xff08;设置键的过期时间&#xff09; 1.2 配置 1.maxmemory 2.maxmemory-policy 3.maxmemory-samples 2.持久化 2.1背景 2.2 fork 的写时复制机制 2.3 大 key 3.持久化方式 3.1 aof&#xff08;Apped Only File&#xff09…
阅读更多...
Linux系列：如何用perf跟踪.NET程序的mmap泄露

Linux系列：如何用perf跟踪.NET程序的mmap泄露

一&#xff1a;背景 1. 讲故事 如何跟踪.NET程序的mmap泄露&#xff0c;这个问题困扰了我差不多一年的时间&#xff0c;即使在官方的github库中也找不到切实可行的方案&#xff0c;更多海外大佬只是推荐valgrind这款工具&#xff0c;但这款工具底层原理是利用模拟器&#xff…
阅读更多...
如何租用服务器并通过ssh连接远程服务器终端

如何租用服务器并通过ssh连接远程服务器终端

这里我使用的是智算云扉 没有打广告 但确实很便宜 还有二十小时免费额度 链接如下 注册之后 租用新实例 选择操作系统 选择显卡型号 点击租用 选择计费方式 选择镜像 如果跑深度学习的话 就选项目对应的torch版本 没有的话 就创建纯净的cuda 自己安装 点击创建实例 创建之后 …
阅读更多...
华为设备链路聚合实验：网络工程实战指南

华为设备链路聚合实验：网络工程实战指南

链路聚合就像为网络搭建 “并行高速路”&#xff0c;既能扩容带宽&#xff0c;又能保障链路冗余&#xff0c;超实用&#xff01; 一、实验拓扑速览 图中两台交换机 LSW1 和 LSW2&#xff0c;PC1、PC2 归属 VLAN 10&#xff0c;PC3 归属 VLAN 30。LSW1 与 LSW2 通过 GE0/0/1、…
阅读更多...
AUTOSAR图解==＞AUTOSAR_TR_AIDesignPatternsCatalogue

AUTOSAR图解==＞AUTOSAR_TR_AIDesignPatternsCatalogue

AUTOSAR 人工智能设计模式目录 AUTOSAR传感器执行器与仲裁设计模式的深入解析与图解 目录 简介传感器和执行器模式 架构概述组件结构交互流程应用场景 多请求者或提供者之间的仲裁模式 架构概述组件结构仲裁流程应用场景 总结 1. 简介 AUTOSAR&#xff08;AUTomotive Open Sy…
阅读更多...
双系统电脑中如何把ubuntu装进外接移动固态硬盘

双系统电脑中如何把ubuntu装进外接移动固态硬盘

电脑&#xff1a;win11 ubuntu22.04 实体机 虚拟机&#xff1a;VMware17 镜像文件&#xff1a;ubuntu-22.04.4-desktop-amd64.iso 或者 ubuntu20.4的镜像 外接固态硬盘1个 一、首先win11中安装vmware17 具体安装方法&#xff0c;网上很多教程 二、磁盘分区 1.在笔…
阅读更多...
【C语言】程序的预处理，#define详解

【C语言】程序的预处理，#define详解

一、预定义符号 二、#define 1.#define定义标识符 #define &#xff0b; 自定义名称 &#xff0b; 代替的内容 例&#xff1a; #define MAX 100 #define CASE break;case #define CASE break;caseint main() {int n 0;switch (n){case 1:CASE 2:CASE 3:CASE 4:}return …
阅读更多...
NVM完全指南：安装、配置与最佳实践

NVM完全指南：安装、配置与最佳实践

发布于 2025年5月7日 • 阅读时间&#xff1a;10分钟 &#x1f4a1; TL;DR: 本文详细介绍了如何完整卸载旧版Node.js&#xff0c;安装NVM&#xff0c;配置阿里云镜像源&#xff0c;以及设置node_global与node_cache目录&#xff0c;打造高效Node.js开发环境。 &#x1f4cb; 目…
阅读更多...
（二）毛子整洁架构（CQRS/Dapper/领域事件处理器/垂直切片）

（二）毛子整洁架构（CQRS/Dapper/领域事件处理器/垂直切片）

文章目录 项目地址一、Application 层1.1 定义CQRS的接口以及其他服务1. Command2. IQuery查询3. 当前时间服务接口4. 邮件发送服务接口 1.2 ReserveBooking Command1. 处理传入的参数2. ReserveBookingCommandHandler3. BookingReservedDomainEvent 1.3 Query使用Sql查询1. 创…
阅读更多...
如何修改MySQL数据库密码

如何修改MySQL数据库密码

文章目录 一、忘记数据库密码该如何修改1. 关闭数据库的服务2.跳过安全检查3. 重置密码4.查询用户是否存在5.退出验证密码是否正确 二、未忘记密码该如何修改密码1.直接修改密码2.登录mysql 时间久了&#xff0c;忘记数据库密码了。。。。。 一、忘记数据库密码该如何修改 1. …
阅读更多...
【Python】mat npy npz 文件格式

【Python】mat npy npz 文件格式

1、简介 MAT 文件和 NP&#xff08;.npy 或 .npz&#xff09;文件是两种不同的格式&#xff0c;用于存储数组数据。它们分别由 MATLAB 和 NumPy 开发&#xff0c;主要用于各自环境中的数据存储和交换。以下是这两种格式的主要区别&#xff1a; 1.1 格式和用途 MAT 文件&…
阅读更多...
SpringBoot快速入门WebSocket(​​JSR-356附Demo源码)

SpringBoot快速入门WebSocket(​​JSR-356附Demo源码)

现在我想写一篇Java快速入门WebSocket,就使用 JSR-356的websocket,我想分以下几点, 1. websocket介绍, 1.1 介绍 什么是WebSocket&#xff1f;​​ WebSocket 是一种基于 ​​TCP​​ 的​​全双工通信协议​​&#xff0c;允许客户端和服务器在​​单个长连接​​上实…
阅读更多...
【安装配置教程】ubuntu安装配置Kodbox

【安装配置教程】ubuntu安装配置Kodbox

目录 一、引言 二、环境配置 1. 服务器配置​ 2. 必备组件​ 三、安装基础环境​ 1. 安装 PHP 8.1 及扩展​ 2. 安装 MySQL 数据库 3.安装 Redis&#xff08;可选&#xff0c;提升缓存性能&#xff09; 4. 配置nginx文件 4.1. 创建 Kodbox 站点目录​ 4.2. 编写 Ng…
阅读更多...
LabVIEW车牌自动识别系统

LabVIEW车牌自动识别系统

在智能交通快速发展的时代&#xff0c;车牌自动识别系统成为提升交通管理效率的关键技术。本案例详细介绍了基于 LabVIEW 平台&#xff0c;搭配大恒品牌相机构建的车牌自动识别系统&#xff0c;该系统在多个场景中发挥着重要作用&#xff0c;为交通管理提供了高效、精准的解决方…
阅读更多...
c语言第一个小游戏：贪吃蛇小游戏01

c语言第一个小游戏：贪吃蛇小游戏01

hello啊大家好 今天我们用一个小游戏来增强我们的c语言&#xff01; 那就是贪吃蛇 为什么要做一个贪吃蛇小游戏呢&#xff1f; 因为这个小游戏所涉及到的知识有c语言的指针、数组、链表、函数等等可以让我们通过这个游戏来巩固c语言&#xff0c;进一步认识c语言。 一.我们先…
阅读更多...
[项目总结] 抽奖系统项目技术应用总结

[项目总结] 抽奖系统项目技术应用总结

&#x1f338;个人主页:https://blog.csdn.net/2301_80050796?spm1000.2115.3001.5343 &#x1f3f5;️热门专栏: &#x1f9ca; Java基本语法(97平均质量分)https://blog.csdn.net/2301_80050796/category_12615970.html?spm1001.2014.3001.5482 &#x1f355; Collection与…
阅读更多...
机器视觉的平板电脑屏幕组件覆膜应用

机器视觉的平板电脑屏幕组件覆膜应用

在现代智能制造业中&#xff0c;平板电脑屏幕组件覆膜工序是确保产品外观和功能完整性的重要环节。随着技术的进步&#xff0c;传统的覆膜方式已经无法满足高速度、高精度的生产需求。而MasterAlign视觉系统的出现&#xff0c;将传统覆膜工艺转变为智能化、自动化的生产流程。在…
阅读更多...
更换内存条会影响电脑的IP地址吗？——全面解析

更换内存条会影响电脑的IP地址吗？——全面解析

在日常电脑维护和升级过程中&#xff0c;许多用户都会遇到需要更换内存条的情况。与此同时&#xff0c;不少用户也担心硬件更换是否会影响电脑的网络配置&#xff0c;特别是IP地址的设置。本文将详细探讨更换内存条与IP地址之间的关系&#xff0c;帮助读者理解这两者之间的本质…
阅读更多...
VMware安装CentOS Stream10

VMware安装CentOS Stream10

文章目录 安装下载iso文件vmware安装CentOS Stream创建新虚拟机安装CentOS Stream10 安装 下载iso文件 官方地址&#xff1a;跳转链接 vmware安装CentOS Stream 创建新虚拟机 参考以下步骤 安装CentOS Stream10 指定ISO文件 开启虚拟机选择Install CentOS Stream 10 鼠…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023