K8s pod 动态弹性扩缩容 HPA

news2025/7/23 19:03:54

一、概述

Horizontal Pod Autoscaler（HPA，Pod水平自动伸缩），根据平均 CPU 利用率、平均内存利用率或你指定的任何其他自定义指标自动调整 Deployment 、ReplicaSet 或 StatefulSet 或其他类似资源，实现部署的自动扩展和缩减，让部署的规模接近于实际服务的负载。HPA不适用于无法缩放的对象，例如DaemonSet。

官方文档：https://kubernetes.io/zh-cn/docs/tasks/run-application/horizontal-pod-autoscale/

实际生产中，一般使用这四类指标：

  1. Resource metrics——CPU核 和 内存利用率指标。

  1. Pod metrics——例如网络利用率和流量。

  1. Object metrics——特定对象的指标，比如Ingress, 可以按每秒使用请求数来扩展容器。

  1. Custom metrics——自定义监控，比如通过定义服务响应时间，当响应时间达到一定指标时自动扩容。

二、安装 metrics-server

1）HPA 前提条件

默认情况下，Horizontal Pod Autoscaler 控制器会从一系列的 API 中检索度量值。集群管理员需要确保下述条件，以保证 HPA 控制器能够访问这些 API：

  • 对于资源指标，将使用 metrics.k8s.io API，一般由 metrics-server 提供。它可以作为集群插件启动。

  • 对于自定义指标，将使用 custom.metrics.k8s.io API。它由其他度量指标方案厂商的“适配器（Adapter）” API 服务器提供。检查你的指标管道以查看是否有可用的 Kubernetes 指标适配器。

  • 对于外部指标，将使用 external.metrics.k8s.io API。可能由上面的自定义指标适配器提供。

Kubernetes Metrics Server：

  • Kubernetes Metrics Server 是 Cluster 的核心监控数据的聚合器，kubeadm 默认是不部署的。

  • Metrics Server 供 Dashboard 等其他组件使用，是一个扩展的 APIServer，依赖于 API Aggregator。所以，在安装 Metrics Server 之前需要先在 kube-apiserver 中开启 API Aggregator。

  • Metrics API 只可以查询当前的度量数据，并不保存历史数据。

  • Metrics API URI 为 /apis/metrics.k8s.io/，在 k8s.io/metrics 下维护。

  • 必须部署 metrics-server 才能使用该 API，metrics-server 通过调用 kubelet Summary API 获取数据。

2）开启 API Aggregator

# 添加这行# --enable-aggregator-routing=true### 修改每个 API Server 的 kube-apiserver.yaml 配置开启 Aggregator Routing：修改 manifests 配置后 API Server 会自动重启生效。cat /etc/kubernetes/manifests/kube-apiserver.yaml

3）开始安装 metrics-server

GitHub地址：https://github.com/kubernetes-sigs/metrics-server/releases

下载

wget https://github.com/kubernetes-sigs/metrics-server/releases/download/metrics-server-helm-chart-3.8.2/components.yaml

修改

...  template:    metadata:      labels:        k8s-app: metrics-server    spec:      containers:      - args:        - --cert-dir=/tmp        - --secure-port=4443        - --kubelet-preferred-address-types=InternalIP,ExternalIP,Hostname        - --kubelet-use-node-status-port        - --kubelet-insecure-tls                    #   加上该启动参数，不加可能会报错        image: registry.aliyuncs.com/google_containers/metrics-server:v0.6.1   # 镜像地址根据情况修改        imagePullPolicy: IfNotPresent...
metrics-server pod无法启动，出现日志unable to fully collect metrics: ... x509: cannot validate certificate for because ... it doesn't contain any IP SANs ...
解决方法：在metrics-server中添加--kubelet-insecure-tls参数跳过证书校验

开始安装

kubectl apply -f components.yamlkubectl get pod -n kube-system | grep metrics-server# 查看kubectl get pod -n kube-system | grep metrics-server# 查看node和pod资源使用情况kubectl top nodeskubectl top pods

三、Horizontal Pod Autoscaler 工作原理

1）原理架构图

  • 自动检测周期由 kube-controller-manager 的 --horizontal-pod-autoscaler-sync-period 参数设置（默认间隔为 15 秒）。

  • metrics-server 提供 metrics.k8s.io API 为pod资源的使用提供支持。

  • 15s/周期 -> 查询metrics.k8s.io API -> 算法计算 -> 调用scale 调度 -> 特定的扩缩容策略执行。

2）HPA扩缩容算法

从最基本的角度来看，Pod 水平自动扩缩控制器根据当前指标和期望指标来计算扩缩比例。 
期望副本数 = ceil[当前副本数 * (当前指标 / 期望指标)]

1、扩容

  • 如果计算出的扩缩比例接近 1.0, 将会放弃本次扩缩, 度量指标 / 期望指标接近1.0。

2、缩容

  • 冷却/延迟: 如果延迟（冷却）时间设置的太短，那么副本数量有可能跟以前一样出现抖动。默认值是 5 分钟（5m0s）--horizontal-pod-autoscaler-downscale-stabilization

3、特殊处理

  • 丢失度量值：缩小时假设这些 Pod 消耗了目标值的 100%， 在需要放大时假设这些 Pod 消耗了 0% 目标值。这可以在一定程度上抑制扩缩的幅度。

  • 存在未就绪的pod的时候：我们保守地假设尚未就绪的 Pod 消耗了期望指标的 0%，从而进一步降低了扩缩的幅度。

  • 未就绪的 Pod 和缺少指标的 Pod 考虑进来再次计算使用率。如果新的比率与扩缩方向相反，或者在容忍范围内，则跳过扩缩。否则，我们使用新的扩缩比例。

  • 指定了多个指标， 那么会按照每个指标分别计算扩缩副本数，取最大值进行扩缩。

3）HPA 对象定义

apiVersion:autoscaling/v2beta2kind:HorizontalPodAutoscalermetadata:name:nginxspec:behavior:scaleDown:policies:-type:Podsvalue:4periodSeconds:60-type:Percentvalue:10periodSeconds:60stabilizationWindowSeconds:300scaleTargetRef:apiVersion:apps/v1kind:Deploymentname:nginxminReplicas:1maxReplicas:10metrics:-type:Resourceresource:name:cputarget:type:UtilizationaverageUtilization:50

HPA对象默认行为

behavior:  scaleDown:    stabilizationWindowSeconds: 300    policies:    - type: Percent      value: 100      periodSeconds: 15  scaleUp:    stabilizationWindowSeconds: 0    policies:    - type: Percent      value: 100      periodSeconds: 15    - type: Pods      value: 4      periodSeconds: 15    selectPolicy: Max

四、示例演示

1）编排yaml

apiVersion: autoscaling/v2kind: HorizontalPodAutoscalermetadata:  name: hpa-nginxspec:  maxReplicas: 10 # 最大扩容到10个节点（pod）  minReplicas: 1 # 最小扩容1个节点（pod）  metrics:  - resource:      name: cpu      target:        averageUtilization: 40 # CPU 平局资源使用率达到40%就开始扩容，低于40%就是缩容# 设置内存# AverageValue：40type: Utilizationtype: Resource  scaleTargetRef:    apiVersion: apps/v1    kind: Deployment    name: hpa-nginx---apiVersion: v1kind: Servicemetadata:  name: hpa-nginxspec:type: NodePort  ports:    - name: "http"      port: 80      targetPort: 80      nodePort: 30080  selector:    service: hpa-nginx---apiVersion: apps/v1kind: Deploymentmetadata:  name: hpa-nginxspec:  replicas: 1  selector:    matchLabels:      service: hpa-nginx  template:    metadata:      labels:        service: hpa-nginx    spec:      containers:        - name: hpa-nginx          image: nginx:latest          resources:            requests:              cpu: 100m              memory: 100Mi            limits:              cpu: 200m              memory: 200Mi

主要参数解释如下：

  • scaleTargetRef：目标作用对象，可以是Deployment、ReplicationController或ReplicaSet。

  • minReplicas和maxReplicas：Pod副本数量的最小值和最大值，系统将在这个范围内进行自动扩缩容操作，并维持每个Pod的内存使用率为40%，这个值就是上面设置的阈值averageUtilization。

  • metrics：目标指标值。在metrics中通过参数type定义指标的类型；通过参数target定义相应的指标目标值，系统将在指标数据达到目标值时（考虑容忍度的区间，见前面算法部分的说明）触发扩缩容操作。

  • 对于CPU使用率，在target参数中设置averageUtilization定义目标平均CPU使用率。

  • 对于内存资源，在target参数中设置AverageValue定义目标平均内存使用值。

执行

kubectl apply -f test.yaml

2）使用 ab 工具进行压测

进入apache官网 http://httpd.apache.org/ 下载apache即可，或者直接通过yum安装apache都行，这里选择最简单的方式yum安装

yum install httpd -y

开始压测

ab -n 100000 -c 800 http://local-168-182-112:30080/#-c：并发数#-n：总请求数

从上图发现已经实现了根据CPU 动态扩容了

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/394897.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

算法练习-二分查找(二）

算法练习-二分查找(二）

算法练习-二分查找(二） 文章目录算法练习-二分查找(二）1 二分查找1.1 题目1.2 题解2 猜数字大小2.1 题目2.2 题解3 寻找比目标字母大的最小字母3.1 题目3.2题解4 搜索插入位置4.1 题目4.2 题解5 在排序数组中查找元素的第一个和最后一个位置5.1 题目5.2 …
阅读更多...
34- PyTorch数据增强和迁移学习 (PyTorch系列) (深度学习)

34- PyTorch数据增强和迁移学习 (PyTorch系列) (深度学习)

知识要点 对vgg 模型进行迁移学习定义数据路径: train_dir os.path.join(base_dir, train) # base_dir ./dataset 定义转换格式: transform transforms.Compose([transforms.Resize((96, 96)), # 统一缩放transforms.ToTensor(), # 转换为tensortransforms.No…
阅读更多...
如何查找你的IP地址？通过IP地址能直接定位到你家！

如何查找你的IP地址？通过IP地址能直接定位到你家！

我们ip地址分为A、B、C、D、E共5类，每一类地址范围不同，从A到Eip地址范围依次递减，其中哦，D和E是保留地址，我们用不了。A、B、C3类地址很多都被美国这样的西方国家分走了，而留给我们的就剩有限的地址了&…
阅读更多...
记一次接口远程调用异常排查链路 Remote peer closed connection before all data could be read

记一次接口远程调用异常排查链路 Remote peer closed connection before all data could be read

前言： 异常信息： java.io.IOException: UT000128: Remote peer closed connection before all data could be read 在九月份-十月初一直都被这个问题困扰～ 排查链路 第一次、二次、三次排查该问题： 当时看到”Remote peer c…
阅读更多...
支持在局域网使用的项目管理系统有哪些？5款软件对比

支持在局域网使用的项目管理系统有哪些？5款软件对比

一、选择私有部署的原因以及该方案的优点有很多可能的原因导致人们更倾向于使用私有部署的企业管理软件，其中一些原因可能包括：1.数据安全性要求：一些企业管理软件包含敏感的商业数据和隐私信息，为了保护这些信息不被未经授权的第…
阅读更多...
MyBatisPlus中的条件构造器Wrapper

MyBatisPlus中的条件构造器Wrapper

引言为什么要了解Wrapper？Wrapper解决的了什么问题？一、Wrapper：条件构造抽象类，用来解决单表操作出现的一些复杂问题,例如排序，和模糊查询等等结构图文字解释AbstractWrapper ： 用于查询条件封装&#xff…
阅读更多...
java设计模式学习

java设计模式学习

一、设计模式7大原则1.单一职责原则 (Single Responsibility Principle) 在类级别和方法级别进行职责规划，专人专事2.开放-关闭原则 (Open-Closed Principle) 增加接口功能时，尽可能不要修改原有代码3.里氏替换原则 (Liskov Substitution Principle) 子类…
阅读更多...
华为HCIE学习之Openstack keystone组件

华为HCIE学习之Openstack keystone组件

文章目录一、keystone对象模型二、使用token的好处Token的实现模式1、UUID Token,每次验证需要访问keystone服务端2、PKI Token 验证，在客户端即可完成 发放公钥 私钥解密3、RBAC三、policy.json权限实验一、keystone对象模型 二、使用token的好处 1、token缓存在客…
阅读更多...
什么是数字化？企业如何实现数字化？

什么是数字化？企业如何实现数字化？

随着社会的发展与时代的进步，以生产为核心的企业也在进行不断的创新，而新一代信息技术的应用深化，制造业迎来了数字化转型新机遇。数字化转型近些年更多的被提及，越来越多的企业想通过数字化的转型，降低企业运营成本&a…
阅读更多...
《Ansible变量篇：ansible中事实变量facts》

《Ansible变量篇：ansible中事实变量facts》

一、简介 facts组件是ansible用于采集被管理机器设备信息的一个功能, 采集的机器设备信息主要包含IP地址,操作系统,以太网设备,mac地址,时间/日期相关数据,硬件信息等。 ansible有一个模块叫setup,用于获取远程主机的相关信息,并可以将这些信息作为变量在playbook里进行调用,而…
阅读更多...
【python】剑指offer代码大集合

【python】剑指offer代码大集合

剑指 Offer（第 2 版） https://leetcode.cn/problem-list/xb9nqhhg/ 剑指 Offer 03. 数组中重复的数字 https://leetcode.cn/problems/shu-zu-zhong-zhong-fu-de-shu-zi-lcof/ # 法1：哈希表（Set） class Solution:def findRepeatNumber(self, nums: [
阅读更多...
CentOS8基础篇12：使用RPM管理telnet-server软件包

CentOS8基础篇12：使用RPM管理telnet-server软件包

一、RPM包管理工具简介 RedHat软件包管理工具(RedHat Package Manager，RPM) RPM软件包工具常用于软件包的安装、查询、更新升级、校验、卸载以及生成.rpm格式的软件包等操作。 RPM软件包工具只能管理后缀是.rpm的软件包。软件包的命名格式： 软件名称…
阅读更多...
java 实现pgsql数据库免密备份 Windows版本

java 实现pgsql数据库免密备份 Windows版本

阐述下背景： 最近公司项目中有个功能模块，需要使用java实现pgsql数据库整库的数据备份，没有pgsql使用经验的我，在网上寻找了好多大神的帖子，也没发现适合自己当前场景的解决方案，但是我把大神们的帖子按照自…
阅读更多...
某开源远程办公软件安装配置说明

某开源远程办公软件安装配置说明

******是开源软件，只需要简单的配置，就可以在企业搭建SSL VPN，满足日常远程办公的需求。本篇文档为在windows服务器安装搭建openvpn记录，仅供参考。 拓扑说明 使用虚拟机进行测试，主机操作系统Windows 10和m0n0。模拟…
阅读更多...
【Java|golang】1247. 交换字符使得字符串相同

【Java|golang】1247. 交换字符使得字符串相同

有两个长度相同的字符串 s1 和 s2，且它们其中 只含有 字符 “x” 和 “y”，你需要通过「交换字符」的方式使这两个字符串相同。 每次「交换字符」的时候，你都可以在两个字符串中各选一个字符进行交换。 交换只能发生在两个不同的字符串之间…
阅读更多...
JavaEE简单示例——MyBatis的缓存机制

JavaEE简单示例——MyBatis的缓存机制

简单介绍： 缓存机制的存在，是为了当我们在执行重复的SQL代码的时候，不需要重新向数据库进行访问，而是将之前查询的结果存放在内存当中，从而减少我们重复的获取数据库连接进行查询时候消耗的资源，是一种加快…
阅读更多...
内容产品项目作品 || 项目背景及需求分析（一）

内容产品项目作品 || 项目背景及需求分析（一）

一、项目背景介绍 如果让大家来做一个没接触过的产品，思路： 先了解产品所在的行业，多看看第三方的行业研究的文章了解产品的主要竞品，这样做产品设计的时候不会乱搞 常见的内容产品形态：图文、音视频、直播等 二、…
阅读更多...
走!来学习配置基于IP子网划分VLAN

走!来学习配置基于IP子网划分VLAN

划分VLAN的方式有：基于接口、基于MAC地址、基于子网、基于协议、基于策略（MAC地址、IP地址、接口） 基于IP子网划分VLAN经常适用于对安全需求不高、对移动性和简易管理需求较高的场景中。比如，一台PC配置多个IP地址分别访问不同网段…
阅读更多...
Traefik v2.9-IngressRoute

Traefik v2.9-IngressRoute

文章目录简介资源交付创建CRD和RBAC创建ConfigMap创建Deployment创建Service创建traefik-dashboard-ingressroute简介 The Kubernetes Ingress Controller, The Custom Resource Way. In early versions, Traefik supported Kubernetes only through the Kubernetes Ingress …
阅读更多...
Android SurfaceTexture说明

Android SurfaceTexture说明

what 1. SurfaceTexture用来捕获视频流中的图像帧，视频流可以是相机预览或者是视频解码数据。 里边承接图像数据的也是GraphicBuffer, GLConsumer 作为其BufferQueue的消费方，取得数据后可以通过eglImage挂到opengles texture 里边对其做纹理采样。 ho…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023