作者：京东科技 徐宪章

1 什么是超容量扩容

超容量扩容功能，是指预先调度一定数量的工作节点，当业务高峰期或者集群整体负载较高时，可以使应用不必等待集群工作节点扩容，从而迅速完成应用横向扩容。通常情况下 HPA、ClusterAutosacler 和超容量扩容同时使用以满足负载敏感度高的业务场景。

超容量扩容功能是通过 K8S 应用优先级设置和 ClusterAutosaler 共同作用实现的，通过调整低优先级空载应用的数量，使集群已调度资源保持在较高的状态，当其他高优先级应用因为 HPA 或者手动调整应用分片数量时，可以通过驱逐空载的方式腾空调度资源却保高优先级应用可以在第一时间调度并创建。当空载应用从被驱逐转变为等到状态时，ClusterAutosaler 此时对集群机型扩容，确保下次高优先级应用调度时，有足够的空载应用可以被驱逐。

超容量扩容功能的核心为 OverprovisionAutoscaler（超容量扩容）和 ClusterAutosaler(集群自动扩容)，两者都需要通过不断调整参数配置去适配多重业务需求需求。

超容量扩容功能在一定程度上降低了资源使用饱和度，通过增加成本提高了集群和应用的稳定性，实际业务场景中需要根据需求进行取舍并合理配置。

2 什么情况下需要使用超容量扩容

当集群值开启 Hpa 和 Autoscaler 时，在发生节点扩容的情况下，应用调度时间通常为4-12 分钟，主要取决于创建工作节点资源以及工作节点从加入集群到 Ready 的总耗时。以下为最佳和最差效率分析

最佳案例场景－４分钟

• 30 秒 - 目标指标值更新：30-60 秒

• 30 秒 - HPA 检查指标值：30 秒 - >30 秒 - HPA 检查指标值：30 秒 - >

• <2 秒 - Pods 创建之后进入 pending 状态<2 秒 －Pods 创建之后进入 pending 状态

• <2 秒 - CA 看到 pending 状态的 pods，之后调用来创建 node 1 秒<2 秒 －CA 看到 pending 状态的 pods，之后调用来创建 node 1 秒

• 3 分钟 - cloud provider 创建工作节点，之后加入 k8s 之后等待 node 变成 ready

最糟糕的情况 - 12 分钟

• 60 秒 —目标指标值更新

• 30 秒 — HPA 检查指标值

• < 2 秒 — Pods 创建之后进入 pending 状态

• < 2 秒 —CA 看到 pending 状态的 pods，之后调用来创建 node 1 秒

• 10 分钟 — cloud provider 创建工作节点，之后加入ｋ8s 之后等待 node 变成 ready

两种场景下，创建工作节点耗时占比超过 75%，如果可以降低或者完全不考虑该时间，将大大提高应用扩容速度，配合超容量扩容功能可以大大增强集群和业务稳定性。超容量扩容主要用于对应用负载敏感度较高的业务场景

1. 大促备战

2. 流计算/实时计算

3. Devops 系统

4. 其他调度频繁的业务场景

3 如何开启超容量扩容

超容量扩容功能以 ClusterAutoscaler 为基础，配合 OverprovisionAutoscaler 实现。以京东公有云 Kubernetes 容器服务为例

3.1 开启 ClusterAutoscaler

https://cns-console.jdcloud.com/host/nodeGroups/list

• 进入 “kubernetes 容器服务”->“工作节点组”

• 选择需要对应节点组，点击开启自动伸缩

• 设置节点数量区间，并点击确定

3.2 部署 OverprovisionAutoscaler

1 部署控制器及配置

apiVersion: apps/v1
kind: Deployment
metadata:
  name: overprovisioning-autoscaler
  namespace: default
  labels:
    app: overprovisioning-autoscaler
    owner: cluster-autoscaler-overprovisioning
spec:
  selector:
    matchLabels:
      app: overprovisioning-autoscaler
      owner: cluster-autoscaler-overprovisioning
  replicas: 1
  template:
    metadata:
      labels:
        app: overprovisioning-autoscaler
        owner: cluster-autoscaler-overprovisioning
    spec:
      serviceAccountName: cluster-proportional-autoscaler
      containers:
        - image: jdcloud-cn-north-1.jcr.service.jdcloud.com/k8s/cluster-proportional-autoscaler:v1.16.3
          name: proportional-autoscaler
          command:
            - /autoscaler
            - --namespace=default
            ## 注意这里需要根据需要指定上述的configmap的名称 
            ## /overprovisioning-autoscaler-ladder/overprovisioning-autoscaler-linear
            - --configmap=overprovisioning-autoscaler-{provision-mode}
            ## 预热集群应用（类型）/ 名称,基准应用和空值应用需要在同一个命名空间下
            - --target=deployment/overprovisioning
            - --logtostderr=true
            - --v=2
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: host-time
              mountPath: /etc/localtime
      volumes:
        - name: host-time
          hostPath:
            path: /etc/localtime
---
kind: ServiceAccount
apiVersion: v1
metadata:
  name: cluster-proportional-autoscaler
  namespace: default
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: cluster-proportional-autoscaler
rules:
  - apiGroups: [""]
    resources: ["nodes"]
    verbs: ["list", "watch"]
  - apiGroups: [""]
    resources: ["replicationcontrollers/scale"]
    verbs: ["get", "update"]
  - apiGroups: ["extensions","apps"]
    resources: ["deployments/scale", "replicasets/scale","deployments","replicasets"]
    verbs: ["get", "update"]
  - apiGroups: [""]
    resources: ["configmaps"]
    verbs: ["get", "create"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: cluster-proportional-autoscaler
subjects:
  - kind: ServiceAccount
    name: cluster-proportional-autoscaler
    namespace: default
roleRef:
  kind: ClusterRole
  name: cluster-proportional-autoscaler
  apiGroup: rbac.authorization.k8s.io
---
apiVersion: scheduling.k8s.io/v1
kind: PriorityClass
metadata:
  name: overprovisioning
value: -1
globalDefault: false
description: "Priority class used by overprovisioning."

2 部署空载应用

apiVersion: apps/v1
kind: Deployment
metadata:
  name: overprovisioning
  namespace: default
  labels:
    app: overprovisioning
    owner: cluster-autoscaler-overprovisioning
spec:
  replicas: 1
  selector:
    matchLabels:
      app: overprovisioning
      owner: cluster-autoscaler-overprovisioning
  template:
    metadata:
      annotations:
        autoscaler.jke.jdcloud.com/overprovisioning: "reserve-pod"
      labels:
        app: overprovisioning
        owner: cluster-autoscaler-overprovisioning
    spec:
      priorityClassName: overprovisioning
      containers:
        - name: reserve-resources
          image: jdcloud-cn-east-2.jcr.service.jdcloud.com/k8s/pause-amd64:3.1
          resources:
            requests:
              ## 根据预热预期设置配置的分片数量及单分片所需资源
              cpu: 7
          imagePullPolicy: IfNotPresent

3.3 验证超容量扩容功能是否正常

1 验证 Autoscaler

• 查看 autoscaler 控制器是否 Running

• 不断创建测试应用，应用需求资源略微小于节点组单节点可调度资源

• 观察集群节点状态，当资源不足导致 pod 等待中状态时，autocalser 是否会按照预设 (扩容等待、扩容冷却、最大节点数量等) 进行扩容

• 开启集群自动缩容，删除测试应用，观察集群节点资源 Request 到达阈值后是否发生缩容。

2 验证 OverprovisionAutoscaler

• 查看 OverprovisionAutoscaler 控制器是否 Running

• 不断创建测试应用，当发生 autoscaler 后，空载应用数量是否会根据配置发生变化

• 当业务应用 pendding 后，空载应用是否会发生驱逐，并调度业务应用

4 设置 OverprovisionAutoscaler 及 ClusterAutoscaler 参数

4.1 配置 ClusterAutoscaler

1 ca 参数说明

2 推荐配置

# 其他保持默认
scan_interval=10s
max_node_provision_time=180s
scale_down_delay_after_add=180s
scale_down_delay_after_delete=180s
scale_down_unneeded_time=300s
scale_down_utilization_threshold=0.4

4.2 配置 OverprovisionAutoscaler

OverprovisionAutoscaler 的配置有线性配置和阶梯配置两种方式，两种配置方式只能选择一种.

1 线性配置（ladder）

线性配置，通过配置总体 CPU 核数以及节点数量和空载应用数量的比例实现线性资源预留，空载应用数量总是和 CPU 总量以及节点数量成正比，精度会根据空载应用 CPU 资源 request 变化，request 值越小，精度月高，当配置发生冲突时，取符合线性关系的空载应用数量最大值.

节点数量满足配置中 min 和 max 的区间

preventSinglePointFailure，当为 true 时，Running 状态的空载应用分片数满足线性关系；当为 false 时，Failer/Running 状态的空载应用分片数满足线性关系

includeUnschedulableNodes，是否考虑不可调度节点

kind: ConfigMap
apiVersion: v1
metadata:
  name: overprovisioning-autoscaler-linear
  namespace: default
data:
  linear: |-
    {
      "coresPerReplica": 2,
      "nodesPerReplica": 1,
      "min": 1,
      "max": 100,
      "includeUnschedulableNodes": false,
      "preventSinglePointFailure": true
    }

2 阶梯配置 (linear)

阶梯配置，通过配置总体 CPU 核数或者节点数量和空载应用数量的矩阵实现阶梯状资源预留，空载应用数量符合 CPU 总量以及节点数量的分布状态，当配置发生冲突时，取符合区间分布的空载应用数量最大值

kind: ConfigMap
apiVersion: v1
metadata:
  name: overprovisioning-autoscaler-ladder
  namespace: default
data:
  ladder: |-
    {
      "coresToReplicas":
      [
        [ 1,1 ],
        [ 50,3 ],
        [ 200,5 ],
        [ 500,7 ]
      ],
      "nodesToReplicas":
      [
        [ 1,1 ],
        [ 3,4 ],
        [ 10,5 ],
        [ 50,20 ],
        [ 100,120 ],
        [ 150,120 ]
      ]
    }