k8s pod调度_调度方式

大家好，又见面了，我是你们的朋友全栈君。

k8s

• 概述
• 定向调度
• 亲和性调度
• 污点和容忍

Pod的调度

概述

在默认情况下，一个Pod在哪个Node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。但是在实际使用中，这并不满足需求，因为很多情况下，我们想控制某些Pod到达某些节点上，那么应该怎么做？这就要求了解kubernetes对Pod的调度规则，kubernetes提供了四大类调度方式。

• 自动调度：运行在哪个Node节点上完全由Scheduler经过一系列的算法计算得出。
• 定向调度：NodeName、NodeSelector。(NodeSelector是查找主机的label)
• 亲和性调度：NodeAffinity、PodAffinity、PodAntiAffinity。(既可以指定和主机的亲和度也可以指定和Pod的亲和度 也是使用标签实现的)
• 污点（容忍）调度：Taints、Toleration (污点是站在主机的角度上说的)

定向调度

概述 定向调度，指的是利用在Pod上声明的nodeName或nodeSelector，以此将Pod调度到期望的Node节点上。注意，这里的调度是强制的，这就意味着即使要调度的目标Node不存在，也会向上面进行调度，只不过Pod运行失败而已。 nodeName

nodeName用于强制约束将Pod调度到指定的name的Node节点上。这种方式，其实是直接跳过Scheduler的调度逻辑，直接将Pod调度到指定名称的节点。

创建一个pod-nodename.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodename
  namespace: dev
  labels:
    user: xudaxian
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  nodeName: k8s-node1 # 指定调度到k8s-node1节点上 强制性的 无论存不存在

代码语言：javascript复制

• 创建Pod：
kubectl create -f pod-nodename.yaml
• 查看Pod：
kubectl get pod pod-nodename -n dev -o wide

nodeSelector nodeSelector用于将Pod调度到添加了指定标签的Node节点上，它是通过kubernetes的label-selector机制实现的，换言之，在Pod创建之前，会由Scheduler使用MatchNodeSelector调度策略进行label匹配，找出目标node，然后将Pod调度到目标节点，该匹配规则是强制约束。 首先给node节点添加标签：

代码语言：javascript复制

kubectl label node k8s-node1 nodeevn=pro
kubectl label node k8s-node2 nodeenv=test

创建pod-nodeselector.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeselector
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  nodeSelector:
    nodeenv: pro # 指定调度到具有nodeenv=pro的Node节点上

代码语言：javascript复制

• 创建Pod：
kubectl create -f pod-nodeselector.yaml
• 查看Pod：
kubectl get pod pod-nodeselector -n dev -o wide

亲和性调度

概述 虽然定向调度的两种方式，使用起来非常方便，但是也有一定的问题，那就是如果没有满足条件的Node，那么Pod将不会被运行，即使在集群中还有可用的Node列表也不行，这就限制了它的使用场景。(强制性)

基于上面的问题，kubernetes还提供了一种亲和性调度（Affinity）。它在nodeSelector的基础之上进行了扩展，可以通过配置的形式，实现优先选择满足条件的Node进行调度，如果没有，也可以调度到不满足条件的节点上，使得调度更加灵活。 Affinity主要分为三类：

• nodeAffinity（node亲和性）：以Node为目标，解决Pod可以调度到那些Node的问题。
• podAffinity（pod亲和性）：以Pod为目标，解决Pod可以和那些已存在的Pod部署在同一个拓扑域中的问题。
• podAntiAffinity（pod反亲和性）：以Pod为目标，解决Pod不能和那些已经存在的Pod部署在同一拓扑域中的问题。 关于亲和性和反亲和性的使用场景的说明：

使用场景

代码语言：javascript复制

• 亲和性：如果两个应用频繁交互，那么就有必要利用亲和性让两个应用尽可能的靠近，这样可以较少因网络通信而带来的性能损耗。
• 反亲和性：当应用采用多副本部署的时候，那么就有必要利用反亲和性让各个应用实例打散分布在各个Node上，这样可以提高服务的高可用性。

nodeAffinity 查看nodeAffinity的可选配置项：

pod.spec.affinity.nodeAffinity

代码语言：javascript复制

  requiredDuringSchedulingIgnoredDuringExecution  Node节点必须满足指定的所有规则才可以，相当于硬限制
    nodeSelectorTerms  节点选择列表
      matchFields   按节点字段列出的节点选择器要求列表  
      matchExpressions   按节点标签列出的节点选择器要求列表(推荐)
        key    键
        values 值
        operator 关系符 支持Exists, DoesNotExist, In, NotIn, Gt, Lt
  preferredDuringSchedulingIgnoredDuringExecution 优先调度到满足指定的规则的Node，相当于软限制 (倾向)     
    preference   一个节点选择器项，与相应的权重相关联
      matchFields 按节点字段列出的节点选择器要求列表
      matchExpressions   按节点标签列出的节点选择器要求列表(推荐)
        key 键
        values 值
        operator 关系符 支持In, NotIn, Exists, DoesNotExist, Gt, Lt  
    weight 倾向权重，在范围1-100。

关系符的使用说明:

代码语言：javascript复制

- matchExpressions:
    - key: nodeenv # 匹配存在标签的key为nodeenv的节点
      operator: Exists   
    - key: nodeenv # 匹配标签的key为nodeenv,且value是"xxx"或"yyy"的节点
      operator: In    
      values: ["xxx","yyy"]
    - key: nodeenv # 匹配标签的key为nodeenv,且value大于"xxx"的节点
      operator: Gt   
      values: "xxx"

下面演示requiredDuringSchedulingIgnoredDuringExecution： 创建pod-nodeaffinity-required.yaml文件，内容如下： (强制性)

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeaffinity-required
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    nodeAffinity: # node亲和性配置
      requiredDuringSchedulingIgnoredDuringExecution: # Node节点必须满足指定的所有规则才可以，相当于硬规则，类似于定向调度
        nodeSelectorTerms: # 节点选择列表
          - matchExpressions:
              - key: nodeenv # 匹配存在标签的key为nodeenv的节点，并且value是"xxx"或"yyy"的节点
                operator: In
                values:
                  - "xxx"
                  - "yyy"

代码语言：javascript复制

# 创建Pod：
kubectl create -f pod-nodeaffinity-required.yaml

# 查看Pod状态（运行失败）：
kubectl get pod pod-nodeaffinity-required -n dev -o wide

# 查看Pod详情（发现调度失败，提示node选择失败）：
kubectl describe pod pod-nodeaffinity-required -n dev

# 删除Pod：
kubectl delete -f pod-nodeaffinity-required.yaml

代码语言：javascript复制

• 修改pod-nodeaffinity-required.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeaffinity-required
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    nodeAffinity: # node亲和性配置
      requiredDuringSchedulingIgnoredDuringExecution: # Node节点必须满足指定的所有规则才可以，相当于硬规则，类似于定向调度
        nodeSelectorTerms: # 节点选择列表
          - matchExpressions:
              - key: nodeenv # 匹配存在标签的key为nodeenv的节点，并且value是"xxx"或"yyy"的节点
                operator: In
                values:
                  - "pro"
                  - "yyy"

代码语言：javascript复制

• 再次创建Pod：
kubectl create -f pod-nodeaffinity-required.yaml
• 再次查看Pod：
kubectl get pod pod-nodeaffinity-required -n dev -o wide

下面演示preferredDuringSchedulingIgnoredDuringExecution：(软限制) 创建pod-nodeaffinity-preferred.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-nodeaffinity-preferred
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    nodeAffinity: # node亲和性配置
      preferredDuringSchedulingIgnoredDuringExecution: # 优先调度到满足指定的规则的Node，相当于软限制 (倾向)
        - preference: # 一个节点选择器项，与相应的权重相关联
            matchExpressions:
              - key: nodeenv
                operator: In
                values:
                  - "xxx"
                  - "yyy"
          weight: 1

代码语言：javascript复制

• 创建Pod：
kubectl create -f pod-nodeaffinity-preferred.yaml
• 查看Pod：
kubectl get pod pod-nodeaffinity-preferred -n dev -o wide

nodeAffinity的注意事项：

• 如果同时定义了nodeSelector和nodeAffinity，那么必须两个条件都满足，Pod才能运行在指定的Node上。
• 如果nodeAffinity指定了多个nodeSelectorTerms，那么只需要其中一个能够匹配成功即可。
• 如果一个nodeSelectorTerms中有多个matchExpressions，则一个节点必须满足所有的才能匹配成功。
• 如果一个Pod所在的Node在Pod运行期间其标签发生了改变，不再符合该Pod的nodeAffinity的要求，则系统将忽略此变化。(Pod的调度只在调度的时候生效 一旦调度完 就不会管Node如何变化了)

podAffinity podAffinity主要实现以运行的Pod为参照，实现让新创建的Pod和参照的Pod在一个区域的功能。 PodAffinity的可选配置项：

代码语言：javascript复制

pod.spec.affinity.podAffinity
  requiredDuringSchedulingIgnoredDuringExecution  硬限制
    namespaces 指定参照pod的namespace
    topologyKey 指定调度作用域	
    labelSelector 标签选择器
      matchExpressions  按节点标签列出的节点选择器要求列表(推荐)
        key    键
        values 值
        operator 关系符 支持In, NotIn, Exists, DoesNotExist.
      matchLabels    指多个matchExpressions映射的内容  
  preferredDuringSchedulingIgnoredDuringExecution 软限制    
    podAffinityTerm  选项
      namespaces
      topologyKey
      labelSelector
         matchExpressions 
            key    键  
            values 值  
            operator
         matchLabels 
    weight 倾向权重，在范围1-1

topologyKey用于指定调度的作用域，例如:

• 如果指定为kubernetes.io/hostname，那就是以Node节点为区分范围。
• 如果指定为beta.kubernetes.io/os，则以Node节点的操作系统类型来区分。

演示requiredDuringSchedulingIgnoredDuringExecution。 创建参照Pod过程： 创建pod-podaffinity-target.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-podaffinity-target
  namespace: dev
  labels:
    podenv: pro # 设置标签
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  nodeName: k8s-node1 # 将目标pod定向调度到k8s-node1

代码语言：javascript复制

# 创建参照Pod：
kubectl create -f pod-podaffinity-target.yaml

# 查看参照Pod：
kubectl get pod pod-podaffinity-target -n dev -o wide

创建Pod过程： 创建pod-podaffinity-requred.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-podaffinity-requred
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    podAffinity: # Pod亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
        - labelSelector:
            matchExpressions: # 该Pod必须和拥有标签podenv=xxx或者podenv=yyy的Pod在同一个Node上，显然没有这样的Pod
              - key: podenv
                operator: In
                values:
                  - "xxx"
                  - "yyy"
          topologyKey: kubernetes.io/hostname

代码语言：javascript复制

# 创建Pod：
kubectl create -f pod-podaffinity-requred.yaml

# 查看Pod状态，发现没有运行：
kubectl get pod pod-podaffinity-requred -n dev

# 查看Pod详情：
kubectl get pod pod-podaffinity-requred -n dev

# 删除Pod：
kubectl delete -f pod-podaffinity-requred.yaml

修改pod-podaffinity-requred.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-podaffinity-requred
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    podAffinity: # Pod亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
        - labelSelector:
            matchExpressions: # 该Pod必须和拥有标签podenv=xxx或者podenv=yyy的Pod在同一个Node上，显然没有这样的Pod
              - key: podenv
                operator: In
                values:
                  - "pro"
                  - "yyy"
          topologyKey: kubernetes.io/hostname

代码语言：javascript复制

# 再次创建Pod：
kubectl create -f pod-podaffinity-requred.yaml

# 再次查看Pod：
kubectl get pod pod-podaffinity-requred -n dev -o wide

podAntiAffinity podAntiAffinity主要实现以运行的Pod为参照，让新创建的Pod和参照的Pod不在一个区域的功能。 其配置方式和podAffinity一样，此处不做详细解释。

代码语言：javascript复制

使用上个案例中的目标Pod：
kubectl get pod -n dev -o wide

创建pod-podantiaffinity-requred.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-podantiaffinity-requred
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  affinity: # 亲和性配置
    podAntiAffinity: # Pod反亲和性
      requiredDuringSchedulingIgnoredDuringExecution: # 硬限制
        - labelSelector:
            matchExpressions:
              - key: podenv
                operator: In
                values:
                  - "pro"
          topologyKey: kubernetes.io/hostname

代码语言：javascript复制

# 创建Pod：
kubectl create -f pod-podantiaffinity-requred.yaml
# 查看Pod：
kubectl get pod -n dev -o wide

污点和容忍

污点（Taints） master节点默认是有污点的 NoSchedule 前面的调度方式都是站在Pod的角度上，通过在Pod上添加属性，来确定Pod是否要调度到指定的Node上，其实我们也可以站在Node的角度上，通过在Node上添加污点属性，来决定是否运行Pod调度过来。 Node被设置了污点之后就和Pod之间存在了一种相斥的关系，进而拒绝Pod调度进来，甚至可以将已经存在的Pod驱逐出去。 污点的格式为：key=value:effect，key和value是污点的标签，effect描述污点的作用，支持如下三个选项：

• PreferNoSchedule：kubernetes将尽量避免把Pod调度到具有该污点的Node上，除非没有其他节点可以调度。
• NoSchedule：kubernetes将不会把Pod调度到具有该污点的Node上，但是不会影响当前Node上已经存在的Pod。
• NoExecute：kubernetes将不会把Pod调度到具有该污点的Node上，同时也会将Node上已经存在的Pod驱逐。

设置和去除污点的语法如下

代码语言：javascript复制

• 设置污点：
kubectl taint node xxx key=value:effect
• 去除污点：
kubectl taint node xxx key:effect-
• 去除所有污点：
kubectl taint node xxx key-
• 查询所有节点的污点：
wget -O jq https://github.com/stedolan/jq/releases/download/jq-1.6/jq-linux64
chmod  x ./jq
cp jq /usr/bin
• 列出所有节点的污点方式一：
kubectl get nodes -o json | jq '.items[].spec'
• 列出所有节点的污点方式二：
kubectl get nodes -o json | jq '.items[].spec.taints'
• 查看指定节点上的污点：
kubectl describe node 节点名称

接下来，演示污点效果：

1. 准备节点k8s-node1（为了演示效果更加明显，暂时停止k8s-node2节点）。
2. 为k8s-node1节点设置一个污点：tag=xudaxian:PreferNoSchedule，然后创建Pod1（Pod1可以）。
3. 修改k8s-node1节点的污点为：tag=xudaxian:NoSchedule，然后创建Pod2（Pod1可以正常运行，Pod2失败）。
4. 修改k8s-node1节点的污点为：tag=xudaxian:NoExecute，然后创建Pod3（Pod1、Pod2、Pod3失败）。

为k8s-node1设置污点（PreferNoSchedule）：

代码语言：javascript复制

kubectl taint node k8s-node1 tag=xudaxian:PreferNoSchedule
创建Pod1：
kubectl run pod1 --image=nginx:1.17.1 -n dev
• 查看Pod：
kubectl get pod pod1 -n dev -o wide
• 为k8s-node1取消污点（PreferNoSchedule），并设置污点（NoSchedule）：
kubectl taint node k8s-node1 tag:PreferNoSchedule-
kubectl taint node k8s-node1 tag=xudaxian:NoSchedule
• 创建Pod2：
kubectl run pod2 --image=nginx:1.17.1 -n dev
• 查看Pod：
kubectl get pod pod1 -n dev -o wide
kubectl get pod pod2 -n dev -o wide
• 为k8s-node1取消污点（NoSchedule），并设置污点（NoExecute）：
kubectl taint node k8s-node1 tag:NoSchedule-
kubectl taint node k8s-node1 tag=xudaxian:NoExecute
• 创建Pod3：
kubectl run pod3 --image=nginx:1.17.1 -n dev
• 查看Pod：
kubectl get pod pod1 -n dev -o wide
kubectl get pod pod2 -n dev -o wide
kubectl get pod pod3 -n dev -o wide

使用kubeadm搭建的集群，默认就会给Master节点添加一个污点标记，所以Pod就不会调度到Master节点上。 容忍（Toleration） 如果就想把Pod放到有污点的node上去呢? 上面介绍了污点的作用，我们可以在Node上添加污点用来拒绝Pod调度上来，但是如果就是想让一个Pod调度到一个有污点的Node上去，这时候应该怎么做？这就需要使用到容忍。 污点就是拒绝，容忍就是忽略，Node通过污点拒绝Pod调度上去，Pod通过容忍忽略拒绝。 • 容忍的详细配置：

代码语言：javascript复制

kubectl explain pod.spec.tolerations

代码语言：javascript复制

......
FIELDS:
  key       # 对应着要容忍的污点的键，空意味着匹配所有的键
  value     # 对应着要容忍的污点的值
  operator  # key-value的运算符，支持Equal和Exists（默认）
  effect    # 对应污点的effect，空意味着匹配所有影响
  tolerationSeconds   # 容忍时间, 当effect为NoExecute时生效，表示pod在Node上的停留时间

当operator为Equal的时候，如果Node节点有多个Taint，那么Pod每个Taint都需要容忍才能部署上去。 当operator为Exists的时候，有如下的三种写法：

• 容忍指定的污点，污点带有指定的effect：

代码语言：javascript复制

  tolerations: # 容忍
    - key: "tag" # 要容忍的污点的key
      operator: Exists # 操作符
      effect: NoExecute # 添加容忍的规则，这里必须和标记的污点规则相同

• 容忍指定的污点，不考虑具体的effect：

代码语言：javascript复制

  tolerations: # 容忍
    - key: "tag" # 要容忍的污点的key
      operator: Exists # 操作符

• 容忍一切污点（慎用）：

代码语言：javascript复制

 tolerations: # 容忍
    - operator: Exists # 操作符

在上面的污点中，已经给k8s-node1打上了NoExecute的污点，此时Pod是调度不上去的，此时可以通过在Pod中添加容忍，将Pod调度上去。 创建pod-toleration.yaml文件，内容如下：

代码语言：javascript复制

apiVersion: v1
kind: Pod
metadata:
  name: pod-toleration
  namespace: dev
spec:
  containers: # 容器配置
    - name: nginx
      image: nginx:1.17.1
      imagePullPolicy: IfNotPresent
      ports:
        - name: nginx-port
          containerPort: 80
          protocol: TCP
  tolerations: # 容忍
    - key: "tag" # 要容忍的污点的key
      operator: Equal # 操作符
      value: "xudaxian" # 要容忍的污点的value
      effect: NoExecute # 添加容忍的规则，这里必须和标记的污点规则相同

代码语言：javascript复制

• 创建Pod：
kubectl create -f pod-toleration.yaml
• 查看Pod：
kubectl get pod pod-toleration -n dev -o wide

发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/168527.html原文链接：https://javaforall.cn

node.js kubernetes apache

0 人点赞