k8s学习笔记-高级调度-APISpace

k8s学习笔记-高级调度

创建和终止

Pod的创建过程

用户通过kubectl或者其他api客户端提交需要创建的pod信息给apiServerapiServer开始生成pod对象的信息，并将信息存入etcd,然后返回确认信息到客户端apiServr开始反映etcd中的pod的对象的变化，其他组件使用watch机制来耿总检查apiServer上的变动scheduler发现有新的pod对象要创建，开始为pod分配主机并将结果信息更新到apiServernode节点上的kubelet发现有pod调度过来，尝试调用docker启动容器，并将结果返回到apiServer上apiServer将接收到pod状态信息存入etcd

pod的终止过程

用户向apiServer发送删除pod对象的命令apiServer中的pod对象信息会随着事件的推移而更新，在宽限期（默认30s），pod被视为dead将pod标记为terminating状态kubelet在监控到pod对象转换为erminating状态的同时启动pod关闭过程端点控制器监控到pod对象的关闭行为时将其从所有匹配到此端点的service的资源端点列表进行移除如果当前pod对象定义了preStop钩子处理器，则在其标记为erminating后即会以同步的方式启动执行pod对象中的容器进程收到停止信号宽限期结束后，若pod还存在仍在运行的进程中，那么pod对象会收到立即终止的信号kubelet请求apiServer将此pod资源的宽限期设置为0从而完成删除操作，此时pod对于用户已不可见

Pod调度

在默认情况下，一个pod在哪个node节点上运行，是由Scheduler组件采用相应的算法计算出来的，这个过程是不受人工控制的。但是在实际使用中，这并不满足的需求。因为很多情况下，控制某些pod到达某些节点上，就需要了解k8s对pod的调度规则。

自动调动：运行在哪个节点上完全由Scheduler经过一些列的算法计算得出定向调度：NodeName，NodeSelector亲和性调度：NodeAffinity，PodAffinity，PodAntiAffinity污点（容忍）调度：Taints，Toleration

定向调度

指的是利用在pod上申明nodeName或者nodeSelector，以及将此Pod调度到期望的node节点上。注意，这里调度是强制的，这就意味着即使要调度的目标Node不存在，也会向上面进行调度，只不过pod运行失败而已

NodeName

NodeName用于强制将Pod调度到指定的Name的Node节点上。这种方式，其实就是直接跳过Scheduler的调度逻辑，直接将Pod调度到指定名称的节点。

创建pod-nodename.yaml

apiVersion: v1kind: Podmetadata: name: pod-nodename namespace: devspec: containers: - name: nginx image: nginx:1.17.1 nodeName: node1 # 指定调度到node1节点上

#创建Pod[root@master ~]# kubectl create -f pod-nodename.yamlpod/pod-nodename created#查看Pod调度到NODE属性，确实是调度到了node1节点上[root@master ~]# kubectl get pods pod-nodename -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE ......pod-nodename 1/1 Running 0 56s 10.244.1.87 node1 ...... # 接下来，删除pod，修改nodeName的值为node3（并没有node3节点）[root@master ~]# kubectl delete -f pod-nodename.yamlpod "pod-nodename" deleted[root@master ~]# vim pod-nodename.yaml[root@master ~]# kubectl create -f pod-nodename.yamlpod/pod-nodename created#再次查看，发现已经向Node3节点调度，但是由于不存在node3节点，所以pod无法正常运行[root@master ~]# kubectl get pods pod-nodename -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE ......pod-nodename 0/1 Pending 0 6s node3 ......

NodeSelector

NodeSlector用于将pod调度到添加了指定标签的node节点上。它通过kubernetes的label-selector机制实现的，也就是说，在pod创建之前，会由scheduler使用MatchNodeSelector调度策略进行label调度策略进行label匹配，找出目标node，然后将pod调度目标节点，该匹配规则是强制约束。

示例：

1- 为node节点添加标签

[root@master ~]# kubectl label nodes node1 nodeenv=pronode/node1 labeled[root@master ~]# kubectl label nodes node2 nodeenv=testnode/node2 labeled

2- 创建一个pod-nodeselector.yaml文件，并使用它创建pod

apiVersion: v1kind: Podmetadata: name: pod-nodeselector namespace: devspec: containers: - name: nginx image: nginx:1.17.1 nodeSelector: nodeenv: pro # 指定调度到具有nodeenv=pro标签的节点上

#创建Pod[root@master ~]# kubectl create -f pod-nodeselector.yamlpod/pod-nodeselector created#查看Pod调度到NODE属性，确实是调度到了node1节点上[root@master ~]# kubectl get pods pod-nodeselector -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE ......pod-nodeselector 1/1 Running 0 47s 10.244.1.87 node1 ......# 接下来，删除pod，修改nodeSelector的值为nodeenv: xxxx（不存在打有此标签的节点）[root@master ~]# kubectl delete -f pod-nodeselector.yamlpod "pod-nodeselector" deleted[root@master ~]# vim pod-nodeselector.yaml[root@master ~]# kubectl create -f pod-nodeselector.yamlpod/pod-nodeselector created#再次查看，发现pod无法正常运行,Node的值为none[root@master ~]# kubectl get pods -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE pod-nodeselector 0/1 Pending 0 2m20s # 查看详情,发现node selector匹配失败的提示[root@master ~]# kubectl describe pods pod-nodeselector -n dev.......Events: Type Reason Age From Message ---- ------ ---- ---- ------- Warning FailedScheduling default-scheduler 0/3 nodes are available: 3 node(s) didn't match node selector. Warning FailedScheduling default-scheduler 0/3 nodes are available: 3 node(s) didn't match node selector.

亲和性调度

以上两种调度方式虽然方便，但是也有一定的问题，那就是弱国没有满足条件的Node，那么Pod将不会被运行，即使在集群中还有可用的Node列表也不行，这就限制了它的使用场景。

k8s提供了一种亲和性调度（Affinity），它在NodeSelector的基础上的进行了扩展，可以通过配置的形式，实现优先选择满足条件的Node进行调度，如果没有，也可以调度到不满足条件的节点上，使调度更加灵活。

Affinity主要分为三类：

nodeAffinity（node亲和性）：以node为目标，解决pod可以调度到哪些node的问题podAffinity（pod亲和性）：以pod为目标，解决pod可以和哪些已存在的pod部署在同一个拓扑域中的问题podAntiAffinity（pod反亲和性）：以pod为目标，解决pod不能和哪些已存在pod部署在同一个拓扑域中的问题

关于亲和性(反亲和性)使用场景的说明：

亲和性：如果两个应用频繁交互，那就有必要利用亲和性让两个应用的尽可能的靠近，这样可以减少因网络通信而带来的性能损耗。

反亲和性：当应用的采用多副本部署时，有必要采用反亲和性让各个应用实例打散分布在各个node上，这样可以提高服务的高可用性。

NodeAffinity

可配置项

pod.spec.affinity.nodeAffinity requiredDuringSchedulingIgnoredDuringExecution Node节点必须满足指定的所有规则才可以，相当于硬限制 nodeSelectorTerms 节点选择列表 matchFields 按节点字段列出的节点选择器要求列表 matchExpressions 按节点标签列出的节点选择器要求列表(推荐) key 键 values 值 operator 关系符支持Exists, DoesNotExist, In, NotIn, Gt, Lt preferredDuringSchedulingIgnoredDuringExecution 优先调度到满足指定的规则的Node，相当于软限制 (倾向) preference 一个节点选择器项，与相应的权重相关联 matchFields 按节点字段列出的节点选择器要求列表 matchExpressions 按节点标签列出的节点选择器要求列表(推荐) key 键 values 值 operator 关系符支持In, NotIn, Exists, DoesNotExist, Gt, Lt weight 倾向权重，在范围1-100。

关系符的使用说明：

- matchExpressions: - key: nodeenv # 匹配存在标签的key为nodeenv的节点 operator: Exists - key: nodeenv # 匹配标签的key为nodeenv,且value是"xxx"或"yyy"的节点 operator: In values: ["xxx","yyy"] - key: nodeenv # 匹配标签的key为nodeenv,且value大于"xxx"的节点 operator: Gt values: "xxx"

演示一下requiredDuringSchedulingIgnoredDuringExecution

创建pod-nodeaffinity-required.yaml

apiVersion: v1kind: Podmetadata: name: pod-nodeaffinity-required namespace: devspec: containers: - name: nginx image: nginx:1.17.1 affinity: #亲和性设置 nodeAffinity: #设置node亲和性 requiredDuringSchedulingIgnoredDuringExecution: # 硬限制 nodeSelectorTerms: - matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签 - key: nodeenv operator: In values: ["xxx","yyy"]

# 创建pod[root@master ~]# kubectl create -f pod-nodeaffinity-required.yamlpod/pod-nodeaffinity-required created# 查看pod状态（运行失败）[root@master ~]# kubectl get pods pod-nodeaffinity-required -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE ...... pod-nodeaffinity-required 0/1 Pending 0 16s ......# 查看Pod的详情# 发现调度失败，提示node选择失败[root@master ~]# kubectl describe pod pod-nodeaffinity-required -n dev...... Warning FailedScheduling default-scheduler 0/3 nodes are available: 3 node(s) didn't match node selector. Warning FailedScheduling default-scheduler 0/3 nodes are available: 3 node(s) didn't match node selector.#接下来，停止pod[root@master ~]# kubectl delete -f pod-nodeaffinity-required.yamlpod "pod-nodeaffinity-required" deleted# 修改文件，将values: ["xxx","yyy"]------> ["pro","yyy"][root@master ~]# vim pod-nodeaffinity-required.yaml# 再次启动[root@master ~]# kubectl create -f pod-nodeaffinity-required.yamlpod/pod-nodeaffinity-required created# 此时查看，发现调度成功，已经将pod调度到了node1上[root@master ~]# kubectl get pods pod-nodeaffinity-required -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE ...... pod-nodeaffinity-required 1/1 Running 0 11s 10.244.1.89 node1 ......

演示一下preferredDuringSchedulingIgnoredDuringExecution

创建pod-nodeaffinity-required.yaml

再演示一下preferredDuringSchedulingIgnoredDuringExecution ,

创建pod-nodeaffinity-preferred.yaml

apiVersion: v1kind: Podmetadata: name: pod-nodeaffinity-preferred namespace: devspec: containers: - name: nginx image: nginx:1.17.1 affinity: #亲和性设置 nodeAffinity: #设置node亲和性 preferredDuringSchedulingIgnoredDuringExecution: # 软限制 - weight: 1 preference: matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签(当前环境没有) - key: nodeenv operator: In values: ["xxx","yyy"]

# 创建pod[root@master ~]# kubectl create -f pod-nodeaffinity-preferred.yamlpod/pod-nodeaffinity-preferred created# 查看pod状态（运行成功）[root@master ~]# kubectl get pod pod-nodeaffinity-preferred -n devNAME READY STATUS RESTARTS AGEpod-nodeaffinity-preferred 1/1 Running 0 40s

NodeAffinity规则设置的注意事项：

1 如果同时定义了nodeSelector和nodeAffinity，那么必须两个条件都得到满足，Pod才能运行在指定的Node上

2 如果nodeAffinity指定了多个nodeSelectorTerms，那么只需要其中一个能够匹配成功即可

3 如果一个nodeSelectorTerms中有多个matchExpressions ，则一个节点必须满足所有的才能匹配成功

4 如果一个pod所在的Node在Pod运行期间其标签发生了改变，不再符合该Pod的节点亲和性需求，则系统将忽略此变化

PodAffinity

odAffinity主要实现以运行的Pod为参照，实现让新创建的Pod跟参照pod在一个区域的功能

PodAffinity的可配置项：

pod.spec.affinity.podAffinity requiredDuringSchedulingIgnoredDuringExecution 硬限制 namespaces 指定参照pod的namespace topologyKey 指定调度作用域 labelSelector 标签选择器 matchExpressions 按节点标签列出的节点选择器要求列表(推荐) key 键 values 值 operator 关系符支持In, NotIn, Exists, DoesNotExist. matchLabels 指多个matchExpressions映射的内容 preferredDuringSchedulingIgnoredDuringExecution 软限制 podAffinityTerm 选项 namespaces topologyKey labelSelector matchExpressions key 键 values 值 operator matchLabels weight 倾向权重，在范围1-100

topologyKey用于指定调度时的作用域，例如：

如果指定为kubernetes.io/hostname,那就是以Node节点为区分范围

如果指定为beta.kubernetes.io/os,则以node节点的操作系统来区分

演示下requiredDuringSchedulingIgnoredDuringExecution,

首先创建一个参照Pod，pod-podaffinity-target.yaml

apiVersion: v1kind: Podmetadata: name: pod-podaffinity-target namespace: dev labels: podenv: pro #设置标签spec: containers: - name: nginx image: nginx:1.17.1 nodeName: node1 # 将目标pod名确指定到node1上

# 启动目标pod[root@master ~]# kubectl create -f pod-podaffinity-target.yamlpod/pod-podaffinity-target created# 查看pod状况[root@master ~]# kubectl get pods pod-podaffinity-target -n devNAME READY STATUS RESTARTS AGEpod-podaffinity-target 1/1 Running 0 4s

创建pod-podaffinity-required,yaml

apiVersion: v1kind: Podmetadata: name: pod-podaffinity-required namespace: devspec: containers: - name: nginx image: nginx:1.17.1 affinity: #亲和性设置 podAffinity: #设置pod亲和性 requiredDuringSchedulingIgnoredDuringExecution: # 硬限制 - labelSelector: matchExpressions: # 匹配env的值在["xxx","yyy"]中的标签 - key: podenv operator: In values: ["xxx","yyy"] topologyKey: kubernetes.io/hostname

上面配置表达的意思，新pod必须要与拥有标签podeenv=xxx或者podenv=yyy的pod在同一个Node上，但是显然现在没有这样的pod。

# 启动pod[root@master ~]# kubectl create -f pod-podaffinity-required.yamlpod/pod-podaffinity-required created# 查看pod状态，发现未运行[root@master ~]# kubectl get pods pod-podaffinity-required -n devNAME READY STATUS RESTARTS AGEpod-podaffinity-required 0/1 Pending 0 9s# 查看详细信息[root@master ~]# kubectl describe pods pod-podaffinity-required -n dev......Events: Type Reason Age From Message ---- ------ ---- ---- ------- Warning FailedScheduling default-scheduler 0/3 nodes are available: 2 node(s) didn't match pod affinity rules, 1 node(s) had taints that the pod didn't tolerate.# 接下来修改 values: ["xxx","yyy"]----->values:["pro","yyy"]# 意思是：新Pod必须要与拥有标签nodeenv=xxx或者nodeenv=yyy的pod在同一Node上[root@master ~]# vim pod-podaffinity-required.yaml# 然后重新创建pod，查看效果[root@master ~]# kubectl delete -f pod-podaffinity-required.yamlpod "pod-podaffinity-required" deleted[root@master ~]# kubectl create -f pod-podaffinity-required.yamlpod/pod-podaffinity-required created# 发现此时Pod运行正常[root@master ~]# kubectl get pods pod-podaffinity-required -n devNAME READY STATUS RESTARTS AGE LABELSpod-podaffinity-required 1/1 Running 0 6s

kubectl get pods -n dev -o wide --show-labels

PodAntiAffinity

PodAntiAffinity主要实现以运行的Pod为参照，让新创建的Pod跟参照pod不在一个区域中的功能。

1- 使用之前案例的目标pod

[root@master ~]# kubectl get pods -n dev -o wide --show-labelsNAME READY STATUS RESTARTS AGE IP NODE LABELSpod-podaffinity-required 1/1 Running 0 3m29s 10.244.1.38 node1 pod-podaffinity-target 1/1 Running 0 9m25s 10.244.1.37 node1 podenv=pro

2- 创建pod-podantiaffinity-required.yaml

apiVersion: v1kind: Podmetadata: name: pod-podantiaffinity-required namespace: devspec: containers: - name: nginx image: nginx:1.17.1 affinity: #亲和性设置 podAntiAffinity: #设置pod反亲和性 requiredDuringSchedulingIgnoredDuringExecution: # 硬限制 - labelSelector: matchExpressions: # 匹配podenv的值在["pro"]中的标签 - key: podenv operator: In values: ["pro"] topologyKey: kubernetes.io/hostname

新Pod必须要与拥有标签proenv=pro的pod不在同一Node上

# 创建pod[root@master ~]# kubectl create -f pod-podantiaffinity-required.yamlpod/pod-podantiaffinity-required created# 查看pod# 发现调度到了node2上[root@master ~]# kubectl get pods pod-podantiaffinity-required -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE .. pod-podantiaffinity-required 1/1 Running 0 30s 10.244.1.96 node2 ..

污点和容忍

污点（Taints）

前面的调度方式都是站在Pod的角度上，通过在Pod上添加属性，来确定Pod是否要调度到指定的Node上，其实我们也可以站在Node的角度上，通过在Node上添加污点属性，来决定是否允许Pod调度过来。

Node被设置上污点之后就和Pod之间存在了一种相斥的关系，进而拒绝Pod调度进来，甚至可以将已经存在的Pod驱逐出去。

污点的格式为key=value:effect, key和value是污点的标签，effect描述污点的作用，支持如下三个选项：

PreferNoSchedule：kubernetes将尽量避免把Pod调度到具有该污点的Node上，除非没有其他节点可调度NoSchedule：kubernetes将不会把Pod调度到具有该污点的Node上，但不会影响当前Node上已存在的PodNoExecute：kubernetes将不会把Pod调度到具有该污点的Node上，同时也会将Node上已存在的Pod驱离

污点配置命令

# 设置污点kubectl taint nodes node1 key=value:effect# 去除污点kubectl taint nodes node1 key:effect-# 去除所有污点kubectl taint nodes node1 key-

示例：

准备节点node1（为了演示效果更加明显，暂时停止node2节点）为node1节点设置一个污点:tag=yuanke:PreferNoSchedule；然后创建pod1( pod1 可以 )修改为node1节点设置一个污点:tag=yuanke:NoSchedule；然后创建pod2( pod1 正常 pod2 失败 )修改为node1节点设置一个污点:tag=yuanke:NoExecute；然后创建pod3 ( 3个pod都失败 )

# 为node1设置污点(PreferNoSchedule)[root@master ~]# kubectl taint nodes node1 tag=yuanke:PreferNoSchedule[root@master ~]# kubectl describe nodes node1# 创建pod1[root@master ~]# kubectl run taint1 --image=nginx:1.17.1 -n dev[root@master ~]# kubectl get pods -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE taint1-7665f7fd85-574h4 1/1 Running 0 2m24s 10.244.1.59 node1 # 为node1设置污点(取消PreferNoSchedule，设置NoSchedule)[root@master ~]# kubectl taint nodes node1 tag:PreferNoSchedule-[root@master ~]# kubectl taint nodes node1 tag=yuanke:NoSchedule# 创建pod2[root@master ~]# kubectl run taint2 --image=nginx:1.17.1 -n dev[root@master ~]# kubectl get pods taint2 -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODEtaint1-7665f7fd85-574h4 1/1 Running 0 2m24s 10.244.1.59 node1 taint2-544694789-6zmlf 0/1 Pending 0 21s [root@master ~]# kubectl describe pods taint2-544694789-6zmlf -n dev # 为node1设置污点(取消NoSchedule，设置NoExecute)[root@master ~]# kubectl taint nodes node1 tag:NoSchedule-[root@master ~]# kubectl taint nodes node1 tag=yuanke:NoExecute# 创建pod3[root@master ~]# kubectl run taint3 --image=nginx:1.17.1 -n dev[root@master ~]# kubectl get pods -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED taint1-7665f7fd85-htkmp 0/1 Pending 0 35s taint2-544694789-bn7wb 0/1 Pending 0 35s taint3-6d78dbd749-tktkq 0/1 Pending 0 6s

注意，使用kubeadm搭建的集群，默认就会给master节点添加一个污点标记，所有pod就不会调度到master节点上。

容忍(Toleration)

污点的作用是用于拒绝pod调度上来，容忍的作用将pod调度到一个有污点的node上。

污点是拒绝，容忍就是忽略，Node通过污点拒绝pod调度上去，pod通过容忍忽略拒绝。

示例：

通过给pod添加容忍，然后将其调度上去。

创建pod-toleration.yaml,内容如下

apiVersion: v1kind: Podmetadata: name: pod-toleration namespace: devspec: containers: - name: nginx image: nginx:1.17.1 tolerations: # 添加容忍 - key: "tag" # 要容忍的污点的key operator: "Equal" # 操作符 value: "yuanke" # 容忍的污点的value effect: "NoExecute" # 添加容忍的规则，这里必须和标记的污点规则相同

# 添加容忍之前的pod[root@master ~]# kubectl get pods -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATED pod-toleration 0/1 Pending 0 3s # 添加容忍之后的pod[root@master ~]# kubectl get pods -n dev -o wideNAME READY STATUS RESTARTS AGE IP NODE NOMINATEDpod-toleration 1/1 Running 0 3s 10.244.1.62 node1

容忍的详细配置

[root@master ~]# kubectl explain pod.spec.tolerations......FIELDS: key # 对应着要容忍的污点的键，空意味着匹配所有的键 value # 对应着要容忍的污点的值 operator # key-value的运算符，支持Equal和Exists（默认） effect # 对应污点的effect，空意味着匹配所有影响 tolerationSeconds # 容忍时间, 当effect为NoExecute时生效，表示pod在Node上的停留时间

Linux中怎么用cat命令创建文件并写入数据

281 2022-09-09

k8s学习笔记-高级调度

linux怎么查看本机内存大小

Linux中怎么用cat命令创建文件并写入数据

mysql连接测试不成功的原因有哪些

推荐文章

api接口有哪几种分类及功能

什么是API接口?API接口简单介绍

短信API接口概述，短信API接口的优势

7款快递物流的物流查询API工具，物流快递查询API接口怎么对接？

企业四要素: 了解企业经营成功的关键

什么是语音验证码?,语音验证码平台有哪些

全国工商查询系统怎么查企业名录

哪些平台提供实名认证的接口？

PHP如何调用API接口?

如何使用百度天气预报API接口?

最近发表

热评文章

数据接口api（数据接口API开发平台）

数据开放接口api（数据服务api开发）

Python爬虫教程：爬取酷狗音乐（python爬取

hbuilder怎么更改字体大小和颜色

直播平台api接口 - 构建卓越的直播平台

实时股票数据api接口（股票实时行情api接口）