维度网络做网站,h5制作培训,营销型网站建设平台,怎么注册公司邮箱账号目录
一、emptyDir存储卷
1.1 特点
1.2 用途
1.3部署
二、hostPath存储卷
2.1部署
2.1.1在 node01 节点上创建挂载目录
2.1.2在 node02 节点上创建挂载目录
2.1.3创建 Pod 资源
2.1.4访问测试
2.2 特点
2.3 用途
三、nfs共享存储卷
3.1特点
3.2用途
3.3部署
…目录
一、emptyDir存储卷
1.1 特点
1.2 用途
1.3部署
二、hostPath存储卷
2.1部署
2.1.1在 node01 节点上创建挂载目录
2.1.2在 node02 节点上创建挂载目录
2.1.3创建 Pod 资源
2.1.4访问测试
2.2 特点
2.3 用途
三、nfs共享存储卷
3.1特点
3.2用途
3.3部署
四、PVC 和 PV
4.1PVC 和 PV介绍
4.1.1PVC 的使用逻辑
4.2创建 StorageClass
4.3PV和PVC之间的相互作用遵循的生命周期 ⭐⭐⭐
根据这 5 个阶段PV 的状态有以下 4 种 ⭐⭐⭐
4.4一个PV从创建到销毁的具体流程
4.5三种回收策略
4.6 查看pv定义的规格
4.7查看PVC的定义方式
4.8 k8s支持的存储插件的访问方式
五、部署NFS使用PV和PVC
5.1配置nfs存储
5.2定义PV
5.3定义PVC
5.4测试访问
六、搭建 StorageClass NFS实现 NFS 的动态 PV 创建
6.1在stor01节点上安装nfs并配置nfs服务
6.2创建 Service Account
6.3使用 Deployment 来创建 NFS Provisioner
6.4创建 StorageClass负责建立 PVC 并调用 NFS provisioner 进行预定的工作并让 PV 与 PVC 建立关联
6.5创建 PVC 和 Pod 测试
七、温故而知新
7.1动态创建PV的步骤
7.2静态创建PV的步骤 容器磁盘上的文件的生命周期是短暂的这就使得在容器中运行重要应用时会出现一些问题。首先当容器崩溃时kubelet 会重启它但是容器中的文件将丢失——容器以干净的状态镜像最初的状态重新启动。其次在Pod中同时运行多个容器时这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume
查看支持的存储卷类型
kubectl explain pod.spec.volumes 常用的有emptyDir、hostPath、nfs、persistentVolumeClaim 一、emptyDir存储卷
当Pod被分配给节点时首先创建emptyDir卷并且只要该Pod在该节点上运行该卷就会存在。正如卷的名字所述它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时emptyDir中的数据将被永久删除。
1.1 特点
临时性存储
emptyDir 提供的存储是临时的其生命周期与所属的 Pod 相关。
当 Pod 被删除时emptyDir 中的数据也会被清除因此不适合用于持久化存储。
Pod 内容器之间的共享
emptyDir 在同一个 Pod 中的所有容器之间共享容器可以读写其中的数据。
创建时机
emptyDir 在 Pod 创建时被创建当容器启动时可以访问其中的空目录。
1.2 用途 适用于需要在同一个 Pod 中的多个容器之间进行临时数据交换或共享的场景。 例如可以用于容器间的缓存共享、临时文件存储等用途。 1.3部署 apiVersion: v1
kind: Pod
metadata:name: pod-emptydirnamespace: defaultlabels:app: myapp
spec:containers:- name: myappimage: soscscs/myapp:v1imagePullPolicy: IfNotPresentports:- name: httpcontainerPort: 80#定义容器挂载内容volumeMounts:#使用的存储卷名称如果跟下面volume字段name值相同则表示使用volume的这个存储卷- name: html#挂载至容器中哪个目录mountPath: /usr/share/nginx/html/- name: busyboximage: busybox:latestimagePullPolicy: IfNotPresentvolumeMounts:- name: html#在容器内定义挂载存储名称和挂载路径mountPath: /data/command: [/bin/sh,-c,while true;do echo $(date) /data/index.html;sleep 2;done]#定义存储卷volumes:#定义存储卷名称 - name: html#定义存储卷类型emptyDir: {} kubectl apply -f pod-emptydir.yamlkubectl get pods -o wide 在上面定义了2个容器其中一个容器是输入日期到index.html中然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。 emptyDir存储卷可以实现pod中的容器之间的数据共享但是存储卷不能做持久化数据且会随着pod生命周期的结束而一起被删除 emptyDir存储卷是临时存储卷 二、hostPath存储卷
hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。hostPath可以实现持久存储但是在node节点故障时也会导致数据的丢失。
2.1部署 2.1.1在 node01 节点上创建挂载目录 mkdir -p /data/pod/volume1
echo node01.zzz.com /data/pod/volume1/index.html 2.1.2在 node02 节点上创建挂载目录 mkdir -p /data/pod/volume1
echo node02.zzz.com /data/pod/volume1/index.html 2.1.3创建 Pod 资源 apiVersion: v1
kind: Pod
metadata:name: pod-hostpathnamespace: default
spec:containers:- name: myappimage: soscscs/myapp:v1#定义容器挂载内容volumeMounts:#使用的存储卷名称如果跟下面volume字段name值相同则表示使用volume的这个存储卷- name: html#挂载至容器中哪个目录mountPath: /usr/share/nginx/html#读写挂载方式默认为读写模式falsereadOnly: false#volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷volumes:#存储卷名称- name: html#路径为宿主机存储路径hostPath:#在宿主机上目录的路径path: /data/pod/volume1#定义类型这表示如果宿主机没有此目录则会自动创建type: DirectoryOrCreate 2.1.4访问测试 删除pod再重建验证是否依旧可以访问原来的内容 kubectl delete -f pod-hostpath.yaml
kubectl apply -f pod-hostpath.yaml 删除pod再重建指定到node02节点验证是否依旧可以访问原来的内容 hostpath:可以实现持久化存储使用node节点的目录或文件挂载到容器但是存储空间会受到node节点单机限制node节点故障数据会丢失pod跨节点不能共享数据 2.2 特点
直接访问主机文件系统 HostPath存储卷允许Pod直接访问主机节点上的文件系统提供了对主机存储的直接访问权限。读写权限 Pod可以对HostPath上的文件进行读写操作这为一些需要在容器内进行文件操作的应用提供了便利。节点依赖性 Pod使用HostPath时会依赖节点上的具体路径这可能导致在不同节点上部署相同Pod时出现问题因为节点之间的文件系统路径可能不同。共享资源多个Pod可以共享同一个HostPath但要小心避免数据冲突或竞争条件
2.3 用途
主机文件操作 适用于需要在Pod内进行主机文件系统操作的场景例如读取或写入主机上的特定文件。数据共享 多个Pod可以共享同一个HostPath这在一些需要多个Pod之间共享数据的情况下可能很有用。特殊需求 用于满足一些特殊需求例如某些应用需要在容器内直接操作主机上的某些文件。
需要注意的是由于HostPath存储卷的使用可能涉及到权限和安全性的考虑一般情况下建议慎重使用并确保在生产环境中采取适当的安全措施
三、nfs共享存储卷 nfs:可以实现持久化存储使用nfs将存储设备空间挂载到容器中pod可以跨node节点共享数据 3.1特点
共享性 NFS存储卷允许多个Pod在集群中共享同一个NFS服务器上的存储空间。这使得多个应用程序可以访问和操作相同的数据促进了数据共享和协作。持久性 NFS存储卷提供了持久化的存储解决方案数据存储在NFS服务器上并且在Pod重新启动或迁移时仍然可用。这对于需要长期保存数据的应用程序和服务非常有用。可扩展性 NFS存储卷可以轻松地扩展以满足应用程序的需求。通过在NFS服务器上添加更多的存储空间或者增加NFS服务器的数量可以扩展存储容量和性能。灵活性 使用NFS存储卷可以将存储与Pod分离从而使得Pod可以在不同的节点上迁移而不会丢失数据。这种灵活性使得在Kubernetes集群中部署和管理应用程序变得更加容易。
3.2用途
简化管理 NFS存储卷可以通过Kubernetes的PV和PVC对象进行声明和管理而无需手动管理存储配置。这简化了存储管理的流程并提高了部署和维护的效率。适用范围广泛 NFS存储卷适用于许多不同类型的应用程序和场景包括数据库、文件共享、日志存储等。它提供了一种通用的存储解决方案适用于各种不同的业务需求。
3.3部署 准备一台新机器安装nfs主机名stor01 在stor01节点上安装nfs并配置nfs服务 mkdir /data/volumes -p
chmod 777 /data/volumesvim /etc/exports
/data/volumes 192.168.246.0/24(rw,no_root_squash)systemctl start rpcbind
systemctl start nfsshowmount -e
Export list for stor01:
/data/volumes 192.168.246.0/24 node节点添加映射 master节点操作 vim pod-nfs-vol.yaml
apiVersion: v1
kind: Pod
metadata:name: pod-vol-nfsnamespace: default
spec:containers:- name: myappimage: soscscs/myapp:v1volumeMounts:- name: htmlmountPath: /usr/share/nginx/htmlvolumes:- name: htmlnfs: #存储卷类型为nfspath: /data/volumes #共享的目录为/opt/k8sserver: 192.168.246.13 #可以为主机名但是做了hosts映射或者ip也可以 在nfs服务器上创建index.html cd /data/volumes
vim index.html
h1 test ye mian /h1 master节点操作 #删除nfs相关pod再重新创建可以得到数据的持久化存储 kubectl delete -f pod-nfs-vol.yaml #删除nfs相关pod再重新创建可以得到数据的持久化存储kubectl apply -f pod-nfs-vol.yaml 四、PVC 和 PV
4.1PVC 和 PV介绍
PV 全称叫做 Persistent Volume持久化存储卷。它是用来描述或者说用来定义一个存储卷的这个通常都是由运维工程师来定义。
PVC 的全称是 Persistent Volume Claim是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。 4.1.1PVC 的使用逻辑 在 Pod 中定义一个存储卷该存储卷类型为 PVC定义的时候直接指定大小PVC 必须与对应的 PV 建立关系PVC 会根据配置的定义去 PV 申请而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。 上面介绍的PV和PVC模式是需要运维人员先创建好PV然后开发人员定义好PVC进行一对一的Bond但是如果PVC请求成千上万那么就需要创建成千上万的PV对于运维人员来说维护成本很高Kubernetes提供一种自动创建PV的机制叫StorageClass它的作用就是创建PV的模板。
pvc和pv绑定才可以给pod使用StorageClass是创建pv的模板
4.2创建 StorageClass
创建 StorageClass 需要定义 PV 的属性比如存储类型、大小等另外创建这种 PV 需要用到的存储插件比如 Ceph 等。 有了这两部分信息Kubernetes 就能够根据用户提交的 PVC找到对应的 StorageClass然后 Kubernetes 就会调用 StorageClass 声明的存储插件自动创建需要的 PV 并进行绑定。
存储 存储工程师运维 PV k8s 管理员运维 PVC 用户维护 PV是集群中的资源。 PVC是对这些资源的请求也是对资源的索引检查。 4.3PV和PVC之间的相互作用遵循的生命周期 ⭐⭐⭐ Provisioning配置--- Binding绑定--- Using使用--- Releasing释放 --- Recycling回收 Provisioning即 PV 的创建可以直接创建 PV静态方式也可以使用 StorageClass 动态创建Binding将 PV 分配给 PVCUsingPod 通过 PVC 使用该 Volume并可以通过准入控制StorageProtection1.9及以前版本为PVCProtection 阻止删除正在使用的 PVCReleasingPod 释放 Volume 并删除 PVCReclaiming回收 PV可以保留 PV 以便下次使用也可以直接从云存储中删除
根据这 5 个阶段PV 的状态有以下 4 种 ⭐⭐⭐
Available可用表示可用状态还未被任何 PVC 绑定Bound已绑定表示 PV 已经绑定到 PVCReleased已释放表示 PVC 被删掉但是资源尚未被集群回收Failed失败表示该 PV 的自动回收失败
4.4一个PV从创建到销毁的具体流程
一个PV创建完后状态会变成Available等待被PVC绑定。一旦被PVC邦定PV的状态会变成Bound就可以被定义了相应PVC的Pod使用。Pod使用完后会释放PVPV的状态变成Released。变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略Retain、Delete和Recycle。
4.5三种回收策略
Retain就是保留现场K8S集群什么也不做等待用户手动去处理PV里的数据处理完后再手动删除PV。Delete策略K8S会自动删除该PV及里面的数据。Recycle方式K8S会将PV里的数据删除然后把PV的状态变成Available又可以被新的PVC绑定使用。 kubectl explain pv #查看pv的定义方式
FIELDS:apiVersion: v1kind: PersistentVolumemetadata: #由于 PV 是集群级别的资源即 PV 可以跨 namespace 使用所以 PV 的 metadata 中不用配置 namespacename: spec 4.6 查看pv定义的规格 kubectl explain pv.spec #查看pv定义的规格 kubectl explain pv.spec #查看pv定义的规格
spce:nfs:定义存储类型path:定义挂载卷路径server:定义服定义访问模型务器名称accessModes:有以下三种访问模型以列表的方式存在也就是说可以定义多个访问模式 * * *- ReadWriteOnce #RWO存储可读可写但只支持被单个 Pod 挂载- ReadOnlyMany #ROX存储可以以只读的方式被多个 Pod 挂载- ReadWriteMany #RWX存储可以以读写的方式被多个 Pod 共享 注官网 nfs 支持全部三种 #nfs 支持全部三种iSCSI 不支持 ReadWriteManyiSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。capacity:定义存储能力一般用于设置存储空间storage: 2Gi 指定大小storageClassName: 自定义存储类名称此配置用于绑定具有相同类别的PVC和PV persistentVolumeReclaimPolicy: Retain #回收策略Retain/Delete/Recycle ⭐⭐⭐ persistentVolumeReclaimPolicy: Retain #回收策略Retain/Delete/Recycle * * *
#Retain保留当删除与之绑定的PVC时候这个PV被标记为releasedPVC与PV解绑但还没有执行回收策略且之前的数据依然保存在该PV上但是该PV不可用需要手动来处理这些数据并删除该PV。
#Delete删除删除与PV相连的后端存储资源只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持
#Recycle回收删除数据效果相当于执行了 rm -rf /thevolume/* 只有 NFS 和 HostPath 支持 4.7查看PVC的定义方式 kubectl explain pvc #查看PVC的定义方式 KIND: PersistentVolumeClaim
VERSION: v1
FIELDS:apiVersion stringkind string metadata Objectspec Object #PV和PVC中的spec关键字段要匹配比如存储storage大小、访问模式accessModes、存储类名称storageClassName
kubectl explain pvc.spec
spec:accessModes: 定义访问模式必须是PV的访问模式的子集resources:requests:storage: 定义申请资源的大小storageClassName: 定义存储类名称此配置用于绑定具有相同类别的PVC和PV
4.8 k8s支持的存储插件的访问方式 五、部署NFS使用PV和PVC 5.1配置nfs存储
cd /data/volumes
mkdir v{1,2,3,4,5}vim /etc/exports
/data/volumes/v1 192.168.246.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.246.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.246.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.246.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.246.0/24(rw,no_root_squash)exportfs -arv #重新加载 NFS 导出设置更新所有共享并在执行过程中提供详细的输出信息showmount -e官方文档https://kubernetes.io/zh-cn/docs/tasks/configure-pod-container/configure-persistent-volume-storage/#create-a-persistentvolume5.2定义PV 这里定义5个PV并且定义挂载的路径以及访问模式还有PV划分的大小。 [rootmaster01 pvc_pv]#cd /opt/pvc_pv
[rootmaster01 pvc_pv]#vim pv-demo.yaml apiVersion: v1
kind: PersistentVolume
metadata:name: pv001labels:name: pv001
spec:nfs:path: /data/volumes/v1server: 192.168.246.13accessModes: [ReadWriteMany,ReadWriteOnce]capacity:storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv002labels:name: pv002
spec:nfs:path: /data/volumes/v2server: 192.168.246.13accessModes: [ReadWriteOnce]capacity:storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv003labels:name: pv003
spec:nfs:path: /data/volumes/v3server: 192.168.246.13accessModes: [ReadWriteMany,ReadWriteOnce]capacity:storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv004labels:name: pv004
spec:nfs:path: /data/volumes/v4server: 192.168.246.13 accessModes: [ReadWriteMany,ReadWriteOnce]capacity:storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv005labels:name: pv005
spec:nfs:path: /data/volumes/v5server: stor01 #可以是nfs机器的ip地址也可以是主机名此处主机名验证下accessModes: [ReadWriteMany,ReadWriteOnce]capacity:storage: 5Gi 配置文件解析 apiVersion: 指定了 Kubernetes API 的版本这里使用的是 v1 版本。kind: 指定了 Kubernetes 资源的类型这里是 PersistentVolume表示持久卷。metadata: 元数据部分包含了持久卷的名称和标签信息。spec: 规范部分定义了持久卷的详细配置。nfs: 指定了该持久卷使用 NFS 存储包括 NFS 服务器地址和路径。accessModes: 指定了持久卷的访问模式可以是 ReadWriteOnce单个节点读写、ReadOnlyMany多个节点只读或 ReadWriteMany多个节点读写。capacity: 指定了持久卷的容量大小。 5.3定义PVC 这里定义了pvc的访问模式为多路读写该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi此时PVC会自动去匹配多路读写且大小为2Gi的PV匹配成功获取PVC的状态即为Bound apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: mypvc #定义pvc的名称namespace: default
spec:accessModes: [ReadWriteMany]resources:requests:storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:name: pod-vol-pvcnamespace: default
spec:containers:- name: myappimage: soscscs/myapp:v1volumeMounts:- name: html #与下面定义的存储卷名称一致mountPath: /usr/share/nginx/htmlvolumes:- name: html #定义的是pvc的名称persistentVolumeClaim:claimName: mypvc #通过名称调用定义的pvc 这个 YAML 文件定义了两个 Kubernetes 资源一个 PersistentVolumeClaim (PVC) 和一个 Pod它们都配置在默认的命名空间中。 配置文件解析 PersistentVolumeClaim (PVC) apiVersion: 指定了 Kubernetes API 的版本这里是 v1。kind: 资源类型这里是 PersistentVolumeClaim表示一个存储卷声明。metadata: 包含资源的元数据这里定义了 PVC 的名称为 mypvc。spec: 规格定义部分。accessModes: 定义了 PVC 的访问模式这里是 ReadWriteMany意味着存储卷可以被多个节点同时以读写方式挂载。resources: 定义了资源请求。requests: 指定了存储资源的请求量这里是 2Gi。 Pod apiVersion: 指定 Kubernetes API 的版本这里也是 v1。kind: 资源类型这里是 Pod。metadata: 包含资源的元数据这里定义了 Pod 的名称为 pod-vol-pvc。spec: 规格定义部分描述了 Pod 的具体配置。containers: 容器数组每个对象定义了一个容器的配置。 name: 容器的名称这里是 myapp。image: 容器的镜像这里使用的是 ikubernetes/myapp:v1。volumeMounts: 定义了容器内的挂载点。name: 卷的引用名称这里是 html。mountPath: 容器内的挂载路径这里是 /usr/share/nginx/html。 volumes: 定义了 Pod 级别的存储卷。 name: 卷的名称与 volumeMounts 中的引用名称相匹配这里是 html。 persistentVolumeClaim: 指定了卷的来源是一个 PVC。 claimName: 引用 PVC 的名称这里是 mypvc。 5.4测试访问
在存储服务器上创建index.html并写入数据通过访问Pod进行查看可以获取到相应的页面
在nfs存储服务器上
cd /data/volumes/v3/
echo welcome to nanjing zzz index.html master上操作
kubectl get pods -o wide
curl 静态创建PV的步骤 准备好存储设备和共享目录准备创建PV资源的配置文件定义访问模式(ReadWriteOnce、ReadOnlyMany、ReadWriteMany、ReadWriteMany)、存储空间大小、回收策略Retain、Recycle、Delete、存储设备类型、storageClassName等准备创建PVC资源的配置文件定义访问模式(必要条件必须是PV支持的访问模式)、存储空间大小(默认就近选择大于等于指定大小的PV)、storageClassName等来绑定PV创建Pod资源挂载PVC存储卷定义卷类型为persistentVolumeClaim并在容器配置中定义存储卷挂载点路径 六、搭建 StorageClass NFS实现 NFS 的动态 PV 创建
Kubernetes 本身支持的动态 PV 创建不包括 NFS所以需要使用外部存储卷插件分配PV。
详见官网 https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
卷插件称为 Provisioner存储分配器NFS 使用的是 nfs-client这个外部PV。 Provisioner用于指定 Volume 插件的类型包括内置插件如 kubernetes.io/aws-ebs和外部插件如 exte卷插件会使用已经配置好的 NFS 服务器自动创建 rnal-storage 提供的 ceph.com/cephfs
内置插件kubernetes.io/aws-ebs 是用于 AWS Elastic Block StoreEBS的内置插件。它能够动态地创建和管理 AWS EBS 存储。外部插件 : ceph.com/cephfs这是 Ceph 文件系统的外部插件。此外nfs-client 也是一个外部插件用于与 NFS 服务器集成实现动态创建 PV。 搭建 StorageClass NFS
创建StorageClass。创建PVC绑定 搭建StorageClassNFS,大致有以下几个步骤 搭建一个可用的NFS Server创建Service Account.这是用来管控NFS provisioner在k8s集群中运行的权限。创建StorageClass.负责建立PV并调用NFS provisioner进行预定的工作,并让PV与PVC建立管理。创建NFS provisioner.有两个功能,一个是在NFS共享目录下创建挂载点(volume),另一个则是建了PV并将PV与NFS的挂载点建立关联 6.1在stor01节点上安装nfs并配置nfs服务
mkdir /opt/k8s
chmod 777 /opt/k8s/vim /etc/exports
/opt/k8s 192.168.246.0/24(rw,no_root_squash,sync)systemctl restart nfs 创建一个名为/opt/k8s的目录mkdir /opt/k8s将/opt/k8s目录的权限设置为777chmod 777 /opt/k8s/使用vim编辑/etc/exports文件添加如下行允许192.168.246.0/24网段的主机以读写模式挂载/opt/k8s目录并且不进行root权限转换norootsquash并同步写入sync重启NFS服务systemctl restart nfs 6.2创建 Service Account
创建 Service Account用来管理 NFS Provisioner 在 k8s 集群中运行的权限设置 nfs-client 对 PVPVCStorageClass 等的规则 #创建 Service Account 账户用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:name: nfs-client-provisioner-clusterrole
rules:- apiGroups: []resources: [persistentvolumes]verbs: [get, list, watch, create, delete]- apiGroups: []resources: [persistentvolumeclaims]verbs: [get, list, watch, update]- apiGroups: [storage.k8s.io]resources: [storageclasses]verbs: [get, list, watch]- apiGroups: []resources: [events]verbs: [list, watch, create, update, patch]- apiGroups: []resources: [endpoints]verbs: [create, delete, get, list, watch, patch, update]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccountname: nfs-client-provisionernamespace: default
roleRef:kind: ClusterRolename: nfs-client-provisioner-clusterroleapiGroup: rbac.authorization.k8s.io
这段YAML文件定义了在Kubernetes中创建一个Service Account以及相关的ClusterRole和ClusterRoleBinding来管理NFS Provisioner的权限。
ServiceAccount部分定义了一个名为nfs-client-provisioner的Service Account用于代表NFS Provisioner在集群中运行时的身份。ClusterRole部分定义了一个名为nfs-client-provisioner-clusterrole的ClusterRole包含了对于Persistent VolumesPV、Persistent Volume ClaimsPVC、StorageClasses等资源的访问权限规则。这些规则包括获取、列出、监视、创建和删除PV、PVC以及获取、列出、监视StorageClasses等操作。ClusterRoleBinding部分定义了一个名为nfs-client-provisioner-clusterrolebinding的ClusterRoleBinding将前面定义的ClusterRole绑定到先前定义的Service Account上以确保该Service Account拥有相应的权限。
通过这些定义可以确保NFS Provisioner在Kubernetes集群中具有适当的权限以管理PV、PVC和StorageClasses等资源。 6.3使用 Deployment 来创建 NFS Provisioner
NFS Provisione(即 nfs-client)有两个功能一个是在 NFS 共享目录下创建挂载点(volume)另一个则是将 PV 与 NFS 的挂载点建立关联。
通过Deployment创建NFS Provisioner的实例可以确保其在集群中始终处于运行状态并且可以根据需要进行水平扩展。这样Kubernetes集群中的应用程序可以方便地访问和使用NFS存储而无需手动管理PV和NFS之间的关联关系。 #由于 1.20 版本启用了 selfLink所以 k8s 1.20 版本通过 nfs provisioner 动态生成pv会报错解决方法如下 # 修改kube-apiserver.yaml文件设置kube-apiserver的参数vim /etc/kubernetes/manifests/kube-apiserver.yaml
spec:containers:- command:- kube-apiserver- --feature-gatesRemoveSelfLinkfalse # 添加这一行开启RemoveSelfLink特性- --advertise-address192.168.41.31
......# 应用kube-apiserver.yaml文件的更改
kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml# 删除kube-apiserver的Pod以便更改生效
kubectl delete pods kube-apiserver -n kube-system # 检查kube-apiserver的Pod是否重新启动
kubectl get pods -n kube-system | grep apiserver kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system
kubectl get pods -n kube-system | grep apiserver vim nfs-client-provisioner.yaml kind: Deployment
apiVersion: apps/v1
metadata:name: nfs-client-provisioner
spec:replicas: 1selector:matchLabels:app: nfs-client-provisionerstrategy:type: Recreatetemplate:metadata:labels:app: nfs-client-provisionerspec:serviceAccountName: nfs-client-provisioner #指定Service Account账户containers:- name: nfs-client-provisionerimage: quay.io/external_storage/nfs-client-provisioner:latestimagePullPolicy: IfNotPresentvolumeMounts:- name: nfs-client-rootmountPath: /persistentvolumes #挂载路径env:- name: PROVISIONER_NAMEvalue: nfs-storage #配置provisioner的Name确保该名称与StorageClass资源中的provisioner名称保持一致- name: NFS_SERVERvalue: stor01 #配置绑定的nfs服务器- name: NFS_PATHvalue: /opt/k8s #配置绑定的nfs服务器目录volumes: #申明nfs数据卷- name: nfs-client-rootnfs:server: stor01 #nfs服务器的主机名或IP也可以path: /opt/k8s node节点加载镜像 6.4创建 StorageClass负责建立 PVC 并调用 NFS provisioner 进行预定的工作并让 PV 与 PVC 建立关联
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:name: nfs-client-storageclass
provisioner: nfs-storage #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:archiveOnDelete: false
#false表示在删除PVC时不会对数据进行存档即删除数据, #false表示在删除PVC时不会对数据目录进行打
包存档即删除数据为ture时就会自动对数据目录进行打包存档存档文件以archived开头 kubectl apply -f nfs-client-storageclass.yamlkubectl get storageclasskubectl apply -f nfs-client-storageclass.yaml: 通过 Kubernetes 的命令行工具 kubectl 应用或创建nfs-client-storageclass.yaml 文件中定义的资源这里是一个 StorageClass。kubectl get storageclass: 通过 kubectl 获取当前 Kubernetes 集群中所有的 StorageClass 列表。这可以用于确认上一步的 StorageClass 是否成功创建。 6.5创建 PVC 和 Pod 测试 # 定义持久卷声明PersistentVolumeClaim用于请求持久卷
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: test-nfs-pvc # 持久卷声明的名称
spec:accessModes:- ReadWriteMany # 访问模式设置为读写多个节点storageClassName: nfs-client-storageclass # 关联的存储类对象resources:requests:storage: 1Gi # 请求的存储容量为1Gi---
# 定义Pod用于使用持久卷
apiVersion: v1
kind: Pod
metadata:name: test-storageclass-pod # Pod 的名称
spec:containers:- name: busyboximage: busybox:latestimagePullPolicy: IfNotPresentcommand:- /bin/sh- -cargs:- sleep 3600 # 命令参数让容器保持运行状态volumeMounts:- name: nfs-pvc # 指定挂载的持久卷名称mountPath: /mnt # 挂载路径restartPolicy: Never # Pod 的重启策略volumes:- name: nfs-pvc # 定义一个名为nfs-pvc的卷persistentVolumeClaim:claimName: test-nfs-pvc # 引用之前定义的持久卷声明的名称 kubectl apply -f test-pvc-pod.yaml PVC 通过 StorageClass 自动申请到空间 查看 NFS 服务器上是否生成对应的目录自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上 ls /opt/k8s进入 Pod 在挂载目录 /mnt 下写一个文件然后查看 NFS 服务器上是否存在该文件 kubectl exec -it test-storageclass-pod sh/ # cd /mnt
/mnt #
/mnt # echo this is test file zzz test.txt
/mnt # 发现 NFS 服务器上存在说明验证成功 cat /opt/k8s/default-test-nfs-pvc-pvc-63092b35-4764-4de2-80eb-5de3c3ddbda6/test.txt 七、温故而知新
7.1动态创建PV的步骤
1准备好存储设备和共享目录 2如果是外置存储卷插件需要先创建serviceaccount账户(Pod使用访问apiserver使用的账户)和RBAC授权(创建角色授予相关资源对象的操作权限再将账户与角色绑定)使得serviceaccount账户具有对PV、PVC、StorageClass等资源的操作权限 3准备创建外置存储插件Pod资源的配置文件外置存储插件在k8s集群中以pod形式运行定义serviceaccount账户作为Pod的用户并设置相关的环境变量(比如存储插件名称等) 4创建StorageClass资源provisioner要设置为存储插件名称 ------------------------以上操作是一劳永逸的
之后只需要创建PVC资源引用StorageClass就可以自动调用存储卷插件动态创建PV资源 5准备创建PVC资源的配置文件定义访问模式、存储空间大小、storageClassName设置为StorageClass资源名称等来动态创建PV资源并绑定PV 6创建Pod资源挂载PVC存储卷定义卷类型为persistentVolumeClaim并在容器配置中定义存储卷挂载点路径
7.2静态创建PV的步骤
准备好存储设备和共享目录准备创建PV资源的配置文件定义访问模式(ReadWriteOnce、ReadOnlyMany、ReadWriteMany、ReadWriteMany)、存储空间大小、回收策略Retain、Recycle、Delete、存储设备类型、storageClassName等准备创建PVC资源的配置文件定义访问模式(必要条件必须是PV支持的访问模式)、存储空间大小(默认就近选择大于等于指定大小的PV)、storageClassName等来绑定PV创建Pod资源挂载PVC存储卷定义卷类型为persistentVolumeClaim并在容器配置中定义存储卷挂载点路径
