-
【云原生之k8s】k8s之持久化存储PV、PVC
一、PV和PVC
1、PV 概念
- PersistentVolume(PV) 是集群中由管理员配置的一段网络存储。集群中的资源就像一个节点是一个集群资源，可以从远程的NFS 或分布式对象存储系统中创建得来（PV 存储空间大小、访问方式）。
- PV 是诸如卷之类的卷插件，但是只有独立于使用 PV 的任何单个 pod 的生命周期。
- 该 API 对象捕获存储的实现细节，即 NFS，ISCSI 或云提供商特定的存储系统。
- PV 就是从存储设备中的空间创建出一个存储资源。
2、PVC概念
- PersistentVolumeClaim(PVC) 是用户存储的请求。PVC 的使用逻辑：在 pod 中定义一个存储卷（该存储卷类型为PVC)，定义的时候直按指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据定义去 PV 申请，而 PV是由存储空间创建出来的。PV 和 PVC 是 kubernetes 抽象出来的一种存储资源。
- 虽然 PersistentVolumeClaims 允许用户使用抽象存储资源，但是常见的需求是，用户需要根据不同的需求去创建PV，用于不同的场景。而此时需要集群管理员提供不同需求的 PV，而不仅仅是 PV 的大小和访问模式，但又不需要用户了解这些卷的实现细节。
- 对于这样的需求，此时可以采用 storageclass 资源。
3、PV 与 PVC 之间的关系
PV 是集群中的资源，PVC 是对这些资源的请求，也是对资源的索引检查。
3.1 PV和PVC的生命周期
PV 和 PVC 之间的相互作用遵循这个生命周期：
Provisioning(配置) ---> Binding(绑定) ---> Using(使用) ---> Releasing(释放) ---> Recycling(回收)- 1
- Provisioning，即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建
- Binding，将 PV 分配给 PVC
- Using，Pod 通过 PVC 使用该Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的PVC
- Releasing，Pod 释放 Volume 并删除 PVC
- Recycling，回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除
根据这 5 个阶段，PV 的状态有以下 4 种：
-
Available（可用）：表示可用状态，还未被任何 PVC 绑定
-
Bound（已绑定）：表示 PV 已经绑定到 PVC
-
Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
-
Failed（失败）：表示该 PV 的自动回收失败
3.2 一个PV从创建到销毁的具体流程
- 一个PV创建完后状态会变成Available，等待被PVC绑定。
- 一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。
- Pod使用完后会释放PV，PV的状态变成Released。
- 变成Released的PV会根据定义的回收策略做相应的回收工作。
3.3 三种回收策略
有三种回收策略，Retain、Delete和Recycle。
- Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。
- Delete策略，K8S会自动删除该PV及里面的数据。
- Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。
3.4 查看pv、pvc的定义方式、规格
查看pv的定义方式
kubectl explain pvFIELDS: apiVersion: v1 kind: PersistentVolume metadata: #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace name: spec- 1
- 2
- 3
- 4
- 5
- 6
查看pv定义的规格
kubectl explain pv.specspec: nfs:（定义存储类型） path:（定义挂载卷路径） server:（定义服务器名称） accessModes:（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式） - ReadWriteOnce #（RWO）存储可读可写，但只支持被单个 Pod 挂载 - ReadOnlyMany #（ROX）存储可以以只读的方式被多个 Pod 挂载 - ReadWriteMany #（RWX）存储可以以读写的方式被多个 Pod 共享 #nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。 capacity:（定义存储能力，一般用于设置存储空间） storage: 2Gi （指定大小） storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV） persistentVolumeReclaimPolicy: Retain #回收策略（Retain/Delete/Recycle） #Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。 #Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持） #Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
查看PVC的定义方式
kubectl explain pvcKIND: PersistentVolumeClaim VERSION: v1 FIELDS: apiVersionkind metadata - 1
- 2
- 3
- 4
- 5
- 6
- 7
PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）
kubectl explain pvc.spec spec: accessModes: （定义访问模式，必须是PV的访问模式的子集） resources: requests: storage: （定义申请资源的大小） storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）- 1
- 2
- 3
- 4
- 5
- 6
- 7
4、两种PV的提供方式
这里有两种 PV 的提供方式：静态或者动态
静态 —》直接固定存储空间
- 集群管理员创建一些 PV。它们携带可供集群用户使用的真实存储的详细信息。它们存在于 Kubernetes API 中，可用于消费。
动态 —》通过存储类进行动态创建存储空间
- 当管理员创建的静态 PV 都不匹配用户的 PVC 时，集群可能会尝试动态地为 PVC 配置卷。此配置基于
StorageClasses：PVC必须请求存储类，并且管理员必须已创建并配置该类才能进行动态配置。要求该类的声明有效地为自己禁用动态配置。
二、基于 nfs 创建静态 PV 资源和 PVC 资源
1、实验环境
nfs-server k8s-master（192.168.109.11） nfs-client k8s-node1（192.168.109.12），k8s-node2（192.168.109.13） 2、所有节点安装nfs
yum install -y nfs-utils rpcbind- 1
3、在master节点创建共享目录
mkdir /nfsdata1 mkdir /nfsdata2 mkdir /nfsdata3- 1
- 2
- 3
4、master 授权共享目录
chmod 777 /nfsdata1 chmod 777 /nfsdata2 chmod 777 /nfsdata3- 1
- 2
- 3
5、master 编辑 exports 文件
vim /etc/exports /nfsdata1 192.168.10.0/24(rw,no_root_squash,sync) /nfsdata2 192.168.10.0/24(rw,no_root_squash,sync) /nfsdata3 192.168.10.0/24(rw,no_root_squash,sync) exportfs -rv- 1
- 2
- 3
- 4
- 5
- 6
6、master 启动 rpc 和 nfs（注意顺序）
#手动加载 NFS 共享服务时，应该先启动 rpcbind，再启动 nfs systemctl start rpcbind && systemctl enable rpcbind systemctl start nfs && systemctl enable nfs #查看 rpcbind 端口是否开启，rpcbind 服务默认使用 tcp 端口 111 netstat -anpt | grep rpcbind- 1
- 2
- 3
- 4
- 5
- 6
查看本机发布的共享目录
showmount -e- 1
7、master 创建访问页面供测试用
echo '11111' > /nfsdata1/index.html echo '22222' > /nfsdata2/index.html echo '33333' > /nfsdata3/index.html- 1
- 2
- 3
8、master 创建 PV
这里定义 3 个 PV，并且定义挂载的路径以及访问模式，还有 PV 划分的大小。
vim pv-demo.yaml #注意自己的共享目录和主机名 ———————————————————————————————————————————— apiVersion: v1 kind: PersistentVolume metadata: name: pv001 labels: name: pv001 spec: nfs: path: /nfsdata1 server: master accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 1Gi --- apiVersion: v1 kind: PersistentVolume metadata: name: pv002 labels: name: pv002 spec: nfs: path: /nfsdata2 server: master accessModes: ["ReadWriteOnce"] capacity: storage: 2Gi --- apiVersion: v1 kind: PersistentVolume metadata: name: pv003 labels: name: pv003 spec: nfs: path: /nfsdata3 server: master accessModes: ["ReadWriteMany","ReadWriteOnce"] capacity: storage: 2Gi- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
创建并查看
kubectl apply -f pv-demo.yaml kubectl get pv ---------------------------------------- [root@master ~]# kubectl apply -f pv-demo.yaml persistentvolume/pv001 created persistentvolume/pv002 created persistentvolume/pv003 created [root@master ~]# kubectl get pv NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE pv001 1Gi RWO,RWX Retain Available 6s pv002 2Gi RWO Retain Available 6s pv003 2Gi RWO,RWX Retain Available 6s- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
9、定义PVC
这里定义了 PVC 的访问模式为多路读写，该访问模式必须在前面 PV 定义的访问模式之中。定义 PVC 申请的大小为 2Gi，此时 PVC 会自动去匹配多路读写且大小为 2Gi 的 PV ，匹配成功获取 PVC 的状态即为 Bound。
vim pvc-demo.yaml --------------------------------------- apiVersion: v1 kind: PersistentVolumeClaim metadata: name: mypvc spec: accessModes: ["ReadWriteMany"] resources: requests: storage: 2Gi --- apiVersion: v1 kind: Pod metadata: name: pv-pvc spec: containers: - name: myapp image: nginx volumeMounts: - name: html mountPath: /usr/share/nginx/html volumes: - name: html persistentVolumeClaim: claimName: mypvc- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
发布并查看
kubectl apply -f pvc-demo.yaml kubectl get pv ------------------------------------ [root@master ~]# kubectl apply -f pvc-demo.yaml persistentvolumeclaim/mypvc created pod/pv-pvc created [root@master ~]# kubectl get pv NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE pv001 1Gi RWO,RWX Retain Available 4m51s pv002 2Gi RWO Retain Available 4m51s pv003 2Gi RWO,RWX Retain Bound default/mypvc 4m51s- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
可以看到 pv003 设定的 pvc 请求存储卷是 2Gi 并且多路可读可写。
访问 pv003[root@master ~]# kubectl get pod -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES pv-pvc 1/1 Running 0 58s 10.244.1.3 node01[root@master ~]# kubectl get pv NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE pv001 1Gi RWO,RWX Retain Available 84s pv002 2Gi RWO Retain Available 84s pv003 2Gi RWO,RWX Retain Bound default/mypvc 84s [root@master ~]# curl 10.244.1.3 33333 - 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
pod 创建不成功检查下网络怎么样，delete pv/pvc.yaml 重试。
10、测试多路读写
1. 我们通过相同的存储卷，只修改 pod 的名称 cp pvc-demo.yaml 1.yaml cp pvc-demo.yaml 2.yaml 2. 修改 pod 的名称后，apply 执行创建 kubectl apply -f 1.yaml kubectl apply -f 2.yaml 3. 查看 ip kubectl get pod -o wide 4. curl 进行测试，查看是否共享存储卷，多路读写- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
三、基于动态 storageclass 创建 PV 与 PVC
1、storageclass 定义
前面的例子中，我们提前创建了 PV，然后通过 PVC 申请 PV 并在 Pod 中使用，这种方式叫做静态供给（Static Provision）。
与之对应的是动态供给（Dynamical Provision），即如果没有满足 PVC 条件的 PV，会动态创建 PV。相比静态供给，动态供给有明显的优势：不需要提前创建 PV，减少了管理员的工作量，效率高。
2、storageclass 用途
在 PV 和 PVC 使用过程中存在的问题，在 PVC 申请存储空间时，未必就有现成的 PV 符合 PVC 申请的需求，上面 nfs 在做 PVC 可以成功的因素是因为我们做了指定的需求处理。当 PVC 申请的存储空间不一定有满足 PVC 要求的 PV 时，Kubernetes 为管理员提供了描述存储 “class(类)” 的方法(StorageClass)。举个例子，在存储系统中划分一个 1TB 的存储空间提供给 Kubernetes 使用，当用户需要一个 10G 的 PVC 时，会立即通过 restful 发送请求，从而让存储空间创建一个 10G 的 image，之后在我们的集群中定义成 10G 的 PV 供给给当前的 PVC 作为挂载使用。在此之前我们的存储系统必须支持 restful 接口，比如 ceph 分布式存储，而 glusterfs 则需要借助第三方接口完成这样的请求。
3、storageclass 的 yaml 格式
kubectl explain storageclass #storageclass 也是 k8s 上的资源 KIND: Storageclass VERSION: storage.k8s.io/vl FIELDS: allowVolumeExpansionallowedTopologies<[]Object>apiversion kind metadata - 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
StorageClass 中包含 provisioner、parameters 和 reclaimPolicy 字段，当 class 需要动态分配 PersistentVolume 时会使用到。由于 storageclass 需要一个独立的存储系统，此处就不再演示。从其他资料查看定义 storageclass 的方式如下: ========================================================== kind: storageClass apiversion: storage.k8s.io/v1432 metadata : name : standard provisioner: kubernetes.iol aws-ebs435 parameters: type: gp2 reclaimPolicy: Retain mountoptions: - debug- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
示例：
StorageClass standard：
StorageClass slow：
这两个 StorageClass 都会动态创建 AWS EBS，不同在于 standard 创建的是 gp2 类型的 EBS，而 slow 创建的是 io1 类型的 EBS。不同类型的 EBS 支持的参数可参考 AWS 官方文档。StorageClass 支持 Delete 和 Retain 两种 reclaimPolicy，默认是 Delete。与之前一样，PVC 在申请 PV 时，只需要指定 StorageClass 和容量以及访问模式，比如：
除了 AWS EBS，Kubernetes 支持其他多种动态供给 PV 的 Provisioner四、PV、PVC 应用在 mysql 的持久化存储
下面演示如何为 MySQL 数据库提供持久化存储，步骤为：
- 创建 PV 和 PVC。
- 部署 MySQL。
- 向 MySQL 添加数据。
- 模拟节点宕机故障，Kubernetes 将 MySQL 自动迁移到其他节点。
- 验证数据一致性。
1、创建 MySQL PV 和 PVC
mysql-pv.yml
vim mysql-pv.yml --------------------------------------- apiVersion: v1 kind: PersistentVolume metadata: name: mysql-pv spec: accessModes: - ReadWriteOnce capacity: storage: 1Gi persistentVolumeReclaimPolicy: Retain storageClassName: nfs nfs: path: /nfsdata1/mysql-pv server: master- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
mysql-pvc.yml
vim mysql-pvc.yml ----------------------------------- apiVersion: v1 kind: PersistentVolumeClaim metadata: name: mysql-pvc spec: accessModes: - ReadWriteOnce resources: requests: storage: 1Gi storageClassName: nfs- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
创建 mysql-pv 和 mysql-pvc
[root@master ~]# kubectl apply -f mysql-pv.yml persistentvolume/mysql-pv created [root@master ~]# kubectl apply -f mysql-pvc.yml persistentvolumeclaim/mysql-pvc created [root@master ~]# kubectl get pv,pvc NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE persistentvolume/mysql-pv 1Gi RWO Retain Bound default/mysql-pvc nfs 24s NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE persistentvolumeclaim/mysql-pvc Bound mysql-pv 1Gi RWO nfs 20s #将先前实验的配置清除，方便检查- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
2、部署 MySQL
mysql.yml
vim mysql.yml ------------------------------------ apiVersion: v1 kind: Service metadata: name: mysql spec: ports: - port: 3306 selector: app: mysql --- apiVersion: apps/v1 kind: Deployment metadata: name: mysql spec: selector: matchLabels: app: mysql template: metadata: labels: app: mysql spec: containers: - image: mysql:5.6 name: mysql env: - name: MYSQL_ROOT_PASSWORD value: password ports: - containerPort: 3306 name: mysql volumeMounts: - name: mysql-persistent-storage mountPath: /var/lib/mysql volumes: - name: mysql-persistent-storage persistentVolumeClaim: claimName: mysql-pvc- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
PVC mysql-pvc Bound 的 PV mysql-pv 将被 mount 到 MySQL 的数据目录 /var/lib/mysql。
kubectl apply -f mysql.yml kubectl get pod -o wide- 1
- 2
-
相关阅读:
vue路由切换时，若是一个路径但是参数不同，页面不会变化
【pycharm】控制台报错：终端无法加载文件\venv\Scripts\activate.ps1
NetCore 使用 Swashbuckle 搭建 SwaggerHub
Python 中的后台进程
react
微软研究院团队获得首届AI药物研发算法大赛总冠军
微生物学检验试剂——博迈伦
【小笔记】从算法训练现象分析可能的参数设置问题-loss分析篇
48.Java Lambda表达式
如何做好一场高效的讨论
- 原文地址：https://blog.csdn.net/qq_45088125/article/details/126187167
