[云原生k8s] k8s之持久化存储PV、PVC

目录

一、PV和PVC

1.1、PV概念

1.2、PVC概念

1.3、PV与PVC之间的关系

PV和PVC的生命周期

根据上述五个阶段，PV的状态有以下4种

一个PV从创建到销毁的具体流程

三种回收策略

查看PV、PVC的定义方式、规格

1.4、两种PV的提供方式

二、基于nfs创建静态PV资源和PVC资源

2.1、实验环境

2.2、所有节点安装nfs

2.3、在master节点创建共享目录

2.4、在master编辑exports文件

2.5、master启动rpc和nfs

2.6、创建pv

应用

查看pv卷

2.7、创建PVC

应用

查看

2.8、测试访问

三、搭建StorageClass + NFS

         3.1、创建集群角色

3.2、使用 Deployment 来创建 NFS Provisioner

3.3、创建NFS Provisioner

3.4、创建 StorageClass

3.5、创建 PVC 和 Pod 测试

 3.6、查看 NFS 服务器上是否生成对应的目录

3.7、进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件

---

一、PV和PVC

1.1、PV概念

1. PersistentVolume(PV)是集群中由管理员配置的一段网络存储。集群中的资源就像一个节点是一个集群资源，可以从远程的NFS或分布式对象存储系统中创建得来（PV存储空间大小、访问方式）。
2. PV是诸如卷之类的卷插件，但是只有独立于使用PV的任何单个pod的生命周期。
3. 该API对象捕获存储的实现细节，即NFS，ISCSI或云提供商特定的存储系统
4. PV就是从存储设备中的空间创建出一个存储资源。

1.2、PVC概念

1. PersistentVolumeClaim（PVC）是用户存储的请求。PVC的使用逻辑：在pod中定义一个存储卷（该存储卷类型为PVC），定义的时候直按指定大小，PVC必须与对应的PV建立关系，PVC会根据定义去PV申请，而PV是由存储空间创建出来的。PV和PVC是kubernetes抽象出来的一直存储资源。
2. 虽然PersistentVolumeClaims允许用户使用抽象存储资源，但是常见的需求是，用户需要根据不同的需求去创建PV，用于不同的场景。而此时需要集群管理员提供不同需求的PV，而不仅仅是PV的大小和访问模式，但又不需要用户了解这些卷的实现细节。
3. 对于这样的需求，此时可以采用storageclass资源

1.3、PV与PVC之间的关系

pv是集群中的资源，PVC是对这些资源的请求，也是对资源的索引检查

PV和PVC的生命周期

PV和PVC之间的相互作用遵循这个生命周期：

Provisioning（配置）----Binding（绑定）----Using（使用）----Releasing（释放）----Recycling（回收）

1. Provisioning：即PV的创建，可以直接创建PV（静态方式），也可以使用StorageClass动态创建
2. Binding：将PV分配给PVC
3. Using：Pod通过PVC使用该Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection），阻止删除正在使用的PVC
4. Releasing：Pod释放Volume并删除PVC
5. Recycling：回收PV，可以保留PV以便下次使用，也可以直接从云存储中删除

根据上述五个阶段，PV的状态有以下4种

• Available（可用）：表示可用状态，还未被任何PVC绑定
• Bound（已绑定）：表示PV已经绑定到PVC
• Released（已释放）：表示PVC被删掉，但是资源尚未被集群回收
• Failed（失败）：表示该PV的自动回收失败

一个PV从创建到销毁的具体流程

1. 一个PV创建完后状态会变成Available，等待被PVC绑定
2. 一旦被PVC绑定，PV的状态就会变成Bound，就可用被定义了相应PVC的Pod使用。
3. Pod使用完后会释放PV，PV的状态变成Released。
4. 变成Released的PV会根据定义的回收策略做相应的回收工作。

三种回收策略

有三种回收策略，Retain、Delete和Recycle。

1. Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。
2. Delete策略，K8S会自动删除该PV及里面的数据。
3. Recycle方式，K8S会讲PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。

查看PV、PVC的定义方式、规格

查看PV的定义方式

kubectl explain pv

FIELDS:
	apiVersion: v1
	kind: PersistentVolume
	metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
	  name: 
	spec

查看PV定义的规格

kubectl explain pv.spec

spec:
  nfs:（定义存储类型）
    path:（定义挂载卷路径）
    server:（定义服务器名称）
  accessModes:（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式）
    - ReadWriteOnce          #（RWO）存储可读可写，但只支持被单个 Pod 挂载
	- ReadOnlyMany           #（ROX）存储可以以只读的方式被多个 Pod 挂载
	- ReadWriteMany          #（RWX）存储可以以读写的方式被多个 Pod 共享
#nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
  capacity:（定义存储能力，一般用于设置存储空间）
    storage: 2Gi （指定大小）
  storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
  persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle）
#Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。
#Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）
#Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）

查看PVC的定义方式

kubectl explain pvc

KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:
   apiVersion	<string>
   kind	<string>  
   metadata	<Object>
   spec	<Object>

PV和PVC的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）

kubectl explain pvc.spec
spec:
  accessModes: （定义访问模式，必须是PV的访问模式的子集）
  resources:
    requests:
      storage: （定义申请资源的大小）
  storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）

1.4、两种PV的提供方式

这里又两种PV的提供方式：静态或者动态

静态---》直接固定存储空间

• 集群管理员创建一些PV。它们携带可供集群用户使用的真实存储的详细信息。它们存在于Kubernetes API中，可用于消费。

动态---》通过存储类进行动态创建存储空间

• 当管理员创建的静态PV都不匹配用户的PVC时，集群可能会尝试动态的为PVC配置卷。此配置基于StorageClasses
• StorageClasses：PVC必须请求存储类，并且管理员必须已创建并配置该类才能进行动态配置。要求该类的声明有效的为直接禁用动态配置

二、基于nfs创建静态PV资源和PVC资源

2.1、实验环境

2.2、所有节点安装nfs

yum install -y nfs-utils rpcbind

2.3、在master节点创建共享目录

mkdir -p /data/volumes/v{1..5}

2.4、在master编辑exports文件

vim /etc/exports
/data/volumes/v1 192.168.130.0/24(rw,root_squash,sync,all_squash)
/data/volumes/v2 192.168.130.0/24(rw,root_squash,sync,all_squash)
/data/volumes/v3 192.168.130.0/24(rw,root_squash,sync,all_squash)
/data/volumes/v4 192.168.130.0/24(rw,root_squash,sync,all_squash)
/data/volumes/v5 192.168.130.0/24(rw,root_squash,sync,all_squash)
 
exportfs -arv
 
showmount -e

2.5、master启动rpc和nfs

#手动加载 NFS 共享服务时，应该先启动 rpcbind，再启动 nfs
systemctl start rpcbind && systemctl enable rpcbind
systemctl start nfs && systemctl enable nfs
 
#查看 rpcbind 端口是否开启，rpcbind 服务默认使用 tcp 端口 111
netstat -anpt | grep rpcbind

  

2.6、创建pv

vim pv-demo.yaml
 
 
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1
    server: stor01  #改为本机IP或hosts指定域名
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01   #改为本机IP或hosts指定域名
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01   #改为本机IP或hosts指定域名
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: stor01  #改为本机IP或hosts指定域名
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: stor01  #改为本机IP或hosts指定域名
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi

应用

kubectl apply -f pv-demo.yaml

查看pv卷

kubectl get pv
 
 
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                      7s
pv002     2Gi        RWO            Retain           Available                                      7s
pv003     2Gi        RWO,RWX        Retain           Available                                      7s
pv004     4Gi        RWO,RWX        Retain           Available                                      7s
pv005     5Gi        RWO,RWX        Retain           Available                           			7s

2.7、创建PVC

vim pod-vol-pvc.yaml
 
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mypvc
  namespace: default
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-pvc
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      persistentVolumeClaim:
        claimName: mypvc

应用

kubectl apply -f pod-vol-pvc.yaml

查看

kubectl get pv
 
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                            19m
pv002     2Gi        RWO            Retain           Available                                            19m
pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            19m
pv004     4Gi        RWO,RWX        Retain           Available                                            19m
pv005     5Gi        RWO,RWX        Retain           Available                                            19m
 
kubectl get pvc
 
NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc     Bound     pv003     2Gi        RWO,RWX                       22s

 

2.8、测试访问

//在存储服务器上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面。

cd /data/volumes/v3/ 
echo "welcome to use pv3" > index.html
 
kubectl get pods -o wide 
 
pod-vol-pvc 1/1 Running 0 3m 10.244.2.5 k8s-node02
 
curl 10.244.2.5
 
welcome to use pv3

 

三、搭建StorageClass + NFS

Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。详见：存储类 | Kubernetes

卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。 Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 external-storage 提供的 ceph.com/cephfs）。

3.1、创建集群角色

vim nfs-client-rbac.yaml
#创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
 
 
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: nfs-client-provisioner-clusterrole
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["list", "watch", "create", "update", "patch"]
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
  name: nfs-client-provisioner
  namespace: default
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-clusterrole
  apiGroup: rbac.authorization.k8s.io

kubectl apply -f nfs-client-rbac.yaml

3.2、使用 Deployment 来创建 NFS Provisioner

NFS Provisione(即 nfs-client)，有两个功能：一个是在 NFS 共享目录下创建挂载点(volume)，另一个则是将 PV 与 NFS 的挂载点建立关联。

#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：

vim /etc/kubernetes/manifests/kube-apiserver.yaml

#kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
#kubectl delete pods kube-apiserver -n kube-system 
修改完等待重启就行，上面命令不需要执行
kubectl get pods -n kube-system | grep apiserver

3.3、创建NFS Provisioner

vim nfs-client-provisioner.yaml
kind: Deployment
apiVersion: apps/v1
metadata:
  name: nfs-client-provisioner
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner   	  #指定Service Account账户
      containers:
        - name: nfs-client-provisioner
        image: quay.io/external_storage/nfs-client-provisioner:latest
        imagePullPolicy: IfNotPresent
        volumeMounts:
          - name: nfs-client-root
            mountPath: /persistentvolumes
        env:
          - name: PROVISIONER_NAME
            value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
          - name: NFS_SERVER
            value: 192.168.130.70           #配置绑定的nfs服务器
          - name: NFS_PATH
            value: /data          #配置绑定的nfs服务器目录
      volumes:              #申明nfs数据卷
        - name: nfs-client-root
          nfs:
            server: 192.168.130.70
            path: /data

kubectl apply -f nfs-client-provisioner.yaml 

3.4、创建 StorageClass

负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml
 
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
  archiveOnDelete: "false"   #false表示在删除PVC时不会对数据进行存档，即删除数据

kubectl apply -f nfs-client-storageclass.yaml

3.5、创建 PVC 和 Pod 测试

vim test-pvc-pod.yaml
 
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: test-nfs-pvc
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: nfs-client-storageclass   #关联storageclass对象
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: test-storageclass-pod
spec:
  containers:
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    command:
    - "/bin/sh"
    - "-c"
    args:
    - "sleep 3600"
    volumeMounts:
    - name: nfs-pvc
      mountPath: /mnt
  restartPolicy: Never
  volumes:
  - name: nfs-pvc
    persistentVolumeClaim:
      claimName: test-nfs-pvc    #与PVC名称一致

kubectl apply -f test-pvc-pod.yaml

 3.6、查看 NFS 服务器上是否生成对应的目录

ls /data/volumes/v5

3.7、进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件

kubectl exec -it test-storageclass-pod sh
 
#进入挂载目录
cd /mnt
echo "this is test" > 1.txt

cat /data/volumes/v5/default-test-nfs-pvc-pvc-2436629e-ffca-4c1e-9172-123d5e9aa332/1.txt

 发现DNS服务器上有这个文件，成功了