emptyDir存储卷

当 Pod 被调度到节点上后，首先会创建 emptyDir 卷，只要该 Pod 在该节点上运行，该卷就会一直存在。
emptyDir 卷有如下特点：

1. emptyDir 卷最初是空的；
2. emptyDir 可以挂载到这个 Pod 中的任意一个容器的任意路径上；
3. 不管 emptyDir 挂载在哪，Pod 中的每个容器都可以对 emptyDir 卷中的相同文件进行读写；
4. 当 Pod 从节点中删除时，emptyDir 中的数据将被永久删除。

示例

mkdir /opt/volumes
cd /opt/volumes

vim pod-emptydir.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: pod-emptydir
  namespace: default
  labels:
    app: myapp
    tier: frontend
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    imagePullPolicy: IfNotPresent
    ports:
    - name: http
      containerPort: 80
	#定义容器挂载内容
    volumeMounts:
	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: html
	  #挂载至容器中哪个目录
      mountPath: /usr/share/nginx/html/
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - name: html
	  #在容器内定义挂载存储名称和挂载路径
      mountPath: /data/
    command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
  #定义存储卷
  volumes:
  #定义存储卷名称  
  - name: html
    #定义存储卷类型
    emptyDir: {}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

kubectl apply -f pod-emptydir.yaml
kubectl get pods -o wide

上面这个例子定义了2个容器，其中一个容器（busybox）负责输入日期到 index.html 中，然后另一个容器（myapp）负责将 index.html 中的内容展示给我们，从而验证两个容器之间挂载的 emptyDir 实现共享。
访问80端口，查看index.html中的内容是否能看到
curl 10.244.2.21

hostPath存储卷

hostPath 卷将 node 节点的文件系统中的文件或目录挂载到集群中。
hostPath 可以实现持久存储，删除 Pod 并不会丢失数据，但是在 node 节点故障时，也会导致数据的丢失。

示例

在 node01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo ‘node01.cld.com’ > /data/pod/volume1/index.html

在 node02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo ‘node02.kgc.com’ > /data/pod/volume1/index.html

回 master 节点创建 Pod 资源
vim pod-hostpath.yaml

apiVersion: v1
kind: Pod
metadata:
  name: pod-hostpath
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
	#定义容器挂载内容
    volumeMounts:
	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: html
	  #挂载至容器中哪个目录
      mountPath: /usr/share/nginx/html
	  #挂载方式，false为读写模式，true为只读模式
	  readOnly: false
  #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
  volumes:
    #存储卷名称
    - name: html
	  #路径，为宿主机存储路径
      hostPath:
	    #在宿主机上目录的路径
        path: /data/pod/volume1
		#定义类型，这表示如果宿主机没有此目录则会自动创建
        type: DirectoryOrCreate
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

kubectl apply -f pod-hostpath.yaml
检查有没有创建成功
kubectl get pods -o wide

访问测试
curl 10.244.2.22

删除pod，再重建，验证是否依旧可以访问原来的内容
kubectl delete -f pod-hostpath.yaml
kubectl apply -f pod-hostpath.yaml

kubectl get pods -o wide

curl 10.244.2.37

依旧能访问到相同的内容

nfs共享存储卷

示例

本示例将 stor01 作为共享存储服务器，stor01 不需要加入 K8S 集群，但是需要在各节点的 /etc/hosts 中添加主机映射，如下

在 stor01 节点上安装 nfs
yum -y install rpcbind nfs-utils
配置nfs服务
mkdir /data/volumes -p
chmod 777 /data/volumes

vim /etc/exports
/data/volumes 192.168.188.0/24(rw,no_root_squash)

systemctl start rpcbind
systemctl start nfs

showmount -e

回master节点创建 Pod
vim pod-nfs-vol.yaml

apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-nfs
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      nfs:
        path: /data/volumes
        server: stor01
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

kubectl apply -f pod-nfs-vol.yaml
kubectl get pods -o wide

在 nfs 服务器（stor01）上创建index.html
cd /data/volumes
vim index.html

 nfs stor01
1

在 master 节点访问
curl 10.244.2.38

删除 nfs 相关的pod，再重新创建，可以得到数据的持久化存储
kubectl delete -f pod-nfs-vol.yaml

kubectl apply -f pod-nfs-vol.yaml

curl 10.244.2.24
依然是之前的内容，说明 nfs 共享存储的方式下，删除 Pod 并不会导致数据丢失

PVC 和 PV

基本概念

• PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的。

• PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 进行存储。

• PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

• PV 是集群中的资源。 PVC 是对这些资源的请求，也是对资源的索引检查。

PVC 的使用

基础模式：在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。
问题：上面的模式需要先创建好 PV，然后定义好 PVC 进行一对一的 Bound，但是如果 PVC 请求成千上万，那么就需要创建成千上万的 PV，此时的维护成本很高。
解决：Kubernetes 提供一种自动创建 PV 的机制，叫 StorageClass，它的作用就是创建 PV 的模板。
模板模式：创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。

生命周期

PV 和 PVC 之间的相互作用遵循这个生命周期：

Provisioning（配置）---> Binding（绑定）---> Using（使用）---> Releasing（释放） ---> Recycling（回收）
1

• Provisioning：即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建
• Binding：绑定，将 PV 分配给 PVC
• Using：Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC
• Releasing：Pod 释放 Volume 并删除 PVC
• Reclaiming：回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除

PV 的状态

根据这 5 个阶段，PV 的状态有以下 4 种：

• Available（可用）：表示可用状态，还未被任何 PVC 绑定
• Bound（已绑定）：表示 PV 已经绑定到 PVC
• Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
• Failed（失败）：表示该 PV 的自动回收失败

具体流程

一个 PV 从创建到销毁的具体流程如下：

1. 一个 PV 创建完后状态会变成 Available，等待被 PVC 绑定。
2. 一旦被 PVC 邦定，PV 的状态会变成 Bound，就可以被定义了相应 PVC 的 Pod 使用。
3. Pod 使用完后会释放 PV，PV 的状态变成 Released。
4. 变成 Released 的 PV 会根据定义的回收策略做相应的回收工作。有三种回收策略：
   1. Retain：保留现场，K8S 集群什么也不做，等待用户手动去处理 PV 里的数据，处理完后，再手动删除 PV。
   2. Delete：K8S 会自动删除该 PV 及里面的数据。
   3. Recycle：K8S 会将 PV 里的数据删除，然后把 PV 的状态变成 Available，又可以被新的 PVC 绑定使用。

基础操作

查看pv的定义方式
kubectl explain pv

基础格式：

KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:
	apiVersion: v1
	kind: PersistentVolume
	metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
	  name: 
    spec:
      nfs:（定义存储类型）
        path:（定义挂载卷路径）
        server:（定义服务器名称）
      accessModes:（定义访问模型，有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式）
        - ReadWriteOnce          #（RWO）存储可读可写，但只支持被单个 Pod 挂载
	    - ReadOnlyMany           #（ROX）存储可以以只读的方式被多个 Pod 挂载
	    - ReadWriteMany          #（RWX）存储可以以读写的方式被多个 Pod 共享
注：官网 nfs 支持全部三种；iSCSI 不支持 RWX（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ROX 和 RWX。
      capacity:（定义存储能力，一般用于设置存储空间）
        storage: 2Gi （指定大小）
      storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
      persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle）
#Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。
#Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）
#Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）
#PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

示例：NFS 使用 PV 和 PVC

配置 nfs 存储

在 stor01 上
mkdir /data/volumes/v{1,2,3,4,5}

vim /etc/exports

/data/volumes/v1 192.168.188.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.188.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.188.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.188.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.188.0/24(rw,no_root_squash)
1
2
3
4
5

查看共享点
exportfs -arv

或者 showmount -e

定义PV

master 上定义5个PV，并且定义挂载的路径以及访问模式，还有PV划分的大小。
vim pv-demo.yaml

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69

kubectl apply -f pv-demo.yaml
kubectl get pv

定义PVC

这里定义了pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV，匹配成功获取PVC的状态即为Bound
vim pod-pvc.yaml

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mypvc
  namespace: default
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-pvc
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      persistentVolumeClaim:
        claimName: mypvc
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

kubectl apply -f pod-pvc.yaml

kubectl get pv

kubectl get pvc

测试访问

在存储服务器（stor01）上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面
cd /data/volumes/v3/
echo “welcome to use pv3” > index.html
在 master 节点上查看 Pod 的 IP
kubectl get pods -o wide

访问测试
curl 10.244.1.51

示例：搭建 StorageClass + NFS

实现 NFS 的动态 PV 创建
Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。
卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部PV。
Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 exte卷插件会使用已经配置好的 NFS 服务器自动创建 rnal-storage 提供的 ceph.com/cephfs）。

配置 nfs 服务

在 stor01 节点上安装 nfs，并配置
mkdir /opt/k8s
chmod 777 /opt/k8s/

vim /etc/exports
/opt/k8s 192.168.10.0/24(rw,no_root_squash,sync)

systemctl restart nfs

创建 Service Account

Service Account 用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则
vim nfs-client-rbac.yaml

#创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: nfs-client-provisioner-clusterrole
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["list", "watch", "create", "update", "patch"]
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
  name: nfs-client-provisioner
  namespace: default
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-clusterrole
  apiGroup: rbac.authorization.k8s.io
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

kubectl apply -f nfs-client-rbac.yaml

创建 NFS Provisioner

使用 Deployment 来创建 NFS Provisioner
NFS Provisione（即 nfs-client），有两个功能：

• 在 NFS 共享目录下创建挂载点（volume）
• 将 PV 与 NFS 的挂载点建立关联。

#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：
vim /etc/kubernetes/manifests/kube-apiserver.yaml

kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver-master01 -n kube-system
kubectl get pods -n kube-system | grep apiserver

创建 NFS Provisioner

vim nfs-client-provisioner.yaml

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nfs-client-provisioner
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner   	  #指定Service Account账户
      containers:
        - name: nfs-client-provisioner
          image: quay.io/external_storage/nfs-client-provisioner:latest
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
            - name: NFS_SERVER
              value: stor01           #配置绑定的nfs服务器
            - name: NFS_PATH
              value: /opt/k8s          #配置绑定的nfs服务器目录
      volumes:              #申明nfs数据卷
        - name: nfs-client-root
          nfs:
            server: stor01
            path: /opt/k8s
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36

kubectl apply -f nfs-client-provisioner.yaml

kubectl get pod

创建 StorageClass

Storage Class 负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
  archiveOnDelete: "false"   #false表示在删除PVC时不会对数据进行存档，即删除数据
1
2
3
4
5
6
7

kubectl apply -f nfs-client-storageclass.yaml

kubectl get storageclass

创建 PVC 和 Pod 测试

vim test-pvc-pod.yaml

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: test-nfs-pvc
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: nfs-client-PROVISIONER    #关联StorageClass对象
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: test-storageclass-pod
spec:
  containers:
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    command:
    - "/bin/sh"
    - "-c"
    args:
    - "sleep 3600"
    volumeMounts:
    - name: nfs-pvc
      mountPath: /mnt
  restartPolicy: Never
  volumes:
  - name: nfs-pvc
    persistentVolumeClaim:
      claimName: test-nfs-pvc      #与PVC名称保持一致
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34

kubectl apply -f test-pvc-pod.yaml

PVC 通过 StorageClass 自动申请到空间
kubectl get pvc

检查 NFS 服务器

查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName}的目录格式放到 NFS 服务器上
ls /opt/k8s/

进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件
kubectl exec -it test-storageclass-pod sh
cd /mnt
echo “hello world” > test.txt

发现 NFS 服务器上存在，说明验证成功
cat /opt/k8s/default-test-nfs-pvc-pvc-db1d4711-d32a-42e3-a200-1fe00ee56be5/test.txt