• PV与PVC


    emptyDir存储卷 

    概述:

    当Pod被分配给节点时,首先创建emptyDir卷,并且只要该Pod在该节点上运行,该卷就会存在。正如卷的名字所述,它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件,尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时,emptyDir中的数据将被永久删除。
    实例:

    1. mkdir /opt/volumes
    2. cd /opt/volumes
    3. vim pod-emptydir.yaml
    4. apiVersion: v1
    5. kind: Pod
    6. metadata:
    7. name: pod-emptydir
    8. namespace: default
    9. labels:
    10. app: myapp
    11. tier: frontend
    12. spec:
    13. containers:
    14. - name: myapp
    15. image: ikubernetes/myapp:v1
    16. imagePullPolicy: IfNotPresent
    17. ports:
    18. - name: http
    19. containerPort: 80
    20. #定义容器挂载内容
    21. volumeMounts:
    22. #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷
    23. - name: html
    24. #挂载至容器中哪个目录
    25. mountPath: /usr/share/nginx/html/
    26. - name: busybox
    27. image: busybox:latest
    28. imagePullPolicy: IfNotPresent
    29. volumeMounts:
    30. - name: html
    31. #在容器内定义挂载存储名称和挂载路径
    32. mountPath: /data/
    33. command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
    34. #定义存储卷
    35. volumes:
    36. #定义存储卷名称
    37. - name: html
    38. #定义存储卷类型
    39. emptyDir: {}
    40. kubectl apply -f pod-emptydir.yaml
    41. kubectl get pods -o wide

    //在上面定义了2个容器,其中一个容器是输入日期到index.html中,然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。
     

    hostPath存储卷

    概述

    hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。
    hostPath可以实现持久存储,但是在node节点故障时,也会导致数据的丢失。
     

    在 node01 节点上创建挂载目录

    1. mkdir -p /data/pod/volume1
    2. echo 'node01.kgc.com' > /data/pod/volume1/index.html

    在 node02 节点上创建挂载目录

    1. mkdir -p /data/pod/volume1
    2. echo 'node02.kgc.com' > /data/pod/volume1/index.html

    /创建 Pod 资源

    1. vim pod-hostpath.yaml
    2. apiVersion: v1
    3. kind: Pod
    4. metadata:
    5. name: pod-hostpath
    6. namespace: default
    7. spec:
    8. containers:
    9. - name: myapp
    10. image: ikubernetes/myapp:v1
    11. #定义容器挂载内容
    12. volumeMounts:
    13. #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷
    14. - name: html
    15. #挂载至容器中哪个目录
    16. mountPath: /usr/share/nginx/html
    17. #读写挂载方式,默认为读写模式false
    18. readOnly: false
    19. #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
    20. volumes:
    21. #存储卷名称
    22. - name: html
    23. #路径,为宿主机存储路径
    24. hostPath:
    25. #在宿主机上目录的路径
    26. path: /data/pod/volume1
    27. #定义类型,这表示如果宿主机没有此目录则会自动创建
    28. type: DirectoryOrCreate
    kubectl apply -f pod-hostpath.yaml
    

    访问测试

    kubectl get pods -o wide
    

    curl 10.244.2.35
     

    删除pod,再重建,验证是否依旧可以访问原来的内容

    1. kubectl delete -f pod-hostpath.yaml
    2. kubectl apply -f pod-hostpath.yaml
    kubectl get pods -o wide

    访问测试

    curl  10.244.2.37 
    

    nfs共享存储卷 

    1. mkdir /data/volumes -p
    2. chmod 777 /data/volumes
    3. vim /etc/exports
    4. /data/volumes 192.168.10.0/24(rw,no_root_squash)
    5. systemctl start rpcbind
    6. systemctl start nfs
    7. showmount -e
    8. Export list for stor01:
    9. /data/volumes 192.168.10.0/24
    10. //master节点操作
    11. vim pod-nfs-vol.yaml
    12. apiVersion: v1
    13. kind: Pod
    14. metadata:
    15. name: pod-vol-nfs
    16. namespace: default
    17. labels:
    18. app: myapp
    19. spec:
    20. containers:
    21. - name: myapp
    22. image: nginx
    23. volumeMounts:
    24. - name: html
    25. mountPath: /usr/share/nginx/html
    26. readOnly: false
    27. nodeSelector:
    28. kubernetes.io/hostname: node01
    29. volumes:
    30. - name: html
    31. nfs:
    32. path: /opt/k8s/volumes
    33. server: 192.168.41.29

    在nfs服务器上创建index.html

    /master节点操作

    删除nfs相关pod,再重新创建,可以得到数据的持久化存储

    kubectl apply -f pod-nfs-vol.yaml
    

      

    NFS使用PV和PVC

    配置nfs存储
     

    1. 配置nfs存储
    2. mkdir v{1,2,3,4,5}

    1. vim /etc/exports
    2. /data/volumes/v1 192.168.41.0/24(rw,no_root_squash)
    3. /data/volumes/v2 192.168.41.0/24(rw,no_root_squash)
    4. /data/volumes/v3 192.168.41.0/24(rw,no_root_squash)
    5. /data/volumes/v4 192.168.41.0/24(rw,no_root_squash)
    6. /data/volumes/v5 192.168.41.0/24(rw,no_root_squash)

    exportfs -arv
    showmount -e

    2、定义PV
     

    这里定义5个PV,并且定义挂载的路径以及访问模式,还有PV划分的大小。

    1. vim pv-demo.yaml
    2. apiVersion: v1
    3. kind: PersistentVolume
    4. metadata:
    5. name: pv001
    6. labels:
    7. name: pv001
    8. spec:
    9. nfs:
    10. path: /data/volumes/v1
    11. server: stor01
    12. accessModes: ["ReadWriteMany","ReadWriteOnce"]
    13. capacity:
    14. storage: 1Gi
    15. ---
    16. apiVersion: v1
    17. kind: PersistentVolume
    18. metadata:
    19. name: pv002
    20. labels:
    21. name: pv002
    22. spec:
    23. nfs:
    24. path: /data/volumes/v2
    25. server: stor01
    26. accessModes: ["ReadWriteOnce"]
    27. capacity:
    28. storage: 2Gi
    29. ---
    30. apiVersion: v1
    31. kind: PersistentVolume
    32. metadata:
    33. name: pv003
    34. labels:
    35. name: pv003
    36. spec:
    37. nfs:
    38. path: /data/volumes/v3
    39. server: stor01
    40. accessModes: ["ReadWriteMany","ReadWriteOnce"]
    41. capacity:
    42. storage: 2Gi
    43. ---
    44. apiVersion: v1
    45. kind: PersistentVolume
    46. metadata:
    47. name: pv004
    48. labels:
    49. name: pv004
    50. spec:
    51. nfs:
    52. path: /data/volumes/v4
    53. server: stor01
    54. accessModes: ["ReadWriteMany","ReadWriteOnce"]
    55. capacity:
    56. storage: 4Gi
    57. ---
    58. apiVersion: v1
    59. kind: PersistentVolume
    60. metadata:
    61. name: pv005
    62. labels:
    63. name: pv005
    64. spec:
    65. nfs:
    66. path: /data/volumes/v5
    67. server: stor01
    68. accessModes: ["ReadWriteMany","ReadWriteOnce"]
    69. capacity:
    70. storage: 5Gi
    kubectl apply -f pv-demo.yaml

    kubectl get pv

    3、定义PVC
    //这里定义了pvc的访问模式为多路读写,该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi,此时PVC会自动去匹配多路读写且大小为2Gi的PV,匹配成功获取PVC的状态即为Bound
     

    1. vim pod-vol-pvc.yaml
    2. apiVersion: v1
    3. kind: PersistentVolumeClaim
    4. metadata:
    5. name: mypvc
    6. namespace: default
    7. spec:
    8. accessModes: ["ReadWriteMany"]
    9. resources:
    10. requests:
    11. storage: 2Gi
    12. ---
    13. apiVersion: v1
    14. kind: Pod
    15. metadata:
    16. name: pod-vol-pvc
    17. namespace: default
    18. spec:
    19. containers:
    20. - name: myapp
    21. image: ikubernetes/myapp:v1
    22. volumeMounts:
    23. - name: html
    24. mountPath: /usr/share/nginx/html
    25. volumes:
    26. - name: html
    27. persistentVolumeClaim:
    28. claimName: mypvc

    kubectl apply -f pod-vol-pvc.yaml

    1. kubectl get pv
    2. kubectl get pvc

    搭建 StorageClass + NFS,实现 NFS 的动态 PV 创建

    Kubernetes 本身支持的动态 PV 创建不包括 NFS,所以需要使用外部存储卷插件分配PV。详见:https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
     

    卷插件称为 Provisioner(存储分配器),NFS 使用的是 nfs-client,这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。
    Provisioner:用于指定 Volume 插件的类型,包括内置插件(如 kubernetes.io/aws-ebs)和外部插件(如 external-storage 提供的 ceph.com/cephfs)。
     

    1、在stor01节点上安装nfs,并配置nfs服务

    1. mkdir /opt/k8s
    2. chmod 777 /opt/k8s/
    3. vim /etc/exports
    4. /opt/k8s 192.168.41.0/24(rw,no_root_squash,sync)
    5. systemctl restart nfs

    2、创建 Service Account,用来管理 NFS Provisioner 在 k8s 集群中运行的权限,设置 nfs-client 对 PV,PVC,StorageClass 等的规则
     

    1. vim nfs-client-rbac.yaml
    2. #创建 Service Account 账户,用来管理 NFS Provisionerk8s 集群中运行的权限
    3. apiVersion: v1
    4. kind: ServiceAccount
    5. metadata:
    6. name: nfs-client-provisioner
    7. ---
    8. #创建集群角色
    9. apiVersion: rbac.authorization.k8s.io/v1
    10. kind: ClusterRole
    11. metadata:
    12. name: nfs-client-provisioner-clusterrole
    13. rules:
    14. - apiGroups: [""]
    15. resources: ["persistentvolumes"]
    16. verbs: ["get", "list", "watch", "create", "delete"]
    17. - apiGroups: [""]
    18. resources: ["persistentvolumeclaims"]
    19. verbs: ["get", "list", "watch", "update"]
    20. - apiGroups: ["storage.k8s.io"]
    21. resources: ["storageclasses"]
    22. verbs: ["get", "list", "watch"]
    23. - apiGroups: [""]
    24. resources: ["events"]
    25. verbs: ["list", "watch", "create", "update", "patch"]
    26. - apiGroups: [""]
    27. resources: ["endpoints"]
    28. verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
    29. ---
    30. #集群角色绑定
    31. apiVersion: rbac.authorization.k8s.io/v1
    32. kind: ClusterRoleBinding
    33. metadata:
    34. name: nfs-client-provisioner-clusterrolebinding
    35. subjects:
    36. - kind: ServiceAccount
    37. name: nfs-client-provisioner
    38. namespace: default
    39. roleRef:
    40. kind: ClusterRole
    41. name: nfs-client-provisioner-clusterrole
    42. apiGroup: rbac.authorization.k8s.io
    43. kubectl apply -f nfs-client-rbac.yaml

    3、使用 Deployment 来创建 NFS Provisioner
    NFS Provisione(即 nfs-client),有两个功能:一个是在 NFS 共享目录下创建挂载点(volume),另一个则是将 PV 与 NFS 的挂载点建立关联。
    #由于 1.20 版本启用了 selfLink,所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错,解决方法如下:

    1. vim /etc/kubernetes/manifests/kube-apiserver.yaml
    2. spec:
    3. containers:
    4. - command:
    5. - kube-apiserver
    6. - --feature-gates=RemoveSelfLink=false #添加这一行
    7. - --advertise-address=192.168.80.20
    8. ......
    9. kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
    10. kubectl delete pods kube-apiserver -n kube-system
    11. kubectl get pods -n kube-system | grep apiserver
    12. #创建 NFS Provisioner
    13. vim nfs-client-provisioner.yaml
    14. kind: Deployment
    15. apiVersion: apps/v1
    16. metadata:
    17. name: nfs-client-provisioner
    18. spec:
    19. replicas: 1
    20. selector:
    21. matchLabels:
    22. app: nfs-client-provisioner
    23. strategy:
    24. type: Recreate
    25. template:
    26. metadata:
    27. labels:
    28. app: nfs-client-provisioner
    29. spec:
    30. serviceAccountName: nfs-client-provisioner #指定Service Account账户
    31. containers:
    32. - name: nfs-client-provisioner
    33. image: quay.io/external_storage/nfs-client-provisioner:latest
    34. imagePullPolicy: IfNotPresent
    35. volumeMounts:
    36. - name: nfs-client-root
    37. mountPath: /persistentvolumes
    38. env:
    39. - name: PROVISIONER_NAME
    40. value: nfs-storage #配置provisioner的Name,确保该名称与StorageClass资源中的provisioner名称保持一致
    41. - name: NFS_SERVER
    42. value: stor01 #配置绑定的nfs服务器
    43. - name: NFS_PATH
    44. value: /opt/k8s #配置绑定的nfs服务器目录
    45. volumes: #申明nfs数据卷
    46. - name: nfs-client-root
    47. nfs:
    48. server: stor01
    49. path: /opt/k8s
    50. kubectl apply -f nfs-client-provisioner.yaml
    51. kubectl get pod
    52. NAME READY STATUS RESTARTS AGE
    53. nfs-client-provisioner-cd6ff67-sp8qd 1/1 Running 0 14s


    创建 NFS Provisioner

    4、创建 StorageClass,负责建立 PVC 并调用 NFS provisioner 进行预定的工作,并让 PV 与 PVC 建立关联
     

    1. apiVersion: /v1
    2. kind: PersistentVolumeClain
    3. metadata:
    4. name: nfs-client-pvc
    5. spec:
    6. accessModes:
    7. - ReadWriteMany
    8. storageClassName: nfs-client-storageclass
    9. resources:
    10. requests:
    11. storage: 1Gi
    12. ~
    13. kubectl apply -f nfs-client-storageclass.yaml
    14. kubectl get storageclass

    kubectl get storageclass
    

    5、创建 PVC 和 Pod 测试
     

    1. vim test-pvc-pod.yaml
    2. apiVersion: v1
    3. kind: PersistentVolumeClaim
    4. metadata:
    5. name: test-nfs-pvc
    6. spec:
    7. accessModes:
    8. - ReadWriteMany
    9. storageClassName: nfs-client-storageclass #关联StorageClass对象
    10. resources:
    11. requests:
    12. storage: 1Gi
    13. ---
    14. apiVersion: v1
    15. kind: Pod
    16. metadata:
    17. name: test-storageclass-pod
    18. spec:
    19. containers:
    20. - name: busybox
    21. image: busybox:latest
    22. imagePullPolicy: IfNotPresent
    23. command:
    24. - "/bin/sh"
    25. - "-c"
    26. args:
    27. - "sleep 3600"
    28. volumeMounts:
    29. - name: nfs-pvc
    30. mountPath: /mnt
    31. restartPolicy: Never
    32. volumes:
    33. - name: nfs-pvc
    34. persistentVolumeClaim:
    35. claimName: test-nfs-pvc #与PVC名称保持一致
    36. kubectl apply -f test-pvc-pod.yaml

    kubectl apply -f test-pvc-pod.yaml
    

    PVC 通过 StorageClass 自动申请到空间

  • 相关阅读:
    npm 换源
    2022 云原生编程挑战赛火热报名中!看导师如何拆解 Serverless 赛题?
    基于自编码器的心电信号异常检测(Pytorch)
    面试利器!阿里内部强推的RocketMQ学习指南,不能再细了
    react native模拟器 (夜神) unable to load script
    DDoS 报告攻击类型占比
    6 个最佳免费 Android 数据恢复软件
    GO语言开山篇(四):开发工具VSCode的安装和使用及环境搭建
    【仿牛客网笔记】 Redis,一站式高性能存储方案——Redis入门
    Oauth2系列7:授权码和访问令牌的颁发流程是怎样的?
  • 原文地址:https://blog.csdn.net/Breeze_nebula/article/details/134247688