k8s--持久化存储

k8s--持久化存储

一、k8s持久化存储概述

1.1、为什么要做持久化存储

在k8s中部署的应用都是以pod容器的形式运行的，假如我们部署MySQL、Redis等数据库，需要对这些数据库产生的数据做备份。因为Pod是有生命周期的，如果pod不挂载数据卷，那pod被删除或重启后这些数据会随之消失，如果想要长久的保留这些数据就要用到pod数据持久化存储

1.2、k8s支持存储类型

# 查看k8s支持的存储
[root@k8s-master1 ~]# kubectl explain pods.spec.volumes
    
# 常用的存储
# emptyDir、hostPath、nfs、persistentVolumeClaim、glusterfs、cephfs、configMap、secret

我们想要使用存储卷，需要经历如下步骤：

1. 定义pod的volume，这个volume指明它要关联到哪个存储上的
2. 在容器中要使用volumemounts挂载对应的存储

二、k8s常用存储类型

2.1、emptyDir

emptyDir类型的Volume是在Pod分配到Node上时被创建，Kubernetes会在Node上自动分配一个目录，因此无需指定宿主机Node上对应的目录文件。 这个目录的初始内容为空，当Pod从Node上移除时，emptyDir中的数据会被永久删除。emptyDir Volume主要用于某些应用程序无需永久保存的临时目录，多个容器的共享目录等。

Emptydir的官方网址：https://kubernetes.io/docs/concepts/storage/volumes#emptydir

[root@k8s-master1 ~]# cat emptydir.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: pod-empty
spec:
  containers:
  - name: container-empty
    image: nginx
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - mountPath: /cache
      name: cache-volume
  volumes:
  - emptyDir: {}
    name: cache-volume

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f emptydir.yaml 
pod/pod-empty created

# 查看本机临时目录存在的位置，可用如下方法：
# 查看pod调度到哪个节点
[root@k8s-master1 ~]# kubectl get pods -o wide | grep empty
pod-empty   1/1     Running   0          12s   10.244.36.117   k8s-node1   <none>           <none>

# 查看pod的uid
[root@k8s-master1 ~]# kubectl get pods pod-empty -o yaml | grep uid
uid: ba7abc07-b984-49d2-a46f-01bac9a7f5ec

# 登录到k8s-node1上
[root@k8s-node1 ~]# tree /var/lib/kubelet/pods/ba7abc07-b984-49d2-a46f-01bac9a7f5ec
/var/lib/kubelet/pods/ba7abc07-b984-49d2-a46f-01bac9a7f5ec
├── containers
│   └── container-empty
│       └── da09ccbb
├── etc-hosts
├── plugins
│   └── kubernetes.io~empty-dir
│       ├── cache-volume
│       │   └── ready
│       └── wrapped_default-token-cm4mx
│           └── ready
└── volumes
    ├── kubernetes.io~empty-dir
    │   └── cache-volume
    └── kubernetes.io~secret
        └── default-token-cm4mx
            ├── ca.crt -> ..data/ca.crt
            ├── namespace -> ..data/namespace
            └── token -> ..data/token
            
# 临时目录在本地的/var/lib/kubelet/pods/ba7abc07-b984-49d2-a46f-01bac9a7f5ec/volumes/kubernetes.io~empty-dir/cache-volume/下
# 在临时目录创建文件并进入容器查看
[root@k8s-node1 ~]# cd /var/lib/kubelet/pods/ba7abc07-b984-49d2-a46f-01bac9a7f5ec/volumes/kubernetes.io~empty-dir/cache-volume/
[root@k8s-node1 cache-volume]# echo 123 > a.txt
[root@k8s-master1 ~]# kubectl get pods
NAME        READY   STATUS    RESTARTS   AGE
pod-empty   1/1     Running   0          4m4s
[root@k8s-master1 ~]# kubectl exec -it pod-empty -- cat /cache/a.txt
123

2.2、hostPath

hostPath Volume是指Pod挂载宿主机上的目录或文件。 hostPath Volume使得容器可以使用宿主机的文件系统进行存储，hostpath（宿主机路径）：节点级别的存储卷，在pod被删除，这个存储卷还是存在的，不会被删除，所以只要同一个pod被调度到同一个节点上来，在pod被删除重新被调度到这个节点之后，对应的数据依然是存在的。

# 创建一个pod，挂载hostPath存储卷
[root@k8s-master1 ~]# cat hostpath.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: test-hostpath
spec:
  #nodeName: k8s-node1
  containers:
  - image: nginx
    name: test-nginx
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - mountPath: /test-nginx
      name: test-volume
  - image: tomcat:8.5-jre8-alpine
    name: test-tomcat
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - mountPath: /test-tomcat
      name: test-volume
  volumes:
  - name: test-volume
    hostPath:
      path: /data1
      type: DirectoryOrCreate # DirectoryOrCreate表示本地有/data1目录，就用本地的，本地没有就会在pod调度到的节点自动创建一个

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f hostpath.yaml 
pod/test-hostpath created

# 查看pod调度到了哪个物理节点
[root@k8s-master1 ~]# kubectl get pods -o wide | grep hostpath
test-hostpath   2/2     Running   0          29s   10.244.36.118   k8s-node1   <none>           <none> 

# 由上面可以知道pod调度到了k8s-node1上，登录到k8s-node1机器，查看是否在这台机器创建了存储目录
[root@k8s-node1 ~]# ll /data1/
total 0
# 上面可以看到已经创建了存储目录/data1，这个/data1会作为pod的持久化存储目录

# 在k8s-node1上的/data1下创建一个目录
[root@k8s-node1 ~]# cd /data1/
[root@k8s-node1 data1]# mkdir aa
# 测试存储卷是否可以正常使用,登录到nginx容器

[root@k8s-master1 ~]# kubectl exec -it test-hostpath -c test-nginx -- /bin/bash      
root@test-hostpath:/# cd /test-nginx/  
#/test-nginx/目录存在，说明已经把宿主机目录挂载到了容器里
root@test-hostpath:/test-nginx# ls
aa

#测试存储卷是否可以正常使用,登录到tomcat容器
[root@k8s-master1 ~]# kubectl exec -it test-hostpath -c test-tomcat -- /bin/bash
root@test-hostpath:/usr/local/tomcat# cd /test-tomcat/
#/test-tomcat/目录存在，说明已经把宿主机目录挂载到了容器里
root@test-hostpath:/test-tomcat# ls
aa

#通过上面测试可以看到，同一个pod里的test-nginx和test-tomcat这两个容器是共享存储卷的。

hostPath存储缺点：单节点，pod删除之后重新创建必须调度到同一个node节点，数据才不会丢失

解决方法：定义nodeName，将pod调度到指定节点

2.3、nfs

hostPath存储，存在单点故障，pod挂载hostPath时，只有调度到同一个节点，数据才不会丢失。那可以使用nfs作为持久化存储

1）安装nfs

# 搭建nfs服务,以k8s的控制节点作为NFS服务端
[root@k8s-master1 ~]# yum install nfs-utils -y

# 在宿主机创建NFS需要的共享目录
[root@k8s-master1 ~]# mkdir /data/volumes -p

# 配置nfs共享服务器上的/data/volumes目录
[root@k8s-master1 ~]# systemctl start nfs
[root@k8s-master1 ~]# vim /etc/exports
/data/volumes 192.168.40.0/24(rw,no_root_squash)  # no_root_squash: 用户具有根目录的完全管理访问权限
# 使NFS配置生效
[root@k8s-master1 ~]# exportfs -arv
exporting 192.168.40.0/24:/data/volumes
[root@k8s-master1 ~]# systemctl restart nfs

# 设置成开机自启动
[root@k8s-master1 ~]# systemctl enable nfs && systemctl status nfs

# k8s-node2和k8s-node1上也安装nfs驱动
[root@k8s-node1 ~]# yum install nfs-utils -y && systemctl enable nfs
[root@k8s-node2 ~]# yum install nfs-utils -y && systemctl enable nfs

# 在k8s-node1上手动挂载试试：

[root@k8s-node1 ~]# mkdir /test 
[root@k8s-node1 ~]# mount 192.168.40.180:/data/volumes /test/
[root@k8s-node1 ~]# df -h
192.168.40.180:/data/volumes   50G  5.2G   45G  11% /test

# 手动卸载：
[root@k8s-node1 ~]# umount /test

2）创建Pod，挂载NFS共享出来的目录

[root@k8s-master1 ~]# cat nfs.yaml 
apiVersion: v1
kind: Pod
metadata:
 name: test-nfs-volume
spec:
 containers:
 - name: test-nfs
   image: nginx
   imagePullPolicy: IfNotPresent
   ports:
   - containerPort: 80
     protocol: TCP
   volumeMounts:
   - name: nfs-volumes
     mountPath: /usr/share/nginx/html
 volumes:
 - name: nfs-volumes
   nfs:
    path: /data/volumes	# nfs的共享目录
    server: 192.168.40.180 # 安装nfs服务的地址

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f nfs.yaml

# 查看pod是否创建成功
[root@k8s-master1 ~]# kubectl get pods -o wide | grep nfs
test-nfs-volume   1/1     Running   0          17s     10.244.36.119   k8s-node1   <none>           <none>

# 登录到nfs服务器，在共享目录创建一个index.html
[root@k8s-master1 volumes]# pwd
/data/volumes
[root@k8s-master1 volumes]# cat index.html 
Hello, NFS Volume

# 请求pod，看结果
[root@k8s-master1 volumes]# curl 10.244.36.119
Hello, NFS Volume

# 登录到pod验证下
[root@k8s-master1 volumes]# kubectl exec -it test-nfs-volume  -- /bin/bash
root@test-nfs-volume:/# cat /usr/share/nginx/html/index.html 
Hello, NFS Volume

# nfs支持多个客户端挂载，可以创建多个pod，挂载同一个nfs服务器共享出来的目录；但是nfs如果宕机了，数据也就丢失了，所以需要使用分布式存储，常见的分布式存储有glusterfs和cephfs

2.4、PV&PVC

2.4.1、相关概念

官网：https://kubernetes.io/docs/concepts/storage/persistent-volumes/#access-modes

1）PV是什么？

PersistentVolume（PV）是群集中的一块存储，由管理员配置或使用存储类动态配置。 它是集群中的资源，就像pod是k8s集群资源一样。 PV是容量插件，如Volumes，其生命周期独立于使用PV的任何单个pod。

2）PVC是什么？

PersistentVolumeClaim（PVC）是一个持久化存储卷，我们在创建pod时可以定义这个类型的存储卷。 它类似于一个pod。 Pod消耗节点资源，PVC消耗PV资源。 Pod可以请求特定级别的资源（CPU和内存）。 pvc在申请pv的时候也可以请求特定的大小和访问模式（例如，可以一次读写或多次只读）。****

2.4.2、PVC和PV工作原理

PV是群集中的资源。 PVC是对这些资源的请求。 PV和PVC之间的相互作用遵循以下生命周期：

1）pv的供应方式
可以通过两种方式配置PV：静态或动态。

• 静态：集群管理员创建了许多PV。它们包含可供群集用户使用的实际存储的详细信息。它们存在于Kubernetes API中，可供使用。
• 动态：当管理员创建的静态PV都不匹配用户的PersistentVolumeClaim时，群集可能会尝试为PVC专门动态配置卷。此配置基于StorageClasses，PVC必须请求存储类，管理员必须创建并配置该类，以便进行动态配置。

2）绑定
用户创建pvc并指定需要的资源和访问模式。在找到可用pv之前，pvc会保持未绑定状态

3）使用

a）需要找一个存储服务器，把它划分成多个存储空间；
b）k8s管理员可以把这些存储空间定义成多个pv；
c）在pod中使用pvc类型的存储卷之前需要先创建pvc，通过定义需要使用的pv的大小和对应的访问模式，找到合适的pv；
d）pvc被创建之后，就可以当成存储卷来使用了，我们在定义pod时就可以使用这个pvc的存储卷
e）pvc和pv它们是一一对应的关系，pv如果被pvc绑定了，就不能被其他pvc使用了；
f）我们在创建pvc的时候，应该确保和底下的pv能绑定，如果没有合适的pv，那么pvc就会处于pending状态。

4）回收策略

当我们创建pod时如果使用pvc做为存储卷，那么它会和pv绑定，当删除pod，pvc和pv绑定就会解除，解除之后和pvc绑定的pv卷里的数据需要怎么处理，目前，卷可以保留，回收或删除：

• Retain：当删除pvc的时候，pv仍然存在，处于released状态，但是它不能被其他pvc绑定使用，里面的数据还是存在的，当我们下次再使用的时候，数据还是存在的，这个是默认的回收策略
• Recycle：（不推荐使用，1.15可能被废弃了）
• Delete：删除pvc时即会从Kubernetes中移除PV，也会从相关的外部设施中删除存储资产

2.4.3、pod使用pvc作为持久化存储卷

1）创建nfs共享目录

# 在宿主机创建NFS需要的共享目录
[root@k8s-master1 ~]# mkdir /data/volume_test/v{1,2,3,4,5,6,7,8,9,10} -p

# 配置nfs共享宿主机上的/data/volume_test/v1..v10目录
[root@k8s-master1 ~]# cat /etc/exports
/data/volumes 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v1 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v2 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v3 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v4 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v5 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v6 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v7 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v8 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v9 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v10 192.168.40.0/24(rw,no_root_squash)

# 重新加载配置，使配置成效
[root@k8s-master1 ~]# exportfs -arv

2）创建pv

[root@k8s-master1 ~]# cat pv.yaml 
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v1
spec:
  capacity:
    storage: 1Gi  #pv的存储空间容量
  accessModes: ["ReadWriteOnce"]
  nfs:
    path: /data/volume_test/v1 #nfs的存储空间创建成pv
    server: 192.168.40.180     #nfs服务器的地址
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v2
spec:
  capacity:
      storage: 2Gi
  accessModes: ["ReadWriteMany"]
  nfs:
    path: /data/volume_test/v2
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v3
spec:
  capacity:
      storage: 3Gi
  accessModes: ["ReadOnlyMany"]
  nfs:
    path: /data/volume_test/v3
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v4
spec:
  capacity:
      storage: 4Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v4
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v5
spec:
  capacity:
      storage: 5Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v5
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v6
spec:
  capacity:
      storage: 6Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v6
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v7
spec:
  capacity:
      storage: 7Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v7
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v8
spec:
  capacity:
      storage: 8Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v8
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v9
spec:
  capacity:
      storage: 9Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v9
    server: 192.168.40.180
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name:  v10
spec:
  capacity:     
      storage: 10Gi
  accessModes: ["ReadWriteOnce","ReadWriteMany"]
  nfs:
    path: /data/volume_test/v10  
    server: 192.168.40.180

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f pv.yaml 
persistentvolume/v1 created
persistentvolume/v2 created
persistentvolume/v3 created
persistentvolume/v4 created
persistentvolume/v5 created
persistentvolume/v6 created
persistentvolume/v7 created
persistentvolume/v8 created
persistentvolume/v9 created
persistentvolume/v10 created

# 查看pv资源
[root@k8s-master1 ~]# kubectl get pv
NAME   CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM   STORAGECLASS   REASON   AGE
v1     1Gi        RWO            Retain           Available                                   11s
v10    10Gi       RWO,RWX        Retain           Available                                   11s
v2     2Gi        RWX            Retain           Available                                   11s
v3     3Gi        ROX            Retain           Available                                   11s
v4     4Gi        RWO,RWX        Retain           Available                                   11s
v5     5Gi        RWO,RWX        Retain           Available                                   11s
v6     6Gi        RWO,RWX        Retain           Available                                   11s
v7     7Gi        RWO,RWX        Retain           Available                                   11s
v8     8Gi        RWO,RWX        Retain           Available                                   11s
v9     9Gi        RWO,RWX        Retain           Available                                   11s
# STATUS是Available，表示pv是可用的

3）创建pvc，和符合条件的pv绑定

[root@k8s-master1 ~]# cat pvc.yaml 
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: my-pvc
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f pvc.yaml 
persistentvolumeclaim/my-pvc created

# 查看pv和pvc
[root@k8s-master1 ~]# kubectl get pv
NAME   CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM            STORAGECLASS   REASON   AGE
v1     1Gi        RWO            Retain           Available                                            4m35s
v10    10Gi       RWO,RWX        Retain           Available                                            4m35s
v2     2Gi        RWX            Retain           Bound       default/my-pvc                           4m35s
v3     3Gi        ROX            Retain           Available                                            4m35s
v4     4Gi        RWO,RWX        Retain           Available                                            4m35s
v5     5Gi        RWO,RWX        Retain           Available                                            4m35s
v6     6Gi        RWO,RWX        Retain           Available                                            4m35s
v7     7Gi        RWO,RWX        Retain           Available                                            4m35s
v8     8Gi        RWO,RWX        Retain           Available                                            4m35s
v9     9Gi        RWO,RWX        Retain           Available                                            4m35s
# STATUS是Bound，表示这个pv已经被my-pvc绑定了

[root@k8s-master1 ~]# kubectl get pvc
NAME     STATUS   VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   AGE
my-pvc   Bound    v2       2Gi        RWX                           31s

4）创建pod，挂载pvc

[root@k8s-master1 ~]# cat pod_pvc.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: pod-pvc
spec:
  containers:
  - name: nginx
    image: nginx
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - name: nginx-html
      mountPath: /usr/share/nginx/html
  volumes:
  - name: nginx-html
    persistentVolumeClaim:
      claimName: my-pvc

# 更新资源清单文件
[root@k8s-master1 ~]# kubectl apply -f pod_pvc.yaml 
pod/pod-pvc created

# 查看pod状态
[root@k8s-master1 ~]# kubectl get pods -o wide| grep pod-pvc
pod-pvc           1/1     Running   0          45s     10.244.169.151   k8s-node2   <none>           <none>
#通过上面可以看到pod处于running状态，正常运行

2.4.4、使用pvc和pv的注意事项

1）我们每次创建pvc的时候，需要事先有划分好的pv，这样可能不方便，那么可以在创建pvc的时候直接动态创建一个pv这个存储类，pv事先是不存在的

2）pvc和pv绑定，如果使用默认的回收策略retain，那么删除pvc之后，pv会处于released状态，我们想要继续使用这个pv，需要手动删除pv，kubectl delete pv pv_name，删除pv，不会删除pv里的数据，当我们重新创建pvc时还会和这个最匹配的pv绑定，数据还是原来数据，不会丢失。

2.5、k8s存储类：storageclass

上面介绍的PV和PVC模式都是需要先创建好PV，然后定义好PVC和pv进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。k8s集群管理员通过创建storageclass可以动态生成一个存储卷pv供k8s pvc使用。

每个StorageClass都包含字段provisioner，parameters和reclaimPolicy。

具体来说，StorageClass会定义以下两部分：

• 1、PV的属性 ，比如存储的大小、类型等；
• 2、创建这种PV需要使用到的存储插件，比如Ceph、NFS等

Kubernetes就能够根据用户提交的PVC，找到对应的StorageClass，然后Kubernetes就会调用 StorageClass声明的存储插件，创建出需要的PV。

provisioner：供应商，storageclass需要有一个供应者，用来确定我们使用什么样的存储来创建pv

常见的provisioner：https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

provisioner既可以由内部供应商提供，也可以由外部供应商提供：https://github.com/kubernetes-incubator/external-storage/

以NFS为例，要想使用NFS，我们需要一个nfs-client的自动装载程序，称之为provisioner，这个程序会使用我们已经配置好的NFS服务器自动创建持久卷，也就是自动帮我们创建PV。

reclaimPolicy：回收策略

allowVolumeExpansion：允许卷扩展，PersistentVolume 可以配置成可扩展。将此功能设置为true时，允许用户通过编辑相应的 PVC 对象来调整卷大小。当基础存储类的allowVolumeExpansion字段设置为 true 时，以下类型的卷支持卷扩展。注意：此功能仅用于扩容卷，不能用于缩小卷。

2.5.1、安装nfs provisioner，用于配合存储类动态生成pv

# 1、创建运行nfs-provisioner需要的sa账号
[root@k8s-master1 nfs]# cat serviceaccount.yaml 
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-provisioner

[root@k8s-master1 nfs]# kubectl apply -f serviceaccount.yaml 
serviceaccount/nfs-provisioner created

# 2、对sa授权 
[root@k8s-master1 nfs]# kubectl create clusterrolebinding nfs-provisioner-clusterrolebinding --clusterrole=cluster-admin --serviceaccount=default:nfs-provisioner

# 3、安装nfs-provisioner程序
[root@k8s-master1 nfs]# mkdir /data/nfs_pro -p

#把/data/nfs_pro变成nfs共享的目录
[root@k8s-master1 nfs]# cat /etc/exports
/data/volumes 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v1 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v2 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v3 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v4 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v5 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v6 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v7 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v8 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v9 192.168.40.0/24(rw,no_root_squash)
/data/volume_test/v10 192.168.40.0/24(rw,no_root_squash)
/data/nfs_pro 192.168.40.0/24(rw,no_root_squash)

[root@k8s-master1 nfs]# exportfs -arv
exporting 192.168.40.0/24:/data/nfs_pro
exporting 192.168.40.0/24:/data/volume_test/v10
exporting 192.168.40.0/24:/data/volume_test/v9
exporting 192.168.40.0/24:/data/volume_test/v8
exporting 192.168.40.0/24:/data/volume_test/v7
exporting 192.168.40.0/24:/data/volume_test/v6
exporting 192.168.40.0/24:/data/volume_test/v5
exporting 192.168.40.0/24:/data/volume_test/v4
exporting 192.168.40.0/24:/data/volume_test/v3
exporting 192.168.40.0/24:/data/volume_test/v2
exporting 192.168.40.0/24:/data/volume_test/v1
exporting 192.168.40.0/24:/data/volumes

[root@k8s-master1 nfs]# cat nfs-deployment.yaml 
kind: Deployment
apiVersion: apps/v1
metadata:
  name: nfs-provisioner
spec:
  selector:
    matchLabels:
       app: nfs-provisioner
  replicas: 1
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-provisioner
    spec:
      serviceAccount: nfs-provisioner
      containers:
        - name: nfs-provisioner
          image: registry.cn-beijing.aliyuncs.com/mydlq/nfs-subdir-external-provisioner:v4.0.0
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: example.com/nfs
            - name: NFS_SERVER
              value: 192.168.40.180
            - name: NFS_PATH
              value: /data/nfs_pro
      volumes:
        - name: nfs-client-root
          nfs:
            server: 192.168.40.180
            path: /data/nfs_pro
            
# 更新资源清单文件
[root@k8s-master1 nfs]# kubectl apply -f nfs-deployment.yaml 
deployment.apps/nfs-provisioner created

# 查看nfs-provisioner是否正常运行
[root@k8s-master1 nfs]# kubectl get pods | grep nfs
nfs-provisioner-5448d86c75-j4xr9   1/1     Running   0          11s

2.5.2、创建storageclass，动态供给pv

[root@k8s-master1 nfs]# cat nfs-storageclass.yaml 
kind: StorageClass
apiVersion: storage.k8s.io/v1
metadata:
  name: nfs
provisioner: example.com/nfs # 跟安装nfs provisioner时候的env下的PROVISIONER_NAME的value值保持一致

[root@k8s-master1 nfs]# kubectl apply -f nfs-storageclass.yaml

#查看storageclass是否创建成功
[root@k8s-master1 nfs]# kubectl get storageclass
NAME   PROVISIONER       RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
nfs    example.com/nfs   Delete          Immediate           false                  13s

2.5.3、创建pvc，通过storageclass动态生成pv

[root@k8s-master1 nfs]# cat claim.yaml 
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: test-claim1
spec:
  accessModes:  ["ReadWriteMany"]
  resources:
    requests:
      storage: 1Gi
  storageClassName:  nfs
  
[root@k8s-master1 nfs]# kubectl apply -f claim.yaml 
persistentvolumeclaim/test-claim1 created

# 查看是否动态生成了pv，pvc是否创建成功，并和pv绑定
[root@k8s-master1 nfs]# kubectl get pvc
NAME          STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS   AGE
test-claim1   Bound    pvc-bfad2595-f3e8-4f41-a1d7-4b760655c6f4   1Gi        RWX            nfs            17s

步骤总结：
1、供应商：创建一个nfs provisioner
2、创建storageclass，storageclass指定刚才创建的供应商
3、创建pvc，这个pvc指定storageclass

2.5.4、创建pod，挂载storageclass动态生成的pvc

[root@k8s-master1 nfs]# cat read-pod.yaml 
kind: Pod
apiVersion: v1
metadata:
  name: read-pod
spec:
  containers:
  - name: read-pod
    image: nginx
    imagePullPolicy: IfNotPresent
    volumeMounts:
      - name: nfs-pvc
        mountPath: /usr/share/nginx/html
  restartPolicy: "Never"
  volumes:
    - name: nfs-pvc
      persistentVolumeClaim:
        claimName: test-claim1

# 更新资源清单文件
[root@k8s-master1 nfs]# kubectl apply -f read-pod.yaml 
pod/read-pod created

# 查看pod是否创建成功
[root@k8s-master1 nfs]# kubectl get pods -o wide| grep read
read-pod                           1/1     Running   0          16s     10.244.36.121   k8s-node1   <none>           <none>

# 持久化目录
[root@k8s-master1 nfs]# ll /data/nfs_pro/
total 0
drwxrwxrwx 2 root root 6 Jul 10 22:30 default-test-claim1-pvc-bfad2595-f3e8-4f41-a1d7-4b760655c6f4