Kubernetes(K8S) 入门进阶实战完整教程-09k8s的数据存储详解

概述

● 在前面已经提到，容器的生命周期可能很短，会被频繁的创建和销毁。那么容器在销毁的时候，保存在容器中的数据也会被清除。这种结果对用户来说，在某些情况下是不乐意看到的。为了持久化保存容器中的数据，kubernetes引入了Volume的概念。
● Volume是Pod中能够被多个容器访问的共享目录，它被定义在Pod上，然后被一个Pod里面的多个容器挂载到具体的文件目录下，kubernetes通过Volume实现同一个Pod中不同容器之间的数据共享以及数据的持久化存储。Volume的生命周期不和Pod中的单个容器的生命周期有关，当容器终止或者重启的时候，Volume中的数据也不会丢失。
● kubernetes的Volume支持多种类型，比较常见的有下面的几个：
○ 简单存储：EmptyDir、HostPath、NFS。
○ 高级存储：PV、PVC。
○ 配置存储：ConfigMap、Secret。

基本存储-EmptyDir

1. 概述
   ● EmptyDir是最基础的Volume类型，一个EmptyDir就是Host上的一个空目录。
   ● EmptyDir是在Pod被分配到Node时创建的，它的初始内容为空，并且无须指定宿主机上对应的目录文件，因为kubernetes会自动分配一个目录，当Pod销毁时，EmptyDir中的数据也会被永久删除。
   ● EmptyDir的用途如下：
   ○ 临时空间，例如用于某些应用程序运行时所需的临时目录，且无须永久保留。
   ○ 一个容器需要从另一个容器中获取数据的目录（多容器共享目录）。
   ● 接下来，通过一个容器之间的共享案例来使用描述一个EmptyDir。
   ● 在一个Pod中准备两个容器nginx和busybox，然后声明一个volume分别挂载到两个容器的目录中，然后nginx容器负责向volume中写日志，busybox中通过命令将日志内容读到控制台。
   
2. 创建Pod
   创建volume-emptydir.yaml

apiVersion: v1
kind: Pod
metadata:
  name: volume-emptydir
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    imagePullPolicy: IfNotPresent
    ports:
    - containerPort: 80
      protocol: TCP
    volumeMounts:
    - name: logs-volume
      mountPath: /var/log/nginx  # 将logs-volume挂载到nginx容器中对应的目录，该目录为/var/log/nginx
  - name: busybox
    image: busybox:1.30
    imagePullPolicy: IfNotPresent
    command: ["/bin/sh", "-c", "tail -f /logs/access.log"]  # 初始命令，动态读取指定文件中内容
    volumeMounts:  # 将logs-volume挂载到busybox容器中，挂载目录为/logs
    - name: logs-volume
      mountPath: /logs
  volumes:  # 声明volume, 名称为logs-volume, 类型为emptyDir
  - name: logs-volume
    emptyDir: {}

3. 创建pod,查看pod，访问nginx，查看busybox标准输出

kubectl create -f volume-emptydir.yaml
kubectl get pod -n dev -o wide
curl 10.244.1.114
kubectl logs -f volume-emptydir -n dev -c container  # 查看指定容器的标准输出

基本存储-HostPath

1. 概述
   ● 我们已经知道EmptyDir中的数据不会被持久化，它会随着Pod的结束而销毁，如果想要简单的将数据持久化到主机中，可以选择HostPath。
   ● HostPath就是将Node主机中的一个实际目录挂载到Pod中，以供容器使用，这样的设计就可以保证Pod销毁了，但是数据依旧可以保存在Node主机上。
   
2. volume-hostpath.yaml文件

apiVersion: v1
kind: Pod
metadata:
  name: volume-hostpath
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - containerPort: 80
    volumeMounts:
    - name: logs-volume
      mountPath: /var/log/nginx
  - name: busybox
    image: busybox:1.30
    command: ["/bin/sh", "-c", "tail -f /logs/access.log"]
    volumeMounts:
    - name: logs-volume
      mountPath: /logs
  volumes:
  - name: logs-volume
    hostPath:
      path: /root/logs
      type: DirectoryOrCreate  # 目录存在就使用，不存在就先创建在使用

3. type的值说明

DirectoryOrCreate：目录存在就使用，不存在就先创建后使用。
Directory：目录必须存在。
FileOrCreate：文件存在就使用，不存在就先创建后使用。
File：文件必须存在。
Socket：unix套接字必须存在。
CharDevice：字符设备必须存在。
BlockDevice：块设备必须存在。

4. 创建pod，查看pod，删除pod在查看数据

kubectl create -f volume-hostpath.yaml
kubectl get pod -n dev -o wide
curl 10.244.1.115
# 去pod所在的node节点的/root/volume/logs目录下就可以看到挂载的日志文件，同样如果在此目录中创建文件，在容器中也是可以看到的

基本存储-NFS

1. 概述
   ● HostPath虽然可以解决数据持久化的问题，但是一旦Node节点故障了，Pod如果转移到别的Node节点上，又会出现问题，此时需要准备单独的网络存储系统，比较常用的是NFS和CIFS。
   ● NFS是一个网络文件存储系统，可以搭建一台NFS服务器，然后将Pod中的存储直接连接到NFS系统上，这样，无论Pod在节点上怎么转移，只要Node和NFS的对接没有问题，数据就可以成功访问。
   
2. 搭建NFS服务器
   （1）首先需要准备NFS服务器，这里为了简单，直接在Master节点做NFS服务器，在Master节点上安装NFS服务器：

# 在master上安装nfs服务
yum install nfs-utils -y

# 准备一个共享目录
mkdir /root/data/nfs -pv

# 将共享目录以读写权限暴露给192.168.10.0/24网段中的所有主机
vim /etc/exports
/root/data/nfs 192.168.10.0/24(rw,no_root_squash)

# 启动nfs服务
systemctl start nfs

（2）在Node节点上都安装NFS服务器，目的是为了Node节点可以驱动NFS设备。

# 在Node节点上安装NFS服务，不需要启动
yum install nfs-utils -y

3. 接下来，就可以编写pod的配置文件了，volume-nfs.yaml文件内容

apiVersion: v1
kind: Pod
metadata:
  name: volume-nfs
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    ports:
    - containerPort: 80
    volumeMounts:
    - name: logs-volume
      mountPath: /var/log/nginx
  - name: busybox
    image: busybox:1.30
    command: ["/bin/sh", "-c", "tail -f /logs/access.log"]
    volumeMounts:
    - name: logs-volume
      mountPath: /logs
  volumes:
  - name: logs-volume
    nfs:
      server: 192.168.10.100  # nfs服务器地址
      path: /root/data/nfs  # 共享文件路径

4. 创建pod，查看pod, 查看nfs服务器上的共享目录

kubectl create -f volume-nfs.yaml
kubectl get pod volume-nfs -n dev -o wide
cat /root/data/nfs/access.log

高级存储pv和pvc介绍

1. 概述
   ● 前面我们已经学习了使用NFS提供存储，此时就要求用户会搭建NFS系统，并且会在yaml配置nfs。由于kubernetes支持的存储系统有很多，要求客户全部掌握，显然不现实。为了能够屏蔽底层存储实现的细节，方便用户使用，kubernetes引入了PV和PVC两种资源对象。
   ● PV（Persistent Volume）是持久化卷的意思，是对底层的共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置，它和底层具体的共享存储技术有关，并通过插件完成和共享存储的对接。
   ● PVC（Persistent Volume Claim）是持久化卷声明的意思，是用户对于存储需求的一种声明。换言之，PVC其实就是用户向kubernetes系统发出的一种资源需求申请。
   
   ● 使用了PV和PVC之后，工作可以得到进一步的提升：
   ○ 存储：存储工程师维护。
   ○ PV：kubernetes管理员维护。
   ○ PVC：kubernetes用户维护。

高级存储-pv

1. pv的资源清单文件
   需要注意的是：pv是不能设置namespace的。
   pv是存储资源的抽象

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  nfs: # 存储类型，和底层正则的存储对应
    path:
    server:
  capacity: # 存储能力，目前只支持存储空间的设置
    storage: 2Gi
  accessModes: # 访问模式
    -
  storageClassName: # 存储类别
  persistentVolumeReclaimPolicy: # 回收策略

2. pv的关键配置参数说明：

存储类型：底层实际存储的类型，kubernetes支持多种存储类型，每种存储类型的配置有所不同。
存储能力（capacity）：目前只支持存储空间的设置（storage=1Gi），不过未来可能会加入IOPS、吞吐量等指标的配置。
访问模式（accessModes）：
  用来描述用户应用对存储资源的访问权限，访问权限包括下面几种方式：
    ReadWriteOnce（RWO）：读写权限，但是只能被单个节点挂载。
    ReadOnlyMany（ROX）：只读权限，可以被多个节点挂载。
    ReadWriteMany（RWX）：读写权限，可以被多个节点挂载。
  需要注意的是，底层不同的存储类型可能支持的访问模式不同。
回收策略（ persistentVolumeReclaimPolicy）：
  当PV不再被使用之后，对其的处理方式，目前支持三种策略：
    Retain（保留）：保留数据，需要管理员手动清理数据。
    Recycle（回收）：清除PV中的数据，效果相当于rm -rf /volume/*。
    Delete（删除）：和PV相连的后端存储完成volume的删除操作，常见于云服务器厂商的存储服务。
  需要注意的是，底层不同的存储类型可能支持的回收策略不同。
存储类别（storageClassName）：PV可以通过storageClassName参数指定一个存储类别。
  具有特定类型的PV只能和请求了该类别的PVC进行绑定。
  未设定类别的PV只能和不请求任何类别的PVC进行绑定。
状态（status）：一个PV的生命周期，可能会处于4种不同的阶段。
  Available（可用）：表示可用状态，还未被任何PVC绑定。
  Bound（已绑定）：表示PV已经被PVC绑定。
  Released（已释放）：表示PVC被删除，但是资源还没有被集群重新释放。
  Failed（失败）：表示该PV的自动回收失败。

3. 准备工作，准备nfs环境

# 创建目录
mkdir /root/data/{pv1,pv2,pv3} -pv

# 暴露服务
vim /etc/exports
/root/data/pv1 192.168.10.0/24(rw,no_root_squash)
/root/data/pv2 192.168.10.0/24(rw,no_root_squash)
/root/data/pv3 192.168.10.0/24(rw,no_root_squash)

# 重启服务
systemctl restart nfs

4. 创建pv.yaml文件

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv1
spec:
  nfs:  # 存储类型
    path: /root/data/pv1
    server: 192.168.10.100
  capacity:  # 存储能力，目前只支持存储空间的设置
    storage: 1Gi
  accessModes:  # 访问模式
    - readWriteMany
  persistentVolumeReclaimPolicy: Retain  # 回收策略

---

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  nfs:  # 存储类型
    path: /root/data/pv2
    server: 192.168.10.100
  capacity:  # 存储能力，目前只支持存储空间的设置
    storage: 2Gi
  accessModes:  # 访问模式
    - readWriteMany
  persistentVolumeReclaimPolicy: Retain  # 回收策略

---

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv3
spec:
  nfs:  # 存储类型
    path: /root/data/pv3
    server: 192.168.10.100
  capacity:  # 存储能力，目前只支持存储空间的设置
    storage: 3Gi
  accessModes:  # 访问模式
    - readWriteMany
  persistentVolumeReclaimPolicy: Retain  # 回收策略

5. 创建pv，查看pv

kubectl create -f pv.yaml
kubectl get pv -o wide

高级存储-pvc

1. PVC是资源的申请，用来声明对存储空间、访问模式、存储类别需求信息，下面是PVC的资源清单文件：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc
  namespace: dev
spec:
  accessModes: # 访客模式
    - 
  selector: # 采用标签对PV选择
  storageClassName: # 存储类别
  resources: # 请求空间
    requests:
      storage: 5Gi

2. pvc的关键配置参数说明

访客模式（accessModes）：用于描述用户应用对存储资源的访问权限。
用于描述用户应用对存储资源的访问权限：
  选择条件（selector）：通过Label Selector的设置，可使PVC对于系统中已存在的PV进行筛选。
  存储类别（storageClassName）：PVC在定义时可以设定需要的后端存储的类别，只有设置了该class的pv才能被系统选出。
  资源请求（resources）：描述对存储资源的请求。

3. 创建pvc.yaml文件

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc1
  namespace: dev
spec:
  accessModes:  # 访客模式
    - ReadWriteMany
  resources:
    requests:
      storage: 1Gi

---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc2
  namespace: dev
spec:
  accessModes:  # 访客模式
    - ReadWriteMany
  resources:
    requests:
      storage: 1Gi

---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc3
  namespace: dev
spec:
  accessModes:  # 访客模式
    - ReadWriteMany
  resources:
    requests:
      storage: 5Gi

4. 创建pvc，查看pvc和pv

kubectl create -f pvc.yaml
kubectl get pvc -n dev -o wide
kubectl get pv -o wide

5. 创建pod使用pvc
   创建pvc-pod.yaml文件

apiVersion: v1
kind: Pod
metadata:
  name: pod1
  namespace: dev
spec:
  containers:
  - name: busybox
    image: busybox:1.30
    command: ["/bin/sh","-c","while true;do echo pod1 >> /root/out.txt; sleep 10; done;"]
    volumeMounts:
    - name: volume
      mountPath: /root/
  volumes:
    - name: volume
      persistentVolumeClaim:
        claimName: pvc1
        readOnly: false

---
apiVersion: v1
kind: Pod
metadata:
  name: pod2
  namespace: dev
spec:
  containers:
    - name: busybox
      image: busybox:1.30
      command: ["/bin/sh","-c","while true;do echo pod2 >> /root/out.txt; sleep 10; done;"]
      volumeMounts:
        - name: volume
          mountPath: /root/
  volumes:
    - name: volume
      persistentVolumeClaim:
        claimName: pvc2
        readOnly: false

6. 创建pod，查看pod、pvc、pv

kubectl create -f pvc-pod.yaml
kubectl get pod -n dev -o wide
kubectl get pvc -n dev -o wide
kubectl get pv -o wide

7. 查看nfs中的文件存储

cat //root/data/pv1/out.txt
cat //root/data/pv2/out.txt

8. 删除pod和pvc，我们在查看一下pv的状态

kubectl delete -f pvc-pod.yaml
kubectl delete -f pvc.yaml
kubectl get pv -o wide  # 此时pv的Status变成了Released,便是pvc已经被删除，但是资源还未被集群重新声明

高级存储-pv和pvc的声明周期

1. 概念
   ● PVC和PV是一一对应的，PV和PVC之间的相互作用遵循如下的生命周期。
   ● 资源供应：管理员手动创建底层存储和PV。
   ● 资源绑定：
   ○ 用户创建PVC，kubernetes负责根据PVC声明去寻找PV，并绑定在用户定义好PVC之后，系统将根据PVC对存储资源的请求在以存在的PV中选择一个满足条件的。
   ■ 一旦找到，就将该PV和用户定义的PVC进行绑定，用户的应用就可以使用这个PVC了。
   ■ 如果找不到，PVC就会无限期的处于Pending状态，直到系统管理员创建一个符合其要求的PV。
   ○ PV一旦绑定到某个PVC上，就会被这个PVC独占，不能再和其他的PVC进行绑定了。
   ● 资源使用：用户可以在Pod中像volume一样使用PVC，Pod使用Volume的定义，将PVC挂载到容器内的某个路径进行使用。
   ● 资源释放：
   ○ 用户删除PVC来释放PV。
   ○ 当存储资源使用完毕后，用户可以删除PVC，和该PVC绑定的PV将会标记为“已释放”，但是还不能立刻和其他的PVC进行绑定。通过之前PVC写入的数据可能还留在存储设备上，只有在清除之后该PV才能再次使用。
   ● 资源回收：
   ○ kubernetes根据PV设置的回收策略进行资源的回收。
   ○ 对于PV，管理员可以设定回收策略，用于设置与之绑定的PVC释放资源之后如何处理遗留数据的问题。只有PV的存储空间完成回收，才能供新的PVC绑定和使用。
2. 创建pvc后一直绑定不了pv的原因
   ● ①PVC的空间申请大小比PV的空间要大。
   ● ②PVC的storageClassName和PV的storageClassName不一致。
   ● ③PVC的accessModes和PV的accessModes不一致。

配置存储-configmap

1. configmap是一个比较特殊的存储卷，它的主要作用是用来存储配置信息的
2. configmap的资源清单文件

apiVersion: v1
kind: ConfigMap
metadata:
  name: configMap
  namespace: dev
data: # <map[string]string>
  xxx

3. 创建configmap.yaml文件，内容如下

apiVersion: v1
kind: ConfigMap
metadata:
  name: configmap
  namespace: dev
data:
  info:
    username:admin
    password:123456

4. 创建configmap, 查看configmap, 查看configmap详细信息

kubectl create -f configmap.yaml
kubectl get configmap -n dev
kubectl describe configmap configmap -n dev

5. 创建pod-configmap.yaml文件

apiVersion: v1
kind: Pod
metadata:
  name: pod-nginx
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    imagePullPolicy: IfNotPresent
    ports:
    - containerPort: 80
    volumeMounts:
    - name: config
      mountPath: /configmap/config  
  volumes:
  - name: config
    configMap: 
      name: configmap

6. 创建pod，查看pod

kubectl create -f pod-configmap.yaml
kubectl get pod -n dev -o wide

7. 进入容器，查看配置

kubectl exec -it pod-nginx -n dev /bin/sh
cd /configmap/config
cat info

ConfigMap中的key映射为一个文件，value映射为文件中的内容。如果更新了ConfigMap中的内容，容器中的值也会动态更新。
8. 编辑我们的configmap文件
kubectl edit cm configmap -n dev
在重复第7步，进入容器，查看文件内容，发现pod容器中的文件内容已经发生变化了。

配置存储-secret

1. 概述
   在kubernetes中，还存在一种和ConfigMap非常类似的对象，称为Secret对象，它主要用来存储敏感信息，例如密码、密钥、证书等等。
2. 准备数据
   使用base64对数据进行编码

# 准备username
echo -n "admin" | base64  # YWRtaW4=
echo -n "123456" | base64  # MTIzNDU2

3. 创建secret.yaml文件

apiVersion: v1
kind: Secret
metadata:
  name: secret
  namespace: dev
type: Opaque
data:
  username: YWRtaW4=
  password: MTIzNDU2

4. 创建并查看secret

kubectl create -f secret.yaml
kubectl get secret -n dev
kubectl describe secret secret -n dev

5. 上面的方式是先手动将数据进行编码，其实也可以使用直接编写数据，将数据编码交给kubernetes。

apiVersion: v1
kind: Secret
metadata:
  name: secret
  namespace: dev
type: Opaque
stringData:
  username: admin
  password: 123456

如果同时使用data和stringData，那么data会被忽略。
6. 创建pod-secret.yaml文件

apiVersion: v1
kind: Pod
metadata: 
  name: pod-secret
  namespace: dev
spec:
  containers:
  - name: nginx
    image: nginx:1.17.1
    volumeMounts:
    - name: config
      mountPath: /secret/config
  volumes:
  - name: config
    secret: 
      secretName: secret

7. 创建并查看pod

kubectl create -f pod-secret.yaml
kubectl get pod -n dev

8. 进入容器查看用户名和密码

kubectl exec -it pod-secret -n dev /bin/sh
/secret/config
more username
more password

发现容器中的secret已经自动解码了
至此：我们已经实现了利用secret实现了信息的编码。