kubernetes （一）使用Rancher搭建集群
目录
如何快速高效部署K8s集群
众所周知的K8s集群的部署非常麻烦而且坑又多，为了提升效率必须借助一些工具
Rancher是什么
Rancher是一个开源的企业级容器管理平台。通过Rancher，企业再也不必自己使用一系列的开源软件去从头搭建容器服务平台。Rancher提供了在生产环境中使用的管理Docker和Kubernetes的全栈化容器部署与管理平台。
为什么是Rancher
目前创建K8S集群的安装程序最受欢迎的有Kops，Kubespray，kubeadm，rancher，以及个人提供的脚本集等。
(对于Kubernetes容器化的方式运行，容灾恢复比在物理机优秀。所以忽略二进制部署在物理机上)
- Kops和Kubespary在国外用的比较多，国内因为GFW原因使用不多。
- kubeadm是Kubernetes官方提供的k8s部署工具，不过不支持HA，且支持的docker版本、K8S版本也有限，因此也不是生产首选的安装程序。
- Rancher2016年的新起之秀，可以做到极简快速部署管理Docker，并支持多种编排方式：Cattle、Kubernetes、Mesos、Swarm等。通过修改镜像库的方式可以实现在国内的使用。所以我们选择Rancher作为Docker管理部署框架。
Kubernetes官方文档:https://kubernetes.io/docs/reference/
Kubernetes官方Git地址:https://github.com/kubernetes/kubernetes
Rancher官方地址: https://www.cnrancher.com/
1.0、安装Rancher
1.1、环境
Centos7.4
docker 18.06.1-ce
Rancher 2.0
三台服务器
k8s-master 192.168.146.50
k8s-node1 192.168.146.51
k8s-node1 192.168.146.52
1.2、选择Rancher版本
Rancher Server 镜像版本有两个latest 和stable
| Tag | Description |
|---|---|
| rancher/rancher:latest | 最新的开发版本。这些版本是通过我们的CI自动化框架进行验证。这些版本不推荐用于生产环境。 |
| rancher/rancher:stable | 最新的稳定版本。这个标签是生产建议。 |
| rancher/rancher:<v2.X.X> | 你可以安装特定版本的Rancher，在DockerHub上查看那些tag可用。 |
Notes：
" 不要使用任何带有 rc{n} 前缀的release，这些是Rancher测试团队使用的
本文使用rancher/server:v2.0.0-beta4
1.3、拉取镜像
[root@K8s-master ~]# docker pull registry.docker-cn.com/rancher/server:v2.0.0-beta4
v2.0.0-beta4: Pulling from rancher/server
f56c16792d1e: Pull complete
e2f3fcbcaacd: Pull complete
29f1503c00f8: Pull complete
b5ce6675ff39: Pull complete
a29a9bdc981f: Pull complete
4758641d8c60: Pull complete
a30a6a05c4ed: Pull complete
1ec93119bf5e: Pull complete
74bc3b84fcb6: Pull complete
567d9245728b: Pull complete
Digest: sha256:09507919e8c16395393ab170b3129d3919ab6797d8f7fc1bdfc94cb4f989c151
Status: Downloaded newer image for registry.docker-cn.com/rancher/server:v2.0.0-beta4
2.0、容器启动高级选项
2.1、SSL加密方式访问Rancher
处于安全的目的，我们选择通过https方式
SSL可以保护所有Rancher网络通信，例如登录或与群集交互时。
证书生成方式：
- 默认自签名证书
- 自定义自签名证书
默认自签名证书：
#直接暴露端口运行就可以
docker run -d --restart=unless-stopped -p 80:80 -p 443:443 rancher/rancher:latest
自定义自签名证书：
使用功能OpenSSl生成
#生成根证书私钥(pem文件)
openssl genrsa -out cakey.pem 2048
#生成根证书签发申请文件(csr文件)
openssl req -new -key cakey.pem -out ca.csr -subj "/C=CN/ST=myprovince/L=mycity/O=myorganization/OU=mygroup/CN=myCA"
#自签发根证书(cer文件)
openssl x509 -req -days 365 -sha1 -extensions v3_ca -signkey cakey.pem -in ca.csr -out cacert.pem
#生成服务端私钥
openssl genrsa -out key.pem 2048
#生成证书请求文件
openssl req -new -key key.pem -out server.csr -subj "/C=CN/ST=myprovince/L=mycity/O=myorganization/OU=mygroup/CN=myServer"
#使用根证书签发服务端证书
openssl x509 -req -days 365 -sha1 -extensions v3_req -CA cacert.pem -CAkey cakey.pem -CAserial ca.srl -CAcreateserial -in server.csr -out cert.pem
#使用CA证书验证server端证书
openssl verify -CAfile cacert.pem cert.pem
容器启动
docker run -d --restart=unless-stopped \
-p 80:80 -p 443:443 \
-v /<CERT_DIRECTORY>/<FULL_CHAIN.pem>:/etc/rancher/ssl/cert.pem \
-v /<CERT_DIRECTORY>/<PRIVATE_KEY.pem>:/etc/rancher/ssl/key.pem \
-v /<CERT_DIRECTORY>/<CA_CERTS.pem>:/etc/rancher/ssl/cacerts.pem \
rancher/rancher:latest
2.2、启用API审核日志
API审核日志记录通过Rancher服务器进行的所有用户和系统事务。
默认情况下，API审核日志会在rancher容器内写入/ var / log / auditlog。将该目录共享为卷并设置AUDIT_LEVEL以启用日志。
docker run -d --restart=unless-stopped \
-p 80:80 -p 443:443 \
-v /var/log/rancher/auditlog:/var/log/auditlog \
-e AUDIT_LEVEL=1 \
rancher/rancher:latest
2.3、Air Gap
If you are visiting this page to complete an air gap installation, you must pre-pend your private registry URL to the server tag when running the installation command in the option that you choose. Add <REGISTRY.DOMAIN.COM:PORT> with your private registry URL in front of rancher/rancher:latest.
Example:
<REGISTRY.DOMAIN.COM:PORT>/rancher/rancher:latest--取值官网，不过没有弄明白作用是什么。。
2.4、持久化数据
持久性数据位于容器中的/var/lib/rancher
docker run -d --restart=unless-stopped \
-p 80:80 -p 443:443 \
-v /host/rancher:/var/lib/rancher \
rancher/rancher:latest
3.0、启动容器
启用ssl，api审核，数据持久化
#环境准备
[root@K8s-master ~]# mkdir -p /home/rancher/{cert,log,data}
#生成证书过程省略
[root@K8s-master /home/rancher/cert]# ll
总用量 28
-rw-r--r-- 1 root root 1216 1月 25 15:10 cacert.pem
-rw-r--r-- 1 root root 1013 1月 25 15:10 ca.csr
-rw-r--r-- 1 root root 1679 1月 25 15:10 cakey.pem
-rw-r--r-- 1 root root 17 1月 25 15:11 ca.srl
-rw-r--r-- 1 root root 1224 1月 25 15:11 cert.pem
-rw-r--r-- 1 root root 1675 1月 25 15:10 key.pem
-rw-r--r-- 1 root root 1017 1月 25 15:10 server.csr
#生成容器
[root@K8s-master ~]#docker run -d --restart=unless-stopped \
-p 8090:80 -p 8443:443 \
-v /home/rancher/cert/cert.pem:/etc/rancher/ssl/cert.pem \
-v /home/rancher/cert/key.pem:/etc/rancher/ssl/key.pem \
-v /home/rancher/cert/cacert.pem:/etc/rancher/ssl/cacerts.pem \
-v /home/rancher/log/auditlog:/var/log/auditlog \
-e AUDIT_LEVEL=1 \
-v /home/rancher/data/rancher:/var/lib/rancher \
registry.docker-cn.com/rancher/server:v2.0.0-beta4等待容器启动完成访问对应IP的端口
4.0、访问UI
权限管理，2.X 在第一次登录就会提示你写入密码
通过右下角更改语言
相对于1.6 认证减少了 ，现在只有两项了
而且好像默认这是了允许本地数据库中的账号访问
Rancher部署就先到这里了。
说一下HA吧
5.0、Rancher多节点HA部署
在高可用(HA)的模式下运行Rancher Server与使用外部数据库运行Rancher Server一样简单，需要暴露一个额外的端口，添加额外的参数到启动命令中，并且运行一个外部的负载均衡就可以了。
HA Rancher安装了第4层负载均衡器，描述了入口控制器的SSL终止
--取值官网
5.1、准备：
- kubectl - Kubernet中的命令行工具。
- rke - Rancher Kubernetes Engine，用于构建Kubernetes集群的cli。
- helm - Kubernetes的包管理。
note：
" v2.12.0和cert-manager存在问题，请使用Helm v2.12.1或更高版本
5.2、部署需求：
-
HA 节点
- 1GB内存
- 9345, 8080 端口需要在各个节点之间能够互相访问
- 所有安装有支持的Docker版本的现代Linux发行版 RancherOS, Ubuntu, RHEL/CentOS 7 都是经过严格的测试。
- 对于 RHEL/CentOS, 默认的 storage driver, 例如 devicemapper using loopback, 并不被Docker推荐。 请参考Docker的文档去修改使用其他的storage driver。
- 对于 RHEL/CentOS, 如果你想使用 SELinux, 你需要 安装额外的 SELinux 组件.
-
MySQL数据库
- 至少 1 GB内存
- 每个Rancher Server节点需要50个连接 (例如：3个节点的Rancher则需要至少150个连接)
- MYSQL配置要求
- 选项1: 用默认COMPACT选项运行Antelope
- 选项2: 运行MySQL 5.7，使用Barracuda。默认选项ROW_FORMAT需设置成Dynamic
-
外部负载均衡服务器
- 负载均衡服务器需要能访问Rancher Server节点的 8080 端口
在每个需要加入Rancher Server HA集群的节点上，运行以下命令：
docker run -d --restart=unless-stopped -p 8080:8080 -p 9345:9345 rancher/server \
--db-host DB_host.com --db-port 3306 --db-user username --db-pass password --db-name cattle \
--advertise-address <Node IP>
note：
" 每个节点的<Node IP> 唯一，这个IP会被添加到HA的设置中。
" 如果你修改了 -p 8080:8080 并在host上暴露了一个不一样的端口，你需要添加 --advertise-http-port <host_port> 参数到命令中。
5.3、HA模式下的RANCHER SERVER节点
如果你的Rancher Server节点上的IP修改了，你的节点将不再存在于Rancher HA集群中。
你必须停止在--advertise-address配置了不正确IP的Rancher Server容器并启动一个使用正确IP地址的Rancher Server的容器。
note：
" 每一个Rancher Server节点需要有4 GB 或者8 GB的堆空间，意味着需要8 GB或者16 GB内存
" MySQL数据库需要有高性能磁盘
" 对于一个完整的HA，建议使用一个有副本的Mysql数据库。另一种选择则是使用Galera集群并强制写入一个MySQL节点。
参考：
https://rancher.com/docs/rancher/v2.x/en/overview/
https://my.oschina.net/wenzhenxi/blog/1822075
