搭建 k8s 集群
1、准备两台虚拟机环境(master/node)
192.168.100.215 | k8s-master |
192.168.100.216 | k8s-node1 |
2、关闭防火墙(master/node)
systemctl stop firewalld
systemctl disable firewalld
3、关闭selinux(master/node)
selinux:即安全增强型,是 Linux 的一个安全子系统。有的软件对于selinux的安全规则支持不够好,就会建议在安装前把selinux先关闭,如k8s。
setenforce 0 # 临时关闭 sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config # 永久关闭
4、关闭swap(master/node)
swapoff -a # 临时关闭;关闭swap主要是为了性能考虑 free # 可以通过这个命令查看swap是否关闭了 sed -ri 's/.*swap.*/#&/' /etc/fstab # 永久关闭
关闭swap的原因:一个是性能问题,开启swap会严重影响性能(包括内存和I/O);另一个是管理问题,开启swap后通过cgroups设置的内存上限就会失效。
5、添加主机名与IP对应的关系(master/node)
//没有vim,可以如下命令安装。或直接用 vi 也一样
yum -y install vim*
$ vim /etc/hosts #添加如下内容: 192.168.100.215 k8s-master 192.168.100.216 k8s-node1 #保存退出
6、修改主机名(master/node)
#k8s-master [root@localhost ~] hostname localhost.localdomain [root@localhost ~] hostname k8s-master ##临时生效 [root@localhost ~] hostnamectl set-hostname k8s-master ##重启后永久生效 #k8s-node1 [root@localhost ~] hostname localhost.localdomain [root@localhost ~] hostname k8s-node1 ##临时生效 [root@localhost ~] hostnamectl set-hostname k8s-node1 ##重启后永久生效
7、桥接设置(master/node)
$ cat > /etc/sysctl.d/k8s.conf << EOF net.bridge.bridge-nf-call-ip6tables = 1 net.bridge.bridge-nf-call-iptables = 1 EOF $ sysctl --system
8、安装docker(master/node)
ps:如果已经安装了docker就不需要重复安装了
$ yum -y install wget # 添加docker yum源 $ wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O/etc/yum.repos.d/docker-ce.repo # 安装 $ yum -y install docker-ce # 设置开机启动 $ systemctl enable docker # 启动docker $ systemctl start docker
9、为kubernetes添加阿里云YUM软件源(master/node)
cat > /etc/yum.repos.d/kubernetes.repo << EOF [k8s] name=k8s enabled=1 gpgcheck=0 baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/ EOF
10、安装kubeadm,kubelet和kubectl(master/node)
#默认安装最新版本 $ yum install -y kubelet kubectl kubeadm # 此时,还不能启动kubelet,因为此时配置还不能,现在仅仅可以设置开机自启动 $ systemctl enable kubelet
11、部署Kubernetes (master) ,node节点不需要执行kubeadm init
#可以使用以下命名查看刚才安装的版本 #kubelet --version
#kubeadm 初始化 kubeadm init \ --apiserver-advertise-address=192.168.100.215 \ #你自己的ip --image-repository registry.aliyuncs.com/google_containers \ --kubernetes-version v1.18.0 \ #你刚才安装kubelet的版本 --service-cidr=10.1.0.0/16 \ --pod-network-cidr=10.244.0.0/16
初始化成功后会输出如下信息:
To start using your cluster, you need to run the following as a regular user: mkdir -p $HOME/.kube sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config sudo chown $(id -u):$(id -g) $HOME/.kube/config You should now deploy a pod network to the cluster. Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at: https://kubernetes.io/docs/concepts/cluster-administration/addons/ Then you can join any number of worker nodes by running the following on each as root: #ps:下面输出的这条token信息很重要,note连接master需要用到 kubeadm join 10.9.2.26:6443 --token 1j3dl9.1z8wjckd94xluwh6 \ --discovery-token-ca-cert-hash sha256:c464e3ebd7f432f094bacf06269003730f010b431c3fb76acade4f43d4740e3f
注意:这里是通过kubeadm init安装,所以执行后会下载相应的docker镜像,一般会发现在控制台卡着不动很久,这时就是在下载镜像,你可以docker images查看是不是有新的镜像增加。
$ docker images REPOSITORY TAG IMAGE ID CREATED SIZE registry.aliyuncs.com/google_containers/kube-proxy v1.17.0 7d54289267dc 7 months ago 116MB registry.aliyuncs.com/google_containers/kube-apiserver v1.17.0 0cae8d5cc64c 7 months ago 171MB registry.aliyuncs.com/google_containers/kube-controller-manager v1.17.0 5eb3b7486872 7 months ago 161MB registry.aliyuncs.com/google_containers/kube-scheduler v1.17.0 78c190f736b1 7 months ago 94.4MB registry.aliyuncs.com/google_containers/coredns 1.6.5 70f311871ae1 8 months ago 41.6MB registry.aliyuncs.com/google_containers/etcd 3.4.3-0 303ce5db0e90 9 months ago 288MB registry.aliyuncs.com/google_containers/pause 3.1 da86e6ba6ca1 2 years ago 742kB
12、使用kubectl工具(master)
kubeadm安装好后,控制台也会有提示执行以下命令,照着执行(也就是第11步最后控制台输出的)
mkdir -p $HOME/.kube sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config sudo chown $(id -u):$(id -g) $HOME/.kube/config
13、测试一下kubectl命令
[root@k8s-master ~]# kubectl get nodes NAME STATUS ROLES AGE VERSION k8s-master NotReady master 23m v1.18.0
ps:一般来说状态先会是NotReady ,可能程序还在启动中。
14、安装Pod网络插件flannel(master/node)
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
可能报错:The connection to the server http://raw.githubusercontent.com was refused - did you specify the right host or port?
原因:外网不可访问
解决办法:
sudo vim /etc/hosts #在/etc/hosts增加以下这条 199.232.28.133 raw.githubusercontent.com
15、node节点加入master(node) 第11步控制台输出内容
kubeadm join 10.9.2.26:6443 --token 1j3dl9.1z8wjckd94xluwh6 \ --discovery-token-ca-cert-hash sha256:c464e3ebd7f432f094bacf06269003730f010b431c3fb76acade4f43d4740e3f
如果找不到Init成功后的Token没关系,可以通过命令查看:
kubeadm token list
ps:token默认有效期是24小时,过期后该命令无法查看,可以通过以下方法重新生成。
//重新生成新的token [root@walker-1 kubernetes]# kubeadm token create [kubeadm] WARNING: starting in 1.8, tokens expire after 24 hours by default (if you require a non-expiring token use --ttl 0) aa78f6.8b4cafc8ed26c34f [root@walker-1 kubernetes]# kubeadm token list TOKEN TTL EXPIRES USAGES DESCRIPTION EXTRA GROUPS aa78f6.8b4cafc8ed26c34f 23h 2017-12-26T16:36:29+08:00 authentication,signing <none> system:bootstrappers:kubeadm:default-node-token
//获取ca证书sha256编码hash值 [root@walker-1 kubernetes]# openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //' 0fd95a9bc67a7bf0ef42da968a0d55d92e52898ec37c971bd77ee501d845b538
//节点加入集群 [root@walker-4 nodes]# kubeadm join --token aa78f6.8b4cafc8ed26c34f --discovery-token-ca-cert-hash sha256:0fd95a9bc67a7bf0ef42da968a0d55d92e52898ec37c971bd77ee501d845b538 172.16.6.79:6443 --skip-preflight-checks
16、在master查看已加入的node
$ kubectl get nodes NAME STATUS ROLES AGE VERSION k8s-master Ready master 22m v1.18.0 k8s-node1 Ready <none> 18m v1.18.0
17、若node节点加入master失败,可以尝试重新join
#先执行 kubeadm -y reset #再执行 kubeadm join xx....
18、常用命令
#重启kubelet systemctl daemon-reload systemctl restart kubelet #查询节点 kubectl get nodes #查询pods 一般要带上"-n"即命名空间。不带等同 -n dafault kubectl get pods -n kube-system
#再生成一个token kubeadm token create --print-join-command #查看历史的token kubeadm token list
ps:搭建k8s时可能遇到的异常:搭建k8s时可能遇到的异常 - 干了这瓶老干妈 - 博客园 (cnblogs.com)