基于KubernetesK8S构建Jenkins持续集成平台（然后天亮了。 然后我们就继续往前走。 无论你想留在哪一天，天总会亮的。）

基于Kubernetes/K8S构建Jenkins持续集成平台(下)

Jenkins-Master-Slave架构图回顾：

 

 

安装和配置NFS

//所有k8s节点harbor仓库配置

{

  "insecure-registries": ["192.168.195.128:5000"],

  "registry-mirrors": ["https://05vz3np5.mirror.aliyuncs.com"]

}

 

systemctl  restart  docker

 

NFS简介

NFS（Network File System），它最大的功能就是可以通过网络，让不同的机器、不同的操作系统可以共享彼此的文件。我们可以利用NFS共享Jenkins运行的配置文件、Maven的仓库依赖文件等

 

NFS安装

 

我们把NFS服务器安装在192.168.66.101机器上

1） 安装NFS服务（在所有K8S的节点都需要安装）

yum install -y nfs-utils

2） 创建共享目录（k8smaster）

 

mkdir -p /opt/nfs/jenkins
vi /etc/exports	编写NFS的共享配置
内容如下:
/opt/nfs/jenkins	*(rw,no_root_squash)	*代表对所有IP都开放此目录，rw是读写

 

3） 启动服务

systemctl enable nfs 开机启动

systemctl start nfs 启动

4） 查看NFS共享目录在工作节点

showmount -e 192.168.195.200

 

 

在Kubernetes安装Jenkins-Master

创建NFS client provisioner

nfs-client-provisioner 是一个Kubernetes的简易NFS的外部provisioner，本身不提供NFS，需要现有的NFS服务器提供存储。

 

1） 上传nfs-client-provisioner构建文件

 

 

其中注意修改deployment.yaml，使用之前配置NFS服务器和目录

 

 

2） 构建nfs-client-provisioner的pod资源

cd nfs-client

kubectl create -f .

3） 查看pod是否创建成功

 

安 装 Jenkins-Master           、

1）上传Jenkins-Master构建文件

 

 

其中有两点注意：

第一、在StatefulSet.yaml文件，声明了利用nfs-client-provisioner进行Jenkins-Master文件存储

 

 

 

第二、Service发布方法采用NodePort，会随机产生节点访问端口

 

 

2） 创建kube-ops的namespace

因为我们把Jenkins-Master的pod放到kube-ops下

kubectl create namespace kube-ops

 

3） 构建Jenkins-Master的pod资源

 cd jenkins-master

kubectl create -f .

4） 查看pod是否创建成功

kubectl get pods -n kube-ops

5） 查看信息，并访问

查看Pod运行在那个Node上

kubectl describe pods -n kube-ops

 

查看分配的端口

kubectl get service -n kube-ops

 

 

 

最终访问地址为：http://192.168.195.202:31138/ （192.168.195.202为k8s-node2的IP）

 

 

 

安装过程跟之前是一样的！

找到密钥复制粘贴

 

 

 

 

 

Kubernetes中Jenkins部署完成！！！

 

设置插件下载地址

cd /opt/nfs/jenkins/kube-ops-jenkins-home-jenkins-0-pvc-7ad49840-b65d-4ec9-a1f5-3681843526b2/updates

sed -i 's/http:\/\/updates.jenkins- ci.org\/download/https:\/\/mirrors.tuna.tsinghua.edu.cn\/jenkins/g' default.json && sed -i 's/http:\/\/www.google.com/https:\/\/www.baidu.com/g' default.json

Manage Plugins点击Advanced，把Update Site改为国内插件下载地址https://mirrors.tuna.tsinghua.edu.cn/jenkins/updates/update-center.json

 

 

 

6） 

先安装基本的插件

Localization:Chinese

Git

Pipeline

Extended Choice Parameter

重启Jenkins

 

Jenkins与Kubernetes整合

安装Kubernetes插件

系统管理->插件管理->可选插件

 

 

 

实现Jenkins与Kubernetes整合

系统管理->系统配置->云->新建云->Kubernetes

 

kubernetes 地 址 采 用 了 kube 的 服 务 器 发 现 ：https://kubernetes.default.svc.cluster.local 

namespace填kube-ops，然后点击Test Connection，如果出现 Connection test successful 的提示信息证明 Jenkins 已经可以和 Kubernetes 系统正常通信

Jenkins URL 地址：http://jenkins.kube-ops.svc.cluster.local:8080

 

构建Jenkins-Slave自定义镜像

Jenkins-Master在构建Job的时候，Kubernetes会创建Jenkins-Slave的Pod来完成Job的构建。我们选择  运行Jenkins-Slave的镜像为官方推荐镜像：jenkins/jnlp-slave:latest，但是这个镜像里面并没有Maven    环境，为了方便使用，我们需要自定义一个新的镜像：

准备材料：

 

 

Dockerfile文件内容如下：

 

 

FROM jenkins/jnlp-slave:latest 

MAINTAINER yy

# 切换到 root 账户进行操作

USER root

 

# 安装 maven

COPY apache-maven-3.6.2-bin.tar.gz .

 

RUN tar -zxf apache-maven-3.6.2-bin.tar.gz && \

    mv apache-maven-3.6.2 /usr/local && \

    rm -f apache-maven-3.6.2-bin.tar.gz && \

    ln -s /usr/local/apache-maven-3.6.2/bin/mvn /usr/bin/mvn && \

    ln -s /usr/local/apache-maven-3.6.2 /usr/local/apache-maven && \

    mkdir -p /usr/local/apache-maven/repo

 

COPY settings.xml /usr/local/apache-maven/conf/settings.xml

 

USER jenkins

 

//构建镜像

docker build -t jenkins-slave-maven:latest .

构建出一个新镜像：jenkins-slave-maven:latest

 

 

 

docker login -u admin -p Harbor12345 192.168.153.40:85

docker tag jenkins-slave-maven:latest 192.168.153.40:85/library/jenkins-slave-maven:latest

docker push 192.168.153.40:85/library/jenkins-slave-maven:latest

 

 

 

测试Jenkins-Slave是否可以创建

1） 创建一个Jenkins流水线项目

 

 

 

 

f06c4b06-ac26-4683-ad00-2d3599c827ee

 

2） 编写Pipeline，从GItlab拉取代码（使用http方式）

def git_address = "http://192.168.195.180:82/kgc_group/tensquare_back.git" 

def git_auth = "f06c4b06-ac26-4683-ad00-2d3599c827ee"

 

//创建一个Pod的模板，label为jenkins-slave

podTemplate(label: 'jenkins-slave', cloud: 'kubernetes', containers: [

    containerTemplate(

        name: 'jnlp',

        image: "192.168.153.90:85/library/jenkins-slave-maven:latest"

    )

  ]

)

{

    //引用jenkins-slave的pod模块来构建Jenkins-Slave的pod

    node("jenkins-slave"){

        stage('拉取代码'){

            checkout([$class: 'GitSCM', branches: [[name: '*/master']], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_address}"]]])

        }

    }

}

 

3） 查看构建日志（创建的时候可以打开node管理查看临时节点）