jenkins+docker持续集成实验
在互联网时代,对于每一家公司,软件开发和发布的重要性不言而喻,目前已经形成一套标准的流程,最重要的组成部分就是持续集成(CI)及持续部署、交付(CD)。本文基于Jenkins+Docker+Git实现一套CI自动化发布流程。
1.布流程设计
传统工作流程:
1.java项目开发
2.提交项目代码到(git或svn)
3. 拉取项目代码(jenkins或手动)
4.编译项目代码(jenkins或手动)
5.发布java项目,并运行java项目
6.测试
自动化工作流程:
-
开发人员提交代码到Git版本仓库;
-
Jenkins人工/定时触发项目构建;
-
Jenkins拉取代码、代码编码、打包镜像、推送到镜像仓库;
-
Jenkins在Docker主机创建容器并发布。
2.环境描述
1、服务器部署信息
服务器
|
主机名
|
IP
|
运行服务
|
jenkins服务器
|
jenkins
|
10.0.0.32
|
安装docker、 运行jenkins容器、git客户端、jdk、maven
|
docker服务器
|
docker
|
10.0.0.33
|
安装docker、创建镜像运行java项目:tale
|
Git和私有仓库服务器
|
git_registry
|
10.0.0.34
|
安装docker、git服务、运行registry私有仓库容器
|
说明:
-
本文中完全是模拟生产环境中服务器的规划:git单独部署、jenkins单独部署。如果你没有这么多服务器,可以把git服务器和jenkins服务器放在一起来测试。前提是不要搞晕了就可以。
-
tale是一个java写的开源博客系统,这个项目没有任何依赖,所以在此次测试中可以用它做为构建、部署的对象。当然如果你有其它的java项目也可以不用它来测试。
-
tale访问地址:https://github.com/otale/tale.git
2、版本信息
名称
|
版本
|
软件包
|
说明
|
服务器
|
Centos 7.5
|
无
|
linux系统
|
docker
|
18.06.1-ce
|
yum安装
|
docker引擎服务
|
jdk
|
1.8.0_201
|
jdk-8u201-linux-x64.tar.gz
|
运行jenkins需要的JDK环境
|
maven
|
3.6.0
|
apache-maven-3.6.0-bin.tar.gz
|
构建java项目需要的工具
|
jenkins
|
最新版本
|
docker hub下载最新jenkins镜像
|
持续集成工具
|
registry
|
最新版本
|
docker hub下载最新registry镜像
|
docker私有仓库
|
3.部署环境
3.1 部署git服务
注意:这个步骤在 git_registry 服务器上操作
1、安装git
[root@git_registry ~]# yum -y install git
2、创建git用户
[root@git_registry ~]# useradd git [root@git_registry ~]# passwd git Changing password for user git. New password: BAD PASSWORD: The password is shorter than 8 characters Retype new password: passwd: all authentication tokens updated successfully.
#记得切换创建的git用户操作:
[root@git_registry ~]#su - git
3、创建仓库
创建app.git仓库,仓库名自定义,这一步需要切换刚才创建的git用户操作
[git@git_registry root]$ cd /home/git/ [git@git_registry ~]$ cd app.git/ [git@git_registry app.git]$ git --bare init Initialized empty Git repository in /home/git/app.git/
#然后用ls查看一下app.git仓库初始化完成了:
[git@git_registry app.git]$ ls branches config description HEAD hooks info objects refs
3.2 验证git服务
注意:这个步骤在 jenkins 服务器上操作
正常来说,开发用自己的电脑把写好的代码push到git仓库就算完成验证,在本文中去github里下载一个java项目(tale)来验证,我们就用jenkins这台服务器做为git客户端吧:
1、下载git客户端
[root@jenkins ~]# yum -y install git
2、下载tale项目包
#先创建个目录来存放tale包,随便放在哪个空目录下都行,后面我们还需要把它移走
[root@jenkins ~]# mkdir /tale [root@jenkins ~]# git clone https://github.com/otale/tale.git #在查看下载好的tale项目 [root@jenkins tale]# ls bin LICENSE package.xml pom.xml README.md README_ZH.md src
3、生成公钥,拷贝到git服务器
[root@jenkins tale]# ssh-keygen -t rsa Generating public/private rsa key pair. Enter file in which to save the key (/root/.ssh/id_rsa): Enter passphrase (empty for no passphrase): Enter same passphrase again: Your identification has been saved in /root/.ssh/id_rsa. Your public key has been saved in /root/.ssh/id_rsa.pub. The key fingerprint is: SHA256:S6qxaVNuJ5inLxGDdrqqlpNsG4AsmcXH88dXckHdIOI root@jenkins The key's randomart image is: +---[RSA 2048]----+ | ..+..o | | . . . . o. .| | o.+ E o | |o+o.+o . + | |*o o o. S . | |o . . .+ o | |..o..*. . | | Bo *== . | |*oo.=B.o | +----[SHA256]-----+
#把公钥拷贝到git服务器,注意用刚才的git用户
[root@jenkins tale]# ssh-copy-id git@10.0.0.34 /usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/root/.ssh/id_rsa.pub" /usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed /usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys git@10.0.0.34's password: Number of key(s) added: 1 Now try logging into the machine, with: "ssh 'git@10.0.0.34'" and check to make sure that only the key(s) you wanted were added.
4、用git clone验证
#先创建个目录,目录名随便定义,用于拉取git服务器上创建的app.git仓库
[root@jenkins tale]# mkdir /git [root@jenkins tale]# cd /git/
#配置下git客户端的用户信息
[root@jenkins git]# git config --global user.email "test@qq.com" [root@jenkins git]# git config --global user.name "test"
#在来git clone,由于app.git仓库是空的,所以会很快
[root@jenkins git]# git clone git@10.0.0.34:/home/git/app.git Cloning into 'app'... warning: You appear to have cloned an empty repository.
5、把之前下载的tale项目push到app.git仓库中
#先移动至刚才/git目录下
[root@jenkins git]# mv /tale/* /git/app/ [root@jenkins git]# cd /git/app/ [root@jenkins app]# ls bin LICENSE package.xml pom.xml README.md README_ZH.md src
#然后提交到git仓库
[root@jenkins app]# git add . [root@jenkins app]# git commit -m "add project tale" [root@jenkins app]# git push origin master Counting objects: 297, done. Delta compression using up to 4 threads. Compressing objects: 100% (255/255), done. Writing objects: 100% (297/297), 6.35 MiB | 0 bytes/s, done. Total 297 (delta 22), reused 0 (delta 0) To git@10.0.0.34:/home/git/app.git * [new branch] master -> master
3.3 部署docker私有仓库
注意:这个步骤在 git_registry 服务器上操作
我们还是用官方的镜像来创建docker私有仓库:
[root@git_registry /]# docker run -d -v /opt/registry:/var/lib/registry -p 5000:5000 --restart=always --name rregistry registry
查看一下私有仓库已经起来了:
[root@git_registry /]# docker ps -l
对registry私有仓库不太了解的朋友可以参考笔者的这篇文章 《docker:用registry快速搭建私有镜像仓库》
3.4 配置docker服务器
注意:这个步骤在 docker服务器上操作
这台服务器就是在docker中运行刚才的tale 这个java项目的服务器,所以我们要在这台服各器上安装下docker。
1、安装Docker
[root@docker ~]# yum install -y yum-utils device-mapper-persistent-data lvm2 [root@docker ~]# yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo [root@docker ~]# yum install docker-ce
2、配置镜像源为国内官方源
[root@docker ~]# vim /etc/docker/daemon.json { "registry-mirrors": [ "https://registry.docker-cn.com"], "insecure-registries": [ "10.0.0.34:5000"] }
注意书写格式为json格式,有严格的书写要求;
第1行是国内镜像源,
第2行是docker私有仓库地址;
10.0.0.34就是docker私有仓库的地址,添加后连接docker私有仓库就是用http协议了
3、启动dokcer服务
[root@docker ~]# systemctl restart docker
4、部署JDK
由于后面运行java容器需要jdk环境,jdk如果放在容器中运行容器又相当重,所以就在宿主机上部署jdk,后面创建java容器的时候把宿主机的jdk路径挂载到容器就去。部署jdk很简单,解压就行:
[root@docker ~]# tar -zxvf jdk-8u45-linux-x64.tar.gz -C /usr/local/
我们把它解压在docker这台宿主机的/usr/local目录中。
5、构建tale开源博客的基础镜像
其实,这个镜像随便在哪台服务器上构建都行,在本文中就直接在这台docker服务器构建了:
[root@docker /]# mkdir dockerfile_tale [root@docker /]# cd dockerfile_tale/ [root@docker dockerfile_tale]# vim Dockerfile FROM centos:7 RUN yum install epel-release -y RUN yum install nginx supervisor -y && yum clean all RUN sed -i '47a proxy_pass http://127.0.0.1:9000;' /etc/nginx/nginx.conf COPY supervisord.conf /etc/supervisord.conf ENV PATH /usr/local/jdk/bin:$PATH WORKDIR /tale CMD ["/usr/bin/supervisord"]
说明:此Dockerfile以centos7为基础镜像,通过yum安装nginx、supervisor服务。定义jdk的环境变量,并通过supervisord来启动nginx和java项目。下面来看下supervisord.conf配置。
[root@docker dockerfile_tale]# ls /dockerfile_tale/ Dockerfile supervisord.conf [root@docker dockerfile_tale]# cat supervisord.conf [supervisord] nodaemon=true [program:app] command=tar xf /tale/tale.tar.gz [program:tale] command=/usr/local/jdk/bin/java -jar /tale/tale-least.jar autostart=true autorestart=true [program:nginx] command=/usr/sbin/nginx -g "daemon off;" autostart=true autorestart=true
上面的配置都是基础配置,分别是通过java -jar启动tale-least:jar包,nginx -g 启动nginx服务。
然后,构建镜像:
[root@docker dockerfile_tale]#docker build -t tale:base . [root@docker dockerfile_tale]# docker images REPOSITORY TAG IMAGE ID CREATED SIZE tale base b6d5028ecc3b 2 seconds ago 372MB centos 7 2d194b392dd1 6 days ago 195MB 对tale:base镜像打tag,并上传到registry私有仓库: [root@docker /]#docker tag tale:base 10.0.0.34:5000/tale:base [root@docker /]#docker push 10.0.0.34:5000/tale:base
3.5 部署jenkins
注意:这个步骤在 jenkins 服务器上操作
1、部署JDK
由于jenkins需要jdk环境,jdk如果放在容器中运行容器又相当重,所以就在宿主机上部署jdk,后面创建jekins容器的时候把宿主机的jdk路径挂载到容器就去。部署jdk很简单,解压就行:
[root@jenkins /]# tar -zxvf jdk-8u201-linux-x64.tar.gz -C /usr/local/
我们把它解压在宿主机的/usr/local目录中。
2、部署maven
由于本文后期是通过jenkins运行java项目,所以我们还需要maven工具,maven也和jdk部署一样,也不想在容器中运行maven,所以也是部署在宿主机上然后挂载到容器中。也是直接解压:
[root@jenkins local]# tar -zxvf apache-maven-3.6.0-bin.tar.gz -C /usr/local/
查看一下这两个源码软件是否解压:
3、生成jenkins镜像
在本文中我们引用docker hub中的官方镜像来编写个Dockerfile文件:
#说明:下面我创建个目录来放置jenkins的Dockerfile文件,这个文件随便放在哪个目录都行
[root@jenkins /]# mkdir /Dockerfile_jenkins [root@jenkins /]# cd Dockerfile_jenkins/ [root@jenkins Dockerfile_jenkins]# vim Dockerfile FROM jenkins USER root RUN echo '' > /etc/apt/sources.list.d/jessie-backports.list && \ wget http://mirrors.163.com/.help/sources.list.jessie -O /etc/apt/sources.list RUN apt-get update && apt-get install -y git
Dockerfile说明:
-
第1行FROM引用了官方镜像jenkins,这个jenkins是基于debiant系统构建的。
-
第2行USER使用root用户来运行。
-
第3行RUN更改了apt-get源为国内163的源。
-
第4行RUN是安装git客户端,由于官方的jenkins镜像没有安装git客户端,我们需要在jenkins容器中调用git命令,所以在此需要安装下git客户端,当然你也可以启动jenkins容器后在容器中安装;不过笔者建议需要安装的东西最好的Dockerfile中就弄好。
4、构建jenkins镜像
[root@jenkins Dockerfile_jenkins]# docker build -t jenkins:v1 .
5、创建jenkins镜像
[root@jenkins / ]#docker run -d \ --name jenkins \ -p 8080:8080 \ -v /var/jenkins_home/:/var/jenkins_home \ -v /usr/local/apache-maven-3.6.0:/usr/local/maven \ -v /usr/local/jdk1.8.0_201:/usr/local/jdk \ -v ~/.ssh:/root/.ssh \ jenkins:v1
参数说明,上面的参数都是最常用的,都比较很简单很好理解
-d:在后台运行容器;
-p:映射端口;
-v:宿主机的目录挂载到容器;/var/jenkins_home 这个目录在宿主机中空的,这是把容器中的jenkinis主目录绑定到宿主机中来,其它的两个目录是之前解压的工具;
来查看jenkins运行状态:
上面的两个状态显示jenkins容器运行都是OK的!!!
4.配置jenkins
4.1 初始化配置
-
通过http://ip:8080 来访问jenkins服务;从上图给出的提示,需要从/var/jenkins_home/secrets/initialAdminPassword获
登录成功后回让你选择插件的安装,可以选择建议的安装也可以自己进行选择,不清楚的话可以使用建议的安装。由于建议安装的插件比较多,安装的过程有点慢,多等待一会;
安装完成后最好新创建一个管理员账户代替之前的临时自动生成的密码账户;
4.2 系统设置
前置条件 Publish over SSH 插件必须已经安装
进入“系统管理” -- “系统设置”,主要是把docker这台服务器通过ssh的形式添加进来,后期部署dokcer容器,如下图:
参数说明:
Name:10.0.0.33-docker
Hostname:10.0.0.33
Username:root
Remote Directory:/data 这个意思是把代码发布到10.0.0.3 /data目录中,需要手动创建个目录
Use password authentication, or use a different key:勾选它
Passphrase / Password:输入10.0.0.33这台docker服务器的密码
4.3 配置Maven、jdk、git环境
1、jdk配置
进“系统管理” -- "全局工具配置",添加jenkins容器jdk安装路径,如下图:
2、maven配置
前置条件安装了maven插件
进“系统管理” -- "全局工具配置",添加jenkins容器maven安装路径,如下图:
3、git配置
这里我让它为默认配置,如下图:
4.4 配置java项目
1、构建maven项目
点击“新建” -- “构建一个maven项目,项目名称定为java-tale,如下图:
2、源码管理
在“source code management”项中选择Git,只需要配置git仓库的地址 “Repository URL”,之前我们在jenkins服务器上把公钥传输到了git服务器上了,所以不需要做认证,如下图:
3、构建触发器
在“build triggers”选项中,选上“轮询 SCM”,日程表 * ,每分钟都去捡查代码,这个和linux crontab是一样的含义。这一项你也可以不用测试,如下图:
访问docker宿主机ip
4、build配置
在“Build”选项中,Goals and options输入:clean package。如下图:
5、构建后的配置
在“Post Steps”选项中,配置如下操作:
配置说明:
Nmae:选择需要部署的docker服务器,前面我们SSH增加了一台,所以这里可以直接选择;
source files:需要部署到目标服务的打包成果路径,默认的根目录是 /var/jenkins_home/workspace/java_tale/
Remove prefilx: “Source files”配置的路径中要移除的前缀
Remote directory:成果要发送到的远程目标服务目录路径,这个路径与第一步配置中的Remote Directory对应。
Exec command:成果发送完成后,需要执行的命令,具体如下
docker rm -f tale-test docker rmi -f 10.0.0.34:5000/tale:base docker run -itd \ --name tale-test \ -p 80:80 \ -v /usr/local/jdk1.8.0_201:/usr/local/jdk \ -v /data:/tale \ 10.0.0:5000/tale:base
在Exec command执行中的命令都是在构建代码完成后的操作,会在10.0.0.33-docker这台服务器上执行。
第1/2条命令:其实这两步你先可以不用加上,到了下一次构建的时候你测试一下不加这两条命令会有什么结果。如果构建失败,你在加上这两条命令,其实这两条命令是事先删除容器和镜像文件,然后通过第3条命令运行全新的容器。
第3条命令:就是通过docker run来运行tale-test容器了,并把10.0.0.33-docker这台服务器的jdk和tale目录挂载到容器中。
6、测试
配置上之后,构建此项目:
查看控制台输出日志:
看到最上面完成的状态,就可以进行测试了,如果是第一次构建时间会比较久,它需要下载maven相关的依赖包。
然后登录docker服务器查看一下运行的容器
最后,通过用浏览器来访问一下这个用java写的tale开源博客项目: