Docker--harbor私有仓库部署与管理
Harbor 是 VMware 公司开源的企业级 Docker Registry 项目，其目标是帮助用户迅速搭建一个企业级的 Docker Registry 服务。
1. Harbor的特性
1、基于角色控制：用户和仓库都是基于项目进行组织的，而用户在项目中可以拥有不同的权限。
2、基于镜像的复制策略：镜像可以在多个Harbor实例之间进行复制（同步）。
3、支持 LDAP/AD：Harbor 可以集成企业内部已有的 AD/LDAP（类似数据库的一张表），用于对已经存在的用户认证和管理。
4、镜像删除和垃圾回收：镜像可以被删除，也可以回收镜像占用的空间。
5、图形化用户界面：用户可以通过浏览器来浏览，搜索镜像仓库以及对项目进行管理。
6、审计管理：所有针对镜像仓库的操作都可以被记录追溯，用于审计管理。
7、支持 RESTful API：RESTful API 提供给管理员对于 Harbor 更多的操控, 使得与其它管理软件集成变得更容易。
8、Harbor和docker registry的关系：Harbor实质上是对docker registry做了封装，扩展了自己的业务模板。
（1）Harbor的构成
Harbor 在架构上主要有 Proxy、Registry、Core services、Database（Harbor-db）、Log collector（Harbor-log）、Job services 六个组件。
●Proxy: 是一个 nginx 的前端代理，Harbor 的 Registry、UI、Token 服务等组件，都处在 nginx 反向代理后边。 该代理将来自浏览器、docker clients 的请求转发到后端不同的服务上。
●Registry: 负责储存 Docker 镜像，并处理 Docker push/pull 命令。由于要对用户进行访问控制，即不同用户对 Docker 镜像 有不同的读写权限，Registry 会指向一个 Token 服务，强制用户的每次 Docker pull/push 请求都要携带一个合法的 Token， Registry 会通过公钥对 Token 进行解密验证。
●Core services: Harbor的核心功能，主要提供以下3个服务:
1）UI（harbor-ui）: 提供图形化界面，帮助用户管理 Registry 上的镜像（image）, 并对用户进行授权。
2）WebHook：为了及时获取Registry 上image 状态变化的情况，在Registry 上配置 Webhook，把状态变化传递给 UI 模块。
3）Token 服务：负责根据用户权限给每个 Docker push/pull 命令签发 Token。Docker 客户端向 Registry 服务发起的请求， 如果不包含 Token，会被重定向到 Token 服务，获得 Token 后再重新向 Registry 进行请求。
●Database（harbor-db）：为core services提供数据库服务，负责储存用户权限、审计日志、Docker 镜像分组信息等数据。
●Job services: 主要用于镜像复制，本地镜像可以被同步到远程 Harbor 实例上。
●Log collector（harbor-log）: 负责收集其他组件的日志到一个地方。
Harbor 的每个组件都是以 Docker 容器的形式构建的，因此，使用 Docker Compose 来对它进行部署。
总共分为7个容器运行，通过在docker-compose.yml所在目录中执行 docker-compose ps 命令来查看， 名称分别为：nginx、harbor-jobservice、harbor-ui、harbor-db、harbor-adminserver、registry、harbor-log。
其中 harbor-adminserver 主要是作为一个后端的配置数据管理，并没有太多的其他功能。harbor-ui 所要操作的所有数据都通过 harbor-adminserver 这样一个数据配置管理中心来完成。
2. 搭建本地私有仓库
（1）Harbor私有仓库
docker pull 下载镜像时，
公开项目的镜像可以被任意用户拉取
私有项目的镜像需要先用项目成员登录仓库才能拉取
docker push 上传镜像时，需要先用具有上传权限的项目成员登录仓库才能推送镜像
（2）首先下载 registry 镜像
docker pull registry
docker images
（3）在 daemon.json 文件中添加私有镜像仓库地址
vim /etc/docker/daemon.json
{
"insecure-registries": ["20.0.0.180:5000"], #添加，注意用逗号结尾
"registry-mirrors": ["https://6ijb8ubo.mirror.aliyuncs.com","https://docker.m.daocloud.io","https://docker.1panel.live"]
}
systemctl restart docker
docker images
#运行 registry 容器
docker run -d -v /data/registry:/var/lib/registry -p 5000:5000 --restart=always --name registry registry:latest
docker ps -a
docker info
（4）为镜像打标签
docker tag centos:7 20.0.0.180:5000/centos:v1
dicker images
（5）上传到私有仓库
docker push 20.0.0.180:5000/centos:v1
（6）列出私有仓库的所有镜像
curl http://20.0.0.180:5000/v2/_catalog
（7）出私有仓库的 centos 镜像有哪些tag,查看标签
curl http://20.0.0.180:5000/v2/centos/tags/list
（8）先删除原有的 centos 的镜像，再测试私有仓库下载
docker rmi -f 8652b9f0cb4c
docker pull 20.0.0.180:5000/centos:v1
3.Harbor 部署
（1）上传镜像到Harbor私有仓库的步骤
1）使用 docker login 指定仓库地址登录私有仓库
2）使用 docker tag 给镜像添加仓库名，格式为 仓库URL地址/项目名/镜像名:标签
3）使用 docker push 推送镜像到私有仓库
Harbor服务器 20.0.0.170 docker-ce、docker-compose、harbor-offline-v1.2.2
client服务器 20.0.0.180 docker-ce
（2）部署 Docker-Compose 服务
cd /opt/
rz -E 上传harbor-offline-installer-v1.10.18.tgz
ls
mv harbor /usr/local/
cd /usr/local/
ls
cd harbor/
ls
（3）修改harbor安装的配置文件
vim /usr/local/harbor/harbor.cfg
--5行--修改，设置为Harbor服务器的IP地址或者域名
hostname = 20.0.0.170
--59行--指定管理员的初始密码，默认的用户名/密码是admin/Harbor12345
harbor_admin_password = Harbor12345
./prepare
docker ps -a
（4）启动 Harbor
cd /usr/local/harbor/
在配置好了 harbor.cfg 之后，执行 ./prepare 命令，为 harbor 启动的容器生成一些必要的文件（环境）
再执行命令 ./install.sh 以 pull 镜像并启动容器
（5）看 Harbor 启动镜像
cd /usr/local/harbor/
docker-compose ps
docker-compose up -d #启动
docker-compose stop #停止
docker-compose restart #重新启动
（6）创建一个新项目
（1）浏览器访问：http://20.0.0.170 登录 Harbor WEB UI 界面，默认的管理员用户名和密码是 admin/Harbor12345
（2）输入用户名和密码登录界面后可以创建一个新项目。点击“+项目”按钮
（3）填写项目名称为“myproject-kgc”，点击“确定”按钮，创建新项目
（4）此时可使用 Docker 命令在本地通过 127.0.0.1 来登录和推送镜像。默认情况下，Registry 服务器在端口 80 上侦听。
//登录 Harbor
docker login [-u admin -p Harbor12345] http://127.0.0.1
//下载镜像进行测试
docker pull nginx
//将镜像打标签
格式：docker tag 镜像:标签 仓库IP/项目名称/镜像名:标签
docker tag nginx:latest 127.0.0.1/myproject-kgc/nginx:v1
//上传镜像到 Harbor
docker push 127.0.0.1/myproject-kgc/nginx:v1
（5）在 Harbor 界面 myproject-kgc 目录下可看见此镜像及相关信息
（7）在其他客户端上传镜像
以上操作都是在 Harbor 服务器本地操作。如果其他客户端登录到 Harbor，就会报如下错误。出现这问题的原因为Docker Registry 交互默认使用的是 HTTPS，但是搭建私有镜像默认使用的是 HTTP 服务，所以与私有镜像交互时出现以下错误。
docker login -u admin -p Harbor12345 http://20.0.0.170
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
Error response from daemon: Get https://20.0.0.170/v2/: dial tcp 20.0.0.170:443: connect: connection refused
（1）在 Docker 客户端配置操作
//解决办法是：在 Docker server 启动的时候，增加启动参数，默认使用 HTTP 访问。
vim /usr/lib/systemd/system/docker.service
--13行--修改
ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 20.0.0.170 --containerd=/run/containerd/containerd.sock
或
ExecStart=/usr/bin/dockerd --insecure-registry 20.0.0.170
//重启 Docker，再次登录
systemctl daemon-reload
systemctl restart docker
//再次登录 Harbor
docker login -u admin -p Harbor12345 http://20.0.0.170
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Login Succeeded
//将自动保存凭据到/root/.docker/config.json，下次登录时可直接使用凭据登录 Harbor
//下载镜像进行测试
docker pull 20.0.0.170/myproject-kgc/nginx:v1
//上传镜像进行测试
docker pull cirros
docker tag cirros:latest 20.0.0.170/myproject-kgc/cirros:v2
docker push 20.0.0.170/myproject-kgc/cirros:v2
（2）刷新 Harbor 的 Web 管理界面进行查看，会发现 myproject-kgc 项目里面有两个镜像
4.维护管理Harbor
（1）通过 Harbor Web 创建项目
在 Harbor 仓库中，任何镜像在被 push 到 regsitry 之前都必须有一个自己所属的项目。
单击“+项目”，填写项目名称，项目级别若设置为"私有"，则不勾选。如果设置为公共仓库，则所有人对此项目下的镜像拥有读权限，命令行中不需要执行"Docker login"即可下载镜像，镜像操作与 Docker Hub 一致。
（2）创建 Harbor 用户
（1）创建用户并分配权限
在 Web 管理界面中单击系统管理 -> 用户管理 -> +用户，
填写用户名为“kgc-zhangsan”，邮箱为“kgc-zhangsan@kgc.com”，全名为“zhangsan”，密码为“Abc123456”，注释为“管理员”（可省略）。
附：用户创建成功后，单击左侧“...”按钮可将上述创建的用户设置为管理员角色或进行删除操作，本例不作任何设置。
| 角色 | 权限说明 |
|---|---|
| 访客 | 对于指定项目拥有只读权限 |
| 开发人员 | 对于指定项目拥有读写权限，但没用删除权限 |
| 维护人员 | 对于指定项目拥有读写权限，也能对修改其它配置，比如创建 Webhooks |
| 项目管理员 | 除了读写权限，同时拥有用户管理/镜像扫描等管理权限 |
（2）添加项目成员
单击项目 -> myproject-kgc-> 成员 -> + 成员，填写上述创建的用户 kgc-zhangsan 并分配角色为“开发人员”。
附：此时单击左侧“...”按钮仍然可对成员角色进行变更或者删除操作
（3）在客户端上使用普通账户操作镜像
//删除上述打标签的本地镜像
docker rmi 20.0.0.170/myproject-kgc/cirros:v2
//先退出当前用户，然后使用上述创建的账户 kgc-zhangsan 登录
docker logout 20.0.0.170
docker login 20.0.0.170
或 密码
docker login -u kgc-zhangsan -p Abc123456 http://20.0.0.170
//下载和上传镜像进行测试
docker pull 20.0.0.170/myproject-kgc/cirros:v2
docker tag cirros:latest 20.0.0.170/myproject-kgc/cirros:v3
docker push 20.0.0.170/myproject-kgc/cirros:v3
（3） 查看日志
Web 界面日志，操作日志按时间顺序记录用户相关操作
（4）修改 Harbor.cfg 配置文件
要更改 Harbor的配置文件中的可选参数时，请先停止现有的 Harbor实例并更新 Harbor.cfg；然后运行 prepare 脚本来填充配置； 最后重新创建并启动 Harbor 的实例。
docker ps -a #查看所有容器状态
docker-compose ps #只查看harbor容器状态
1）vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
sysctl -p
systemctl restart
2）docker-compose restart #开启异常，就地重启
3）docker-compose down #停掉容器然后删除掉
docker-compose up -d #以后台的方式运行容器
（5）移除 Harbor 服务容器同时保留镜像数据/数据库，并进行迁移
//在Harbor服务器上操作
（1）移除 Harbor 服务容器
cd /usr/local/harbor
docker-compose down -v
（2）把项目中的镜像数据进行打包
//持久数据，如镜像，数据库等在宿主机的/data/目录下，日志在宿主机的/var/log/Harbor/目录下
ls /data/registry/docker/registry/v2/repositories/myproject-kgc
cd /data/registry/docker/registry/v2/repositories/myproject-kgc
tar zcvf kgc-registry.tar.gz ./*
（6）需重新部署，需要移除 Harbor 服务容器全部数据
cd /usr/local/harbor
docker-compose down -v
rm -r /data/database
rm -r /data/registry
