Mongodb集群搭建之 Replica Set
Replica Set
中文翻译叫做副本集，不过我并不喜欢把英文翻译成中文，总是感觉怪怪的。其实简单来说就是集群当中包含了多份数据，保证主节点挂掉了，备节点能继续提供数据服务，提供的前提就是数据需要和主节点一致。如下图：
Mongodb(M)表示主节点，Mongodb(S)表示备节点，Mongodb(A)表示仲裁节点。主备节点存储数据，仲裁节点不存储数据。客户端同时连接主节点与备节点，不连接仲裁节点。
默认设置下，主节点提供所有增删查改服务，备节点不提供任何服务。但是可以通过设置使备节点提供查询服务，这样就可以减少主节点的压力，当客户端进行数据查询时，请求自动转到备节点上。这个设置叫做Read Preference Modes，同时Java客户端提供了简单的配置方式，可以不必直接对数据库进行操作。
仲裁节点是一种特殊的节点，它本身并不存储数据，主要的作用是决定哪一个备节点在主节点挂掉之后提升为主节点，所以客户端不需要连接此节点。这里虽然只有一个备节点，但是仍然需要一个仲裁节点来提升备节点级别。我开始也不相信必须要有仲裁节点，但是自己也试过没仲裁节点的话，主节点挂了备节点还是备节点，所以咱们还是需要它的。
介绍完了集群方案，那么现在就开始搭建了。
鉴于实验条件有限，本文都是通过Docker虚拟机实现
方案一：快速搭建 简单了解副本集集群（简单命令自动创建）
一、创建数据持久化本地目录：
mkdir -p /root/application/program/mongodb/data
二、快速启动Docker创建容器（Docker image已安装好MongoDB：3.6.3）
docker run -d -v `pwd`/data/master:/mongodb -p 27017:27017 docker.io/mongodb:3.6.3 /usr/sbin/init
三：启动mongo shell并启动相关进程
mongo --nodb
#创建一个包含三个服务器的副本集：一个主服务器和两个备份服务器
replicaSet = new ReplSetTest({"nodes" : 3})
#启动3个mongod进程
replicaSet.startSet()
#配置复制功能
replicaSet.initiate()
现在就已经有了3个mongod进程，分别运行在20000、20001和20002端口。
这样一套包含一个主服务器和两个备份服务器的副本集集群 就搭建好了
方案二：手动创建（可以在一台机器上通过不同端口搭建，也可以使用三台独立的虚拟机搭建）
1.建立数据文件夹
一般情况下不会把数据目录建立在mongodb的解压目录下，不过这里方便起见，就建在mongodb解压目录下吧。
#三个目录分别对应主，备，仲裁节点
mkdir -p /root/application/program/mongodb/data/master
mkdir -p /root/application/program/mongodb/data/slaver
mkdir -p /root/application/program/mongodb/data/arbiter
2.快速创建并启动三个Docker容器（可以理解为3台虚拟机，有独立的IP）
docker run -d -v `pwd`/data/master:/mongodb -p 27017:27017 docker.io/mongodb:3.6.3 /usr/sbin/init
docker run -d -v `pwd`/data/slaver:/mongodb -p 27018:27017 docker.io/mongodb:3.6.3 /usr/sbin/init
docker run -d -v `pwd`/data/arbiter:/mongodb -p 27019:27017 docker.io/mongodb:3.6.3 /usr/sbin/init
3.建立配置文件
由于配置比较多，所以我们将配置写到文件里。
#master.conf
dbpath=/mongodb/data/master
logpath=/mongodb/log/master.log
pidfilepath=/mongodb/master.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.2
port=27017
oplogSize=10000
fork=true
noprealloc=true
#slaver.conf
dbpath=/mongodb/data/slaver
logpath=/mongodb/log/slaver.log
pidfilepath=/mongodb/slaver.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.3
port=27017
oplogSize=10000
fork=true
noprealloc=true
#arbiter.conf
dbpath=/mongodb/data/arbiter
logpath=/mongodb/log/arbiter.log
pidfilepath=/mongodb/arbiter.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.4
port=27017
oplogSize=10000
fork=true
noprealloc=true
参数解释：
dbpath：数据存放目录
logpath：日志存放路径
pidfilepath：进程文件，方便停止mongodb
directoryperdb：为每一个数据库按照数据库名建立文件夹存放
logappend：以追加的方式记录日志
replSet：replica set的名字
bind_ip：mongodb所绑定的ip地址
port：mongodb进程所使用的端口号，默认为27017
oplogSize：mongodb操作日志文件的最大大小。单位为Mb，默认为硬盘剩余空间的5%
fork：以后台方式运行进程
noprealloc：不预先分配存储
4.启动mongodb
进入每个mongodb节点的bin目录下
中间省略使用docker exec -it container_id bash 进入docker容器的步骤
./monood -f master.conf
./mongod -f slaver.conf
./mongod -f arbiter.conf
注意配置文件的路径一定要保证正确，可以是相对路径也可以是绝对路径。
5.配置主，备，仲裁节点
可以通过客户端连接mongodb，也可以直接在三个节点中选择一个连接mongodb。
./mongo --host 172.17.0.2 --port 27017 #ip和port是某个节点的地址
>use admin
>config={ _id:"testrs", members:[ {_id:0,host:'172.17.0.2:27017',priority:2}, {_id:1,host:'172.17.0.3:27017',priority:1},{_id:2,host:'172.17.0.4:27017',arbiterOnly:true}] };
>rs.initiate(config) #使配置生效
或者
>db.adminCommand({"replSetInitiate" : config})
config是可以任意的名字，当然最好不要是mongodb的关键字，conf，config都可以。最外层的_id表示replica set的名字，members里包含的是所有节点的地址以及优先级。优先级最高的即成为主节点，即这里的172.17.0.2:27017。特别注意的是，对于仲裁节点，需要有个特别的配置——arbiterOnly:true。这个千万不能少了，不然主备模式就不能生效。
配置的生效时间根据不同的机器配置会有长有短，配置不错的话基本上十几秒内就能生效，有的配置需要一两分钟。如果生效了，执行rs.status()命令会看到如下信息：
testrs:SECONDARY> rs.status()
{
"set" : "testrs",
"date" : ISODate("2018-08-07T07:29:24.076Z"),
"myState" : 1,
"term" : NumberLong(1),
"heartbeatIntervalMillis" : NumberLong(2000),
"optimes" : {
"lastCommittedOpTime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"readConcernMajorityOpTime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"appliedOpTime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"durableOpTime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
}
},
"members" : [
{
"_id" : 0,
"name" : "172.17.0.2:27017",
"health" : 1,
"state" : 1,
"stateStr" : "PRIMARY",
"uptime" : 364,
"optime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"optimeDate" : ISODate("2018-08-07T07:29:14Z"),
"infoMessage" : "could not find member to sync from",
"electionTime" : Timestamp(1533626952, 1),
"electionDate" : ISODate("2018-08-07T07:29:12Z"),
"configVersion" : 1,
"self" : true
},
{
"_id" : 1,
"name" : "172.17.0.3:27017",
"health" : 1,
"state" : 2,
"stateStr" : "SECONDARY",
"uptime" : 22,
"optime" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"optimeDurable" : {
"ts" : Timestamp(1533626954, 1),
"t" : NumberLong(1)
},
"optimeDate" : ISODate("2018-08-07T07:29:14Z"),
"optimeDurableDate" : ISODate("2018-08-07T07:29:14Z"),
"lastHeartbeat" : ISODate("2018-08-07T07:29:22.187Z"),
"lastHeartbeatRecv" : ISODate("2018-08-07T07:29:22.807Z"),
"pingMs" : NumberLong(0),
"syncingTo" : "172.17.0.2:27017",
"configVersion" : 1
},
{
"_id" : 2,
"name" : "172.17.0.4:27017",
"health" : 1,
"state" : 7,
"stateStr" : "ARBITER",
"uptime" : 22,
"lastHeartbeat" : ISODate("2018-08-07T07:29:22.186Z"),
"lastHeartbeatRecv" : ISODate("2018-08-07T07:29:23.681Z"),
"pingMs" : NumberLong(0),
"configVersion" : 1
}
],
"ok" : 1,
"operationTime" : Timestamp(1533626954, 1),
"$clusterTime" : {
"clusterTime" : Timestamp(1533626954, 1),
"signature" : {
"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),
"keyId" : NumberLong(0)
}
}
}
如果配置正在生效，其中会包含如下信息：
"stateStr" : "RECOVERING"
同时可以查看对应节点的日志，发现正在等待别的节点生效或者正在分配数据文件。
现在基本上已经完成了集群的所有搭建工作。至于测试工作，可以留给大家自己试试。一个是往主节点插入数据，能从备节点查到之前插入的数据（查询备节点可能会遇到某个问题，可以自己去网上查查看）。二是停掉主节点，备节点能变成主节点提供服务。三是恢复主节点，备节点也能恢复其备的角色，而不是继续充当主的角色。二和三都可以通过rs.status()命令实时查看集群的变化。
5.其它操作
添加、删除新成员
1.新启动一个mongod进程
mongod --replSet spock --dbpath /mongodb/mongodb/bin/datas/m4 --logpath /mongodb/mongodb/bin/logs/m4/mongodb.log --bind_ip 172.17.0.5 --port 27020 --fork
2. 登录其中一个节点，并执行rs.add命令
mongo 172.17.0.3:27017
rs.add("172.17.0.5:27020")
删除的话 执行 rs.remove("172.17.0.5:27020")
或者
config = {
"_id" : "spock",
"members" : [
{"_id" : 0, "host" : "172.17.0.2:27017"},
{"_id" : 1, "host" : "172.17.0.3:27018"},
{"_id" : 2, "host" : "172.17.0.4:27019"},
{"_id" : 3, "host" : "172.17.0.5:27020"}
]
}
rs.reconfig(config)
MongoDb的“not master and slaveok=false”错误及解决方法
这是正常的，因为SECONDARY是不允许读写的，如果非要解决，方法如下：
SECONDARY> rs.slaveOk();
思考：
1.尽可能在副本集中使用奇数个数据成员，而不是使用仲裁者；
2. 建议大多数成员放在同一个数据中心，保证其中一个数据中心挂掉后，另一个数据中心满足“大多数”；
3.MongoDB只支持单一主节点；
4.设置延迟备份节点，要求优先级置为0（priority ： 0），隐藏成员（Hidden： true），避免误操作；
5.推荐配置：两个数据中心使用偶数个数据成员，另外一台配置低的机器做仲裁者 （arbiteronly ： true）
