mongodb复制集群

Mongodb的复制功能:
两种类型:
    master/slave:
    replica set(复制集,副本集):服务于同一数据集的多个mongodb实例
        主节点将数据修改操作保存至oplog中,类似mysql的中继日志,集群三个节点,
        arbiter:仲裁者,集群心跳每2s一次,自动实现转移(通过选举方式实现)

    复制集中特殊类型节点:
        0优先级的节点:冷备节点,不会被选举成为主节点,但可以参与选举,使用场景:异地备份节点
        被隐藏的从节点:(提前是0优先级节点),且对客户端不可见
        延迟复制的从节点:首先是一个0优先级的从节点,且复制时间落后于主节点一个固定时长
        arbiter:仲裁节点
    # 复制集群成员属性:都可以在cfg=rs.conf()配置中定义
        arbiterOnly:true
        priority:[0-1000]
        hidden:true
        buildIndexes:<bool>
        tags:{loc1:desc1,....}
        slaveDelay:<n>  #秒为单位
        votes:0代表阻止在选举中主动投票,但是可以否决投票
Mongodb的复制架构:
oplog:默认是在初始mongodb中的local数据库中
oplog:默认是在初始mongodb中的local数据库中,大小固定的文件
    新增节点到集群:执行步骤
    1、初始同步(initial sync)
    2、回滚后追赶(post-rollback catch-up)
    3、切分块迁移(sharding chunk migrations)
local:存储副本集的元数据信息和oplog,用户存储oplog的是一个名为oplog.rs的collection,
    oplog.rs的大小依赖于os及文件系统,但可以自定义其大小,--oplogSize
Mongo的数据同步类型:
初始同步
    节点没有任何数据时
    节点丢失副本复制历史
复制
    
    初始同步的步骤:
        1、克隆所有数据库的所有collection
        2、应用数据集的所有改变:复制oplog,并应用至本地
        3、为所有的collection构建索引
主从复制选项:
--only:在从节点指定只复制特定某个数据库(默认复制所有数据库)
--slavedelay:用在从节点上,当应用主节点的操作时增加延迟,(单位是秒,),延迟从节点
--fastsync:以主节点的数据快照为基础启动从节点,如果数据目录一开始是主节点的数据快照,从节点用这个选项启动要比做完整同步快的多
--autoresync:如果主从节点不同不了,重新启动同步检查
--oplogSize:主节点oplog的大小(单位是MB)

复制配置选项:
--replSet NAME 
--replIndexPrefetch {none|_id_only|all}    预取索引

副本集的重新选举的影响条件:
    心跳信息
    优先级
    optime:更新数据的时间戳,不能落后于其他节点
    网络连接:票数多过一半
    网络分区:
选举机制:
触发选举的时间:
    新副本集初始化时
    从节点联系不到主节点时
    主节点“下台”时
        主节点收到stepDown()命令时
        某从节点有更高的优先级,且已经满足成主节点其它所有条件
mon复制实验三节点:
192.168.2.147 node4
192.168.2.33  node3
192.168.3.6  node2

# ntpdate cn.ntp.org.cn
# scp *.rpm root@node3:/data/pkg
# scp *.rpm root@node4:/data/pkg
# yum install -y *.rpm
# mkdir -pv /data/mongodb
# chown -R mongod.mongod /data/mongodb
# vim /etc/mongod.conf
#    dbpath=/data/mongodb
#    #bind_ip=127.0.0.1
#    replSet=mymongo
# scp /etc/mongod.conf root@node3:/etc/mongod.conf
# scp /etc/mongod.conf root@node4:/etc/mongod.conf
# service mongod start

# 此时复制集群中的节点都已成功启动,但是复制集群还没有建立和添加集群节点
# 选取一个节点登陆

# rs.status()检查复制集群状态
> rs.status()
{
    "startupStatus" : 3,
    "info" : "run rs.initiate(...) if not yet done for the set",
    "ok" : 0,
    "errmsg" : "can't get local.system.replset config from self or any seed (EMPTYCONFIG)"
}
# 初始化复制集群
> rs.initiate()
{
    "info2" : "no configuration explicitly specified -- making one",
    "me" : "node2:27017",
    "info" : "Config now saved locally.  Should come online in about a minute.",
    "ok" : 1
}
# 之后此节点,操作提示符转换成:mymongo:PRIMARY>
# 添加复制集群中的其他节点:
mymongo:PRIMARY> rs.add("192.168.2.147:27017")
{ "ok" : 1 }
mymongo:PRIMARY> rs.add("192.168.2.33:27017")
{ "ok" : 1 }
# 在次检查复制集群状态
mymongo:PRIMARY> rs.status()
{
    "set" : "mymongo",
    "date" : ISODate("2017-05-23T16:22:29Z"),
    "myState" : 1,
    "members" : [
        {
            "_id" : 0,
            "name" : "node2:27017",
            "health" : 1,
            "state" : 1,
            "stateStr" : "PRIMARY",
            "uptime" : 1088,
            "optime" : Timestamp(1495556519, 1),
            "optimeDate" : ISODate("2017-05-23T16:21:59Z"),
            "electionTime" : Timestamp(1495555526, 1),
            "electionDate" : ISODate("2017-05-23T16:05:26Z"),
            "self" : true
        },
        {
            "_id" : 1,
            "name" : "192.168.2.147:27017",
            "health" : 1,
            "state" : 2,
            "stateStr" : "SECONDARY",
            "uptime" : 35,
            "optime" : Timestamp(1495556519, 1),
            "optimeDate" : ISODate("2017-05-23T16:21:59Z"),
            "lastHeartbeat" : ISODate("2017-05-23T16:22:28Z"),
            "lastHeartbeatRecv" : ISODate("2017-05-23T16:22:29Z"),
            "pingMs" : 3,
            "syncingTo" : "node2:27017"
        },
        {
            "_id" : 2,
            "name" : "192.168.2.33:27017",
            "health" : 1,
            "state" : 2,
            "stateStr" : "SECONDARY",
            "uptime" : 30,
            "optime" : Timestamp(1495556519, 1),
            "optimeDate" : ISODate("2017-05-23T16:21:59Z"),
            "lastHeartbeat" : ISODate("2017-05-23T16:22:29Z"),
            "lastHeartbeatRecv" : ISODate("2017-05-23T16:22:28Z"),
            "pingMs" : 0,
            "syncingTo" : "node2:27017"
        }
    ],
    "ok" : 1
}

# 主节点插入数据
mymongo:PRIMARY> use testdb;
mymongo:PRIMARY> for(i=1;i<=100;i++) db.testcoll.insert({name:"user"+i,age:i,book:["book"+i,"apple"]})
WriteResult({ "nInserted" : 1 })
# 从节点检查数据,从节点只能读,不能写,在查询数据之前,需要手动设置slaveOk状态。
mymongo:SECONDARY> rs.slaveOk()
mymongo:SECONDARY> db.testcoll.findOne()
{
    "_id" : ObjectId("592462540c61503feddc0103"),
    "name" : "user1",
    "age" : 1,
    "book" : [
        "book1",
        "apple"
    ]
}
# 测试关闭主节点,mongodb的复制集群会自动进行切换
# 在此检查复制集群状态。
mymongo:SECONDARY> rs.status()
{
    "set" : "mymongo",
    "date" : ISODate("2017-05-23T16:30:36Z"),
    "myState" : 2,
    "syncingTo" : "192.168.2.147:27017",
    "members" : [
        {
            "_id" : 0,
            "name" : "node2:27017",
            "health" : 0,
            "state" : 8,
            "stateStr" : "(not reachable/healthy)", # 之前主节点,健康检测不通过
            "uptime" : 0,
            "optime" : Timestamp(1495556693, 6),
            "optimeDate" : ISODate("2017-05-23T16:24:53Z"),
            "lastHeartbeat" : ISODate("2017-05-23T16:30:35Z"),
            "lastHeartbeatRecv" : ISODate("2017-05-23T16:30:13Z"),
            "pingMs" : 0
        },
        {
            "_id" : 1,
            "name" : "192.168.2.147:27017",
            "health" : 1,
            "state" : 1,
            "stateStr" : "PRIMARY",         #node4成为主节点
            "uptime" : 516,
            "optime" : Timestamp(1495556693, 6),
            "optimeDate" : ISODate("2017-05-23T16:24:53Z"),
            "lastHeartbeat" : ISODate("2017-05-23T16:30:34Z"),
            "lastHeartbeatRecv" : ISODate("2017-05-23T16:30:35Z"),
            "pingMs" : 0,
            "electionTime" : Timestamp(1495556989, 1),
            "electionDate" : ISODate("2017-05-23T16:29:49Z")
        },
        {
            "_id" : 2,
            "name" : "192.168.2.33:27017",
            "health" : 1,
            "state" : 2,
            "stateStr" : "SECONDARY",
            "uptime" : 1565,
            "optime" : Timestamp(1495556693, 6),
            "optimeDate" : ISODate("2017-05-23T16:24:53Z"),
            "infoMessage" : "syncing to: 192.168.2.147:27017",
            "self" : true
        }
    ],
    "ok" : 1
}
# 恢复之前的主节点为从节点,将mongodb的服务启动
mymongo:SECONDARY> db.isMaster()
{
    "setName" : "mymongo",
    "setVersion" : 3,
    "ismaster" : false,
    "secondary" : true,
    "hosts" : [
        "192.168.2.33:27017",
        "192.168.2.147:27017",
        "node2:27017"
    ],
    "primary" : "192.168.2.147:27017",      #master依然是node4
    "me" : "192.168.2.33:27017",
    "maxBsonObjectSize" : 16777216,
    "maxMessageSizeBytes" : 48000000,
    "maxWriteBatchSize" : 1000,
    "localTime" : ISODate("2017-05-23T16:32:33.600Z"),
    "maxWireVersion" : 2,
    "minWireVersion" : 0,
    "ok" : 1
}
# 不存在抢占,是否优先级一样呢。
# 调整mongodb节点优先级,以配置文件的方式,只能在当前复制集群的master节点。
mymongo:PRIMARY> cfg=rs.conf()
{
    "_id" : "mymongo",
    "version" : 3,
    "members" : [
        {
            "_id" : 0,
            "host" : "node2:27017"
        },
        {
            "_id" : 1,
            "host" : "192.168.2.147:27017"
        },
        {
            "_id" : 2,
            "host" : "192.168.2.33:27017"
        }
    ]
}
mymongo:PRIMARY> cfg.members[0].priority=2      # 设置node2节点的优先级为2
2
mymongo:PRIMARY> rs.reconfig(cfg)               # 重新应用配置,立马发生主从切换
2017-05-24T00:36:57.911+0800 DBClientCursor::init call() failed
2017-05-24T00:36:57.916+0800 trying reconnect to 127.0.0.1:27017 (127.0.0.1) failed
2017-05-24T00:36:57.919+0800 reconnect 127.0.0.1:27017 (127.0.0.1) ok
2017-05-24T00:36:57.923+0800 DBClientCursor::init call() failed
2017-05-24T00:36:57.926+0800 Error: error doing query: failed at src/mongo/shell/query.js:81
2017-05-24T00:36:57.929+0800 trying reconnect to 127.0.0.1:27017 (127.0.0.1) failed
2017-05-24T00:36:57.933+0800 reconnect 127.0.0.1:27017 (127.0.0.1) ok
mymongo:SECONDARY>      # 提示符显示当前节点为复制集群的从节点
oplog
mongodb的复制集群,生成的oplog存储在默认的local数据库中,oplog.rs
use local
mymongo:PRIMARY> show collections
me
oplog.rs
replset.minvalid
slaves
startup_log
system.indexes
system.replset
mymongo:PRIMARY> db.oplog.rs.findOne()
{
    "ts" : Timestamp(1495555525, 1),
    "h" : NumberLong(0),
    "v" : 2,
    "op" : "n",
    "ns" : "",
    "o" : {
        "msg" : "initiating set"
    }
}
# ts:操作时间戳
# op:表示操作类型,insert,update,delete,这里是初始化复制集群
# ns:操作集合的名称
# o:表示document内容,初始化复制集群

-----查看oplog元数据信息-----
mymongo:PRIMARY> db.printReplicationInfo()
configured oplog size:   2311.57470703125MB
log length start to end: 1892secs (0.53hrs)
oplog first event time:  Wed May 24 2017 00:05:25 GMT+0800 (CST)
oplog last event time:   Wed May 24 2017 00:36:57 GMT+0800 (CST)
now:                     Wed May 24 2017 09:25:52 GMT+0800 (CST)
# configured oplog size:oplog的大小
# log length start to end:oplog日志启用时间段
# oplog first event time:第一个事务日志产生的时间
# oplog last event time:最后一个事务日志产生的时间
# now:现在的时间

-----查看slave同步oplog的状态信息-----
mymongo:PRIMARY> db.printSlaveReplicationInfo()
source: 192.168.2.147:27017
    syncedTo: Wed May 24 2017 00:36:57 GMT+0800 (CST)
    0 secs (0 hrs) behind the primary 
source: 192.168.2.33:27017
    syncedTo: Wed May 24 2017 00:36:57 GMT+0800 (CST)
    0 secs (0 hrs) behind the primary
# source:从库的ip与端口信息
# syncedTo:延迟同步多久等时间信息
-----复制集群节点配置信息查看-----
mymongo:PRIMARY> db.system.replset.findOne()
{
    "_id" : "mymongo",
    "version" : 4,
    "members" : [
        {
            "_id" : 0,
            "host" : "node2:27017",
            "priority" : 2
        },
        {
            "_id" : 1,
            "host" : "192.168.2.147:27017"
        },
        {
            "_id" : 2,
            "host" : "192.168.2.33:27017"
        }
    ]
}
复制集群节点的增删
增加复制集群节点:,
1、通过oplog方式 (oplog是滚动方式存储,以前的数据不存在,所以恢复的数据可能不完整)
2、通过数据库快照+oplog进行
3、新节点从0开始复制数据(这种类型只需要rs.add即可)
#####
安装好mongodb软件,设置好配置文件,
scp -r /data/mongodb/{dbname}.* root@192.168.1.154:/data/mongodb
# 这里拷贝数据库文件,只需要拷贝需要复制的数据库的DB文件,系统默认的local数据库文件无需拷贝
new node1:
chown -R mongod.mongod /data/mongodb
service mongod start
# 在replset复制集群的primary上添加集群节点:
rs.add("192.168.1.154:27017")
# 新的复制节点,rs.status()可以看到secondary状态。

删除集群复制节点:
rs.remove("192.168.1.154")

# 多次操作集群节点的添加与删除,记录信息在local数据库中
use local
db.slaves.find()
# 将主节点降级为从节点,暂时将主节点降级为从节点
# rs.setpDown(N)    #N单位为秒
# 锁定指定节点在指定时间内不能成为主节点,(阻止选举)
# rs.freeze(N)      #N单位为秒
# rs.freeze(0)      #释放阻止
mongodb复制集群:
1、一主多从,主节点才可以读写,从节点只能读,且需要开启slaveOk
2、从节点复制主节点依靠的是主节点的oplog日志文件,异步方式,中间存在数据不一致,但最终实现一致
3、主节点的oplog日志文件是固定大小,,是覆盖写入oplog(新的日志会覆盖之前最老的日志信息),需呀将oplog设置比较大
4、主从节点,优先级高的是会进行抢占。
5、重新运用配置文件,是实时生效。
6、主从节点,primary与secondary角色是试试转换。
7、oplog只记录数据库改变的操作,在写入到oplog之前,会先做等幂转换
8、64位的操作系统,oplog的大小为该磁盘分区的5%
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,378评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,356评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,702评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,259评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,263评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,036评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,349评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,979评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,469评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,938评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,059评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,703评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,257评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,262评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,485评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,501评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,792评论 2 345

推荐阅读更多精彩内容