消息中间件NMQ

转自:http://www.cnblogs.com/lushilin/p/6209976.html(鲁仕林

1.What is nmq?

nmq = new message queue;

一个通用消息队列系统

为在线服务设计

什么是消息队列?问什么需要?有哪些功能?

消息队列的本质:1.多个不同的应用之间实现相互通信的一种异步传输模式2.异步3.解耦

业界有哪些比较好的mq?

yahoo YMB 、twitter Kestrel、amazon SQS、apache kafka

百度的nmq和bigpipe

那么为什么会有这么多的实现呢?

影响设计的关键需求:

1.数据安全性

2.传输实时性

3.时序需求

4.吞吐需求

5.消费方形态

6.消息关联形态

现在介绍一下百度的nmq(看一下nmq的设计考量):

1.项目起源于大社区

2.重复开发、分散运维;极大的人力浪费;

并发+时序的难点,让rd头疼

核心+单点的运维,让op蛋疼

3.架构的发展,让老的系统不在适合

4.业务的发展,对性能、可扩展性有了更高的要求;

mq的本质需求:

1.数据安全性————》其实还好

2.传输实时性————》要求很高

3.吞吐需求————》很大

4.时序需求————》真的需要

5.消费方形态————》多样

6.消息关联形态————》1vN

nmq的其他需求:

1.集中运维

2.解耦

3.运维平台化、自动化

4.完善的功能,强大的时序+并发控制

5.支持国际化数据互通

模型设计(第一个问题)

nmq是基于消息的队列,还是基于消费者的队列

考虑点:

1.存储容量

2.运维便利度

3.扩展性

4.开发成本

所以最终选择应该基于消息本身。

模型设计(第二个问题):

1.推或者拉

2.核心问题:谁维护信息?

为了更加深入的对“推”和“拉”这两种模式进行对比,可以将consumer分为2类:

1.竞争模式:一个consumer模块部署很多机器,但所有机器竞争消费同一份消息。

2.多主模式:一个consumer模块部署很多机器,每个机器都消费全量消息。

推模型的分析:

1.推模型是消息集中管理方式,消息队列知道consumer的一切。

2.可以支持2种consumer模式,容易实现各种策略。

3.优点是灵活,什么都可以做

4.缺点是耦合,消息队列本身的运维是问题

拉模式分析

1.对多主的consumer:完美

消息队列只负责消息的存储和查询

运维便利、架构清晰、简单

2.对竞争的consumer:难以支持

两种模式的选择

1.竞争模式会是我们今后的主流模式和大趋势;

数据逻辑层和存储引擎层的分离

数据的拆分和冗余,都会在存储引擎层实现

2.PHP模块实现“拉”有一定的难度

3.实现策略的灵活性和重要,推模式有天然的优势

4.拉模式,会带来更大的迁移代价

5.最终选择“推”模式

消息标识:

1.msg = product+topic+cmd

2.product产品线标识

3.topic

按业务划分的消息序列,逻辑上的概念,可小可大。

nmq只保证相同的topic内的命令时序

4.cmd消息类别的最终标识,不同topic之间可以同名

模型:

1.proxy

消息唯一入口,以topic为单位消息分流

2.topic-server(ts)

消息存储。级联和备份

3.pusher

消息发送,协议可扩展

nmq集群图片:

nmq的扩展性设计:

1.垂直扩展

当接收同一个topic的consumer增多,导致pusher出现性能瓶颈。

可以通过ts级联扩展多个pusher解决,支持多级级联

2.水平扩展

当一个topic的命令增多,导致超过单机ts性能极限

可以通过将该topic拆分到多个ts解决;比如按照某个partition key进行拆分;拆分后,只有相同pk的消息才能保证时序。

运维设计

1.队列的存储粒度

一个ts内部的所有topic串行存储于一个队列中,共享一维transid;

牺牲性能换取简单,易运维

2.主从同步和切换

ts级联和备份合一;slave主动从master拉数据,配合资源定位,简化主从切换步骤。

异步pipeline模式,强吞吐,支持跨机房。

并发+时序

1.一发一答的串行更新模式远不能满足更新性能的需求

2.在并发的前提下,可以做到按照某个key的时需保证;

具有相同key的消息,可以保证时序

比如接贴吧发帖的命令的consumer,可以通过配置做到不同发帖更新并发,但保证同一个吧的发帖是有序串行的;

3.实现

正在发送窗口+待发送窗口

发送先前check是否有互斥的消息正在发送

国内跨城市方案:

国际化数据互通方案:

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,544评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,430评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,764评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,193评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,216评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,182评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,063评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,917评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,329评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,543评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,722评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,425评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,019评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,671评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,825评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,729评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,614评论 2 353

推荐阅读更多精彩内容