dubbo二

六、流量控制
对于服务提供方而言,集群的规模是确定的,提供的服务的容量也是有限的,如果不对消费者的调用做限流处理,当消费者的调用频次超过服务集群的承载能力时,集群就会出现不稳定甚至雪崩效应导致整个集群所有服务器崩溃,从而使整个服务挂掉。为了整个服务的高可用性,需要根据集群负载情况对服务消费者做限流,启动流量控制机制,以保护服务提供者。
比较传统的做法是根据集群节点数和每个节点能够承受的qps数计算集群承载能力,服务时,各个节点按照分配的阈值进行流量控制,对超出的阈值的请求直接拒绝服务。相比于分布式服务的动态上下线,尤其是新上线的服务,传统做法无法适应节点数变化导致的集群承载能力变化的情况。
在分布式场景中,通过注册中心动态发布服务是非常常见的事情,分布式服务框架应该处理动态增加服务引起的集群负载能力变化。比较理想的情况是每个节点定时汇报自己的负载情况和剩余处理能力,在总控节点根据各个节点统一控制。当然,实现起来难度比较大,目前更普遍的做法是目前dubbo的那种,通过控制最大并行执行请求数达到流量控制的目的,虽然这种方式粗糙了一点儿。
七、服务降级
当业务系统的运营推广或者业务高峰期时,系统压力往往是平时的几倍甚至几十倍,这种情况往往并不非常常见,把系统部署服务器数量增大的方式不经济,往往会停掉一些次要服务。另外某些服务不可用时,希望不影响整个交易流程。针对这两种常见的场景,分布式服务框架需要具备一项重要的能力:服务降级。服务降级包括容错降级和屏蔽降级两种。
屏蔽降级:针对次要的非核心服务,在第一种场景时,不真正发起远程调用,而是在调用端就返回空、抛异常或者执行特定的本地逻辑。屏蔽降级一般按照计划由运维或开发人员手工触发。当然了,当不再需要屏蔽降级时,关闭降级即可使服务恢复正常工作状态。
容错降级:在分布式服务中,业务系统依赖的服务有可能不可用,当依赖的非核心的服务不可用时,可以对故障服务做逻辑容错,放通处理。通过容错降级,保证核心服务可用,避免因为次要应用不可用影响主要服务的可用性。容错降级是服务不可用时,根据提前配置的策略触发,当服务提供方服务恢复后,容错策略失效,恢复正常的服务调用方式。

八、服务治理
随着时间的推移,业务的发展,线上的服务越来越多。公司在不断拓展新业务的同事,一些老的业务会逐渐下线,但它对应的服务未必能下线,其他服务可能调用了这个服务呢!为了安全,于是服务只上不下。随着线上各个业务相互打通,调用关系越来越复杂,导致的结果就是某个业务的调用链条变得越来越长,一旦服务响应缓慢,进行性能调优就变得非常困难,因为难以定位到底是链条中的哪一环性能差。一旦线上发生故障,首先需要在调用链条中定位是哪个环节的服务出了问题,其次,这个服务可能部署在多台机器上,查询日志,定位问题在每台机器上进行一遍,想想都让人抓狂。前面提到的流量控制和流量降级也是在服务运行期间进行操作的。服务治理是对线上服务的生命周期管理、监控、运行态管控,服务发生问题时的快速定位和解决。
服务生命周期管理:分布式服务框架如果缺乏生命周期管理的相关功能,服务上线后,当进行功能调整时出现不知道有哪些服务调用了这个服务,不敢调整的情况,下线当然就更不可能了。分布式服务框架目前提供的功能是服务调用关系图,通过调用关系图,可以知道服务间的依赖关系,进而在某个服务没有调用方时大胆下线。服务上线前也可以在调用关系图中检查是否有类似的功能,避免出现两个名称不同,功能却差不多的服务。分布式系统需要多个服务相互配合才能完成完整的功能,为服务提供生命周期管理是一项非常基础的功能。
服务监控:系统监控说多重要都不为过,分布式服务框架为正常运行的分布式系统提供调用次数,调用时延,调用成功率等指标数据,为性能优化、运营、运维提供参考依据;当指标异常或者服务出现问题时,能及时根据告警策略发送报警邮件或短信等方式,通知开发或运维相关人员及时跟进问题,迅速分析问题的原因,定位问题,解决问题。
运行态管控:前面提到的流量控制和服务降级都属于运行态管控的范围,还包括资源的动态分配,服务路由等。运行态管控基本都是针对服务正常的场景,针对业务高峰期导流,或者资源充分利用的需求,或者保障故障或业务高峰期时系统正常运行。对一个规模较大的分布式系统来说,运行态管控,为开发或者运维管理线上服务,充分利用资源提供有力的工具。
故障快速定位:当线上服务发生故障时,需要迅速定位并解决。当若干服务相互配合才能完成的一项业务,而且这些服务部署在几百台服务器上时,通过手工在这几百台服务器上定位问题是不可想象的。首先,线上的监控系统会对每个服务的运行状态进行监控,其次通过调用链分析,确定导致故障的服务。另外,服务的日志可能分布在几百台服务器上,所以需要一个统一的日志收集和检索系统。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,080评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,422评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,630评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,554评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,662评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,856评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,014评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,752评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,212评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,541评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,687评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,347评论 4 331
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,973评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,777评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,006评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,406评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,576评论 2 349

推荐阅读更多精彩内容

  • 分布式系统面临的第一个问题就是数据分布,即将数据均匀地分布到多个存储节点。另外,为了保证可靠性和可用性,需要将数据...
    olostin阅读 4,559评论 2 26
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,633评论 18 139
  • 苹果帮助文档:基本信息 Inherits from 继承关系 。 Conforms to 遵循什么协议。 Fram...
    刘可爱最可爱阅读 118评论 0 0
  • 日日新的家长说明会,准备了一周多的时间,今天终于完成了。 开始之前,我试图给自己一个能量泡泡,但也许没有成功,因为...
    山间竹音阅读 250评论 0 0
  • CSS3伪类的功能有两种: 1.获取不存在与DOM树中的信息。比如 标签的:link、:visited等,这些信息...
    wyq_0bed阅读 500评论 0 0