大数据技术架构如何选型

最近跟朋友交流,公司正在为大数据技术选型烦恼,主要是不同的团队基于不同的诉求,要求结果不一样。比如说有从稳定性考虑,有从维护性考虑,有从使用便利性考虑,也有从成本考虑,还有从团队能力模型考虑的。

不管哪种维度,理由说起来都对,然后决策时,大佬们的出发点如果不一样,就会陷入僵局。对应目前的公司,其实大同小异、问题如出一辙。

我们先看看基础大数据平台选型时,针对以上几个维度的考虑逻辑及相关影响。

首先是稳定性:这是基础大数据平台的根,没有稳定性,则地基不稳,最终就会成为水中月、镜中花,业务团队一用事故一大堆。这也是最有核心价值的地方,评价一个团队是否具备很强的技术能力,就是在技术框架、工程平台、部署运维中不断提升的SLA,在满足业务需求后稳定性越高,则具备更高更实用的技术能力。先进与否,前沿与否只是技术领先性的指标,是在稳定性之上考虑其他维度,稳定性才是技术深度强度的可靠证明。

其次是开放性:目前基础大数据平台构建有几种方式,一种基于大厂构建大数据技术架构平台进行数据开发,属于使用者模式;另外一种是基于开源自建大数据技术架构平台进行数据开发,属于掌握者模式。如果是小公司,定位为使用者的角色,快速利用大厂的商业大数据平台(含基础架构、工程平台、运维监控等)构建大数据处理中心是比较好的方式。如果是有非常大体量的数据处理,有非常多的个性化需求,是一个有技术追求的团队,有着自己的大数据平台理想,就不要依赖于大厂,建立自己的研发团队,构建自己的大数据平台,在满足需求上将会得到比较好的收益,包括技术积累、人才提升、定制需求满足等等。

开放性,对于使用者模式来说基本上不会有什么架构上的扩展,主要是针对基于开源的掌控者模式来说的。即做大数据是满足业务诉求的,业务诉求会有很多的定制需求,通用开源的版本不一定能满足,所以要做一些定制开发,比如SaaS的多租户体系的处理机制,一般的通过大数据都不支持,在应用处理时,一定要定制开发才行,否则处理时效、处理性能都无法满足客户要求,如果选择使用者模式,基本就是个不可用的系统或者会有非常多的限制。因此开放性是在选型大数据技术平台的核心要求,一定要很好的满足。

再次是团队:一般小公司,投入有限,很难有专业大数据团队,所以选择大厂平台是最合适的。但对于大公司来说,实际上是有资源的,只不过资源可能在不同的团队中。比如一般情况都会有专门做大数据的平台部门,与业务无关属于基础支撑技术团队,也有和业务团队一起生长的大数据架构部门,结合业务慢慢生长,从基础平台到工程开发平台到质量监控到运维比较体系化。大家都在做平台的构建,重复的建设带来的是资源的浪费和平台版本的混乱,数据处理依然是孤岛,融合非常困难,历史版本债务非常严重,成本效益非常低下。但不管是哪种团队模式,对于团队本质上来说是要具备相应的技术能力,要具备专业的人才。当然基于开源的模式对于人才的需求会更大,要求也会更高,需要具备专业的大数据架构能力。反过来说,如果团队能力不够,那就老老实实用大厂的大数据基础和开发平台,省时省力还能省折腾的钱。

最后是成本:包括产品成本、人力成本、运维成本等等。产品成本直接了解商品定价就好,如果开源自建,则转化为硬件成本,是固定的。当然商业的定价模式会有2种,按量付费和固定包月模式,一般情况下按量付费会高出一个30%左右,同时资源利用率方面无法削峰填谷,利用率无法发挥到极致。当然,如果自建,虽然可以离线实时交替,但难度非常大,实际操作的可能性及成功安例不是太多,因为相比稳定性,成本还是占在次要的位置。其次是人力成本,前几年大数据人才的费用还是非常高的,最近整体环境回归趋于理性,会好一些,但相对来说还是贵的。最后是运维成本,这个其实涉及到产品的应用形态,如果只是SaaS公有云,则是可控的,如果私有化部署的场景非常多,则运维成本会非常大,也可能在选型时起到决定性的作用。

大数据技术架构选型除上上面的4个维度之外,其实还有一些,比如业务场景、公司发展阶段、当前技术储备、易用性等等,但本质上还是定位,核心就是产品、团队的定位,比如说你是想做一个使用者还是要当一个掌握者,确定后基本就决定了大的方向。做为有追求的技术人,倾向于后者。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 227,572评论 6 531
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 98,071评论 3 414
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 175,409评论 0 373
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 62,569评论 1 307
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 71,360评论 6 404
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 54,895评论 1 321
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 42,979评论 3 440
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 42,123评论 0 286
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 48,643评论 1 333
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 40,559评论 3 354
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 42,742评论 1 369
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 38,250评论 5 356
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 43,981评论 3 346
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 34,363评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 35,622评论 1 280
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 51,354评论 3 390
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 47,707评论 2 370

推荐阅读更多精彩内容