HADOOP之金钱帝国-银库HDFS

HADOOP之金钱帝国-银库HDFS

为了深入理解大数据的hadoop生态圈,今天以钱庄的形式,来聊聊Hadoop的hdfs这个工具。

以HADOOP 2.x为背景。

一、库房(存储银两)之HDFS。

为了发家致富,胡雪岩掌柜的开了(阜康钱庄),首先得找个地方放银两,在北京买块地,盖个房子,这就是银库(HDFS),这个银库有个特点,除了北京(节点1)可以盖,在河北(节点2)也能盖,在安徽(节点3)也能盖,而且这3地的银库的银两是可以互通的,储户左宗棠可以在北京存钱,安徽能取。

好处:

1、解决单点故障,北京银库被抢劫。

2、可以低成本扩展硬件的问题,北京地价贵。

3、数据的就近使用,河北也能取钱。

4、高扩展性。业务大,在河南也能盖银库,业务小,河北的银库可以出租出去。

5、适合大数据处理、3个库房可以同时存取银两。只要库房(1w个库房)够多,放个几个亿。GB,TB,PB。

缺点:

1、低延时数据访问,往库房放银两较慢

2、适合存储银锭(大文件),不适合处理碎银两。

3、适合放银两,不适合换银两。

当有了库房,得有个管理库房的人,(阜康钱庄)就开始营业了。

1、库房总管:胡二(namenode):

管理HDFS的名称空间,北京库房叫北库,河北库房叫河北库,安徽库房叫徽库。

管理数据块(block)的映射信息,记录左大人的钱在哪里放在。

配置副本策略。

处理客户端读写请求,接银两的存储请求。

2、分库房负责人:胡北京 胡河北 胡安徽(datanode)

存储实际数据块,放银两

执行数据块的读写操作,具体操作银两的存放。

存储着文件。

hadoop1.0 一个银锭64MB

hadoop2.0 一个银锭128MB

3、库房总管助手:胡小二(胡二的助手):

辅助胡二(namenode),分担工作量。

定期合并fsimage和fsedits,并推送给namenode,胡小二平时记录存储账目。

在紧急情况小,可辅助恢复namenode,胡小二接替胡二的工作。

4、客户:储户左宗棠 (client)

存钱,上传文件,零存,

取钱

和胡二读取文件的位置信息

和胡北京读取数据

二、下面聊聊存钱过程(HDFS的文件写入)和取钱过程(HDFS的文件读取)

1、左宗棠存钱过程.

左宗棠找胡二,我要存钱。

胡二先判断左宗棠有权限存钱没,然后给左宗棠分配存钱的库房。

左宗棠拿着条(存储信息),去了北京库房,把钱存入北京库房。

左宗棠把存储的信息反馈给胡二。

2、左宗棠取钱过程。

左宗棠要取钱,问胡二钱在哪个库房。

胡二告诉左宗棠钱在胡北京的库房。

左宗棠去胡北京的库房取银两。

如果取的钱太多,需要用车拉多次,左宗棠取一次钱,需要告诉一次胡二。

等取钱结束后,告诉胡二。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,110评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,443评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,474评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,881评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,902评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,698评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,418评论 3 419
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,332评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,796评论 1 316
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,968评论 3 337
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,110评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,792评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,455评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,003评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,130评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,348评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,047评论 2 355