Hbase

就是一数据库
但是,是非关系型数据库(NoSql)【关系型数据库 vs 非关系型数据库(自行了解)】

特点

  • 高可靠
  • 高并发 读写
  • 可伸缩
  • 异构建
  • 面向列

解释面向列:
数据库存储分两种 行存储列存储

image.png

总结:
行存储适合小数据量写,列存储适合大数据量读

总结

Hbase适合海量数据存储
快速随机访问
大量写操作应用

非结构化信息 -》Hbase -》结构化存储

Hbase数据模型

从逻辑上理解几个概念:

image.png

行健RowKey:一定是按照字节顺序存储的,方便查询 byte array
列族ColumnFamily:类型
列Column:元数据
版本VersionNumber:默认值时间戳 Long类型
值Value:就是字面量

拆分理解:
image.png

上面的表存储了2行记录,a行,b行
a行有2个列族, cf1,cf2,
cf1列族有2个列,"bar" , "foo"
bar列有2个版本,583,261
583版对应着1个值 7

这就是三维有序
按照三维去排序,前两维是字节顺序,第三维是倒序

image.png

从物理上理解存储

image.png

一张表,是

image.png

region:
按行划分region,如上图1-50行是regionA,50-100行是regionB
会按照大小分割,每张表一开始只有一个region,随着记录逐渐增多,达到一个阈值,等分成2个region

 逻辑概念              物理概念  
 Region                Hregion
 RegionServer机器          HregionServer

 HregionServer 包含很多 Hregion
 Hregion 包含很多 Hstore  
 Hstore 由2部门组成 Memstore StoreFile   内存与磁盘
 Hsore 与 column family 对应

架构

client、zookeeper 、hmaster、hregionServer
hmaster:负载均衡,管理分配hregion,管理table元数据,权限控制
hregionServer:存储hregion,读写hdfs管理table数据
hregionServer上可以存1000个hregion
zk负责与master,与regionserver交互
client缓存rowkey -> hregion 关系
memstore写缓存,每个cf上都有自己memstore,因为cf与hstore对应
blockcache读缓存,
hlog避免数据丢失,在hregion共享,先写hlog(WAL),再写memstore

每次写log时,首先HbaseClient 寻址,.Meta 对应着 hregionServer 的 region,
检查数据是否存在memstore中,存在就退出
不存在先写hlog(hdfs),然后写memstore,写成功后返回

memstore益写到storefile ,导致storefile 会冗余,通过时间戳或者标记等字段storefile会有combine操作,

表结构设计

rowkey
目的:减少数据倾斜
策略:逆排序,hash(md5,crc32)
cf
策略:尽量少,1-2个,因为flush与region合并时,触发基本单位是region级别
这个flush是指memstore flush filestore

实践

安装

0.98.6
①:安装

tar zxvf hbase-0.98.6-hadoop2.tar.gz

②:配置./bashrc

   export HBASE_HOME=/opt/hbase-0.98.6-hadoop2
   export PATH=$PATH:$HABSE_HOME/bin 

3:配置conf/hbase.env.sh

    export HBASE_MANAGES_ZK=true
    export JAVA_HOME=/usr/local/src/jdk1.8.0_181

④:配置conf/hbase.site.xml

 <configuration>
     <property>
         <name>hbase.rootdir</name>
         <value>hdfs://master:9000/hbase</value>
     </property>
     <property>
         <name>hbase.cluster.distributed</name>
        <value>true</value>  false表示单机模式,true表示分布式模式
     </property> 
     <property>
         <name>hbase.zookeeper.quorum</name>
         <value>master,slave1,slave2</value>
     </property>
     <property>
         <name>dfs.replication</name>
         <value>2</value>
     </property>
 </configuration> 

5:配置conf/regionservers

  slave1
  slave2

⑥:分发到othersNode

  scp -rp hbase-0.98.6-hadoop2  slave1: /opt/
  scp -rp hbase-0.98.6-hadoop2  slave2: /opt/

⑦:启动hbase

./start-hbase.sh
进程验证:jps验证hmaster、hregionServer进程
页面验证:http://master:60010/master-status
命令行验证:./bin/hbase shell    进入终端  status

shell操作

python操作

本地操作
集群操作

java操作

本地操作

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,490评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,581评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,830评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,957评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,974评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,754评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,464评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,357评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,847评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,995评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,137评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,819评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,482评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,023评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,149评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,409评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,086评论 2 355

推荐阅读更多精彩内容

  • 本文首先简单介绍了HBase,然后重点讲述了HBase的高并发和实时处理数据 、HBase数据模型、HBase物理...
    达微阅读 2,735评论 1 13
  • 一、简介 Hbase:全名Hadoop DataBase,是一种开源的,可伸缩的,严格一致性(并非最终一致性)的分...
    菜鸟小玄阅读 2,388评论 0 12
  • 简介 HBase是高可靠性,高性能,面向列,可伸缩的分布式存储系统,利用HBase技术可在廉价PC Serve...
    九世的猫阅读 2,192评论 1 6
  • 1. HBase介绍,Hbase是什么? HBase -- Hadoop Database ,是一个高可靠、高性能...
    奉先阅读 3,749评论 1 36
  • 最近在逐步跟进Hbase的相关工作,由于之前对Hbase并不怎么了解,因此系统地学习了下Hbase,为了加深对Hb...
    飞鸿无痕阅读 50,231评论 19 272