Hadoop Hbase Spark 配置文档详解

hadoop

1.core-site.xml

1.fs.defaultFS hdfs默认端口
2.hadoop.tmp.dir
Hadoop.tmp.dir是hadoop文件系统依赖的基础配置,很多路径都依赖它。它默认的位置是在/tmp/{$user}下面,但是在/tmp路径下的存储是不安全的,因为linux一次重启,文件就可能被删除。
3.fs.trash.interval 回收间隔(区间)
fs.trash.interval定义.Trash目录下文件被永久删除前保留的时间,类似于回收站。默认值是0说明垃圾回收站功能是关闭的(分钟为单位)
​fs.trash.checkpoint.interval 垃圾回收检查间隔

2.hdfs-site.xml

1.​dfs.namenode.name.dir
表示NameNode存储命名空间和操作日志相关的元数据信息的本地文件系统目,决定了在本地文件系统的DFS名称节点 应该存储名字表(fsimage)
2.​dfs.namenode.edits.dir 决定了在本地文件系统的DFS名称节点 应该存储事务(编辑)文件

  1. dfs.datanode.data.dir 表示DataNode节点存储HDFS文件的本地文件系统目录
    3.​dfs.replication 副本数目
  2. dfs.webhdfs.enabled WebHDFS观念是基于HTTP操作,在配置开源日志系统fluentd过程中,fluentd就是利用webHDFS和HDFS进行通信

3.yarn-site.xml

yarn.resourcemanager.address 端口8032 应用程序管理器接口的地址在RM。
yarn.resourcemanager.hostname RM的主机名
Yarn.resourcemanager.webapp.address web应用程序的http地址RM。
yarn.nodemanager.hostname NM的主机名
yarn.nodemanager.address 应用程序管理器接口的地址在NM(的地址)
yarn.nodemanager.webapp.address 端口8042
web应用程序的http地址NM。
yarn.nodemanager.aux-services
一种主要的安全认证协议NM
yarn.resourcemanager.scheduler.class 把类作为资源调度器
yarn.nodemanager.resource.memory-mb
NodeManager总的可用物理内存(一般要配置的)
yarn.nodemanager.vmem-pmem-ratio
每使用1MB物理内存,最多可用的虚拟内存数
yarn.nodemanager.aux-services
NodeManager上运行的附属服务。需配置成mapreduce_shuffle,才可运行MapReduce程序

4.mapred-site.xml

mapreduce.framework.name
mapreduce.reduce.shuffle.parallelcopies
reduce启动更多的并行拷贝器以获取大量map的输出(在复制(洗牌)阶段时,并行传输的默认数量)
mapreduce.task.io.sort.mb 提高排序时的内存上限
mapreduce.task.io.sort.factor 文件排序时更多的流将同时被归并

1.问题NAMENODE:一般是临时文件重启被清空了,直接格式化一下,再重新启动节点
2.问题DATANODE:就是Namenode和Datanode的的Uuid不一致,导致不能识别,之后删除 /dfs/name(NameNode)和 /dfs/data(DataNode)的 current文件,这样就可以重新生成uuid
Namenode上namespaceID与datanode上namespaceID不一致
3.多次格式化:dfs.name.dir dfs.data.dir current/VERSION文件只是你第一次格式化时保存的namenode的ID,因此就会造成datanode与namenode之间的id不一致

hbase

hbase.rootdir 这个目录是region server的共享目录,默认情况下HBase是写到/tmp的。不改这个配置,数据会在重启的时候丢失
hbase.master.port HBase的Master的端口.默认: 60000
hbase.cluster.distributed HBase的运行模式。false是单机模式,true是分布式模式,若为false,HBase和Zookeeper会运行在同一个JVM里面
hbase.zookeeper.quorum Zookeeper集群的地址列表,用逗号分割
zookeeper.znode.parent ZooKeeper中的HBase的根ZNode,默认/hbase
HBASE_MANAGES_ZK=true 使用自带的ZK

模式

单击模式:HBase使用本地文件系统,而不是HDFS ,所有的服务和zooKeeper都运作在一个JVM中。zookeep监听一个端口,这样客户端就可以连接HBase了。
完全分布:伪分布式模式是把进程运行在一台机器上,但不是一个JVM.而完全分布式模式就是把整个服务被分布在各个节点上了

zookepeer

是独立的,一般要独立安装,HBASE可以使用自带的

spark

SPARK_MASTER_IP 主绑定到一个特定的IP地址
SPARK_WORKER_CORES 允许SPARK应用使用的内核总数(默认所有可用的核心)
SPARK_WORKER_MEMORY 允许火花使用的内存总数(默认1G)
SPARK_WORKER_INSTANCES 允许火花在每台机器上跑的实例的个数(默认1)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,185评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,445评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,684评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,564评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,681评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,874评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,025评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,761评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,217评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,545评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,694评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,351评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,988评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,778评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,007评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,427评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,580评论 2 349

推荐阅读更多精彩内容