Cloudera manage(离线)安装手册

  1. 准备工作
    1.1. 系统环境
    硬件设备:16G 内存,1.8T
    网络组成:
    172.16.41.41 j1
    172.16.41.42 j2
    172.16.41.43 j3
    操作系统:Centos6.4 64 位
    1.2. 安装 JDK
    从官方网站上下载 rpm 包,本次使用版本 1.7.0_79(CDH5 可能支持 1.7 之前的版本,具体
    情况未经测试),执行命令:
    rpm -ivh jdk-7u60-linux-x64.rpm
    由于是 rpm 包并不需要我们来配置环境变量,我们只需要配置一个全局的 JAVA_HOME 变量
    即可,执行命令:
    echo "JAVA_HOME=/usr/java/latest/" >> /etc/environment
    执行命令,查看 Jdk 是否安装正确
    java -version
    javac -version
    1.3. 修改主机名
    修改/etc/sysconfig/network 文件:
    NETWORKING=yes
    HOSTNAME=j1
    其中 HOSTNAME 与主机名一致。
    主机名如果跟系统安装时不一致请执行 hostname 命令让其立即生效,否则会影响各节点互
    相访问,命令如下:
    hostname master
    修改/etc/hosts 文件,添加:
    172.16.41.41 j1
    172.16.41.42 j2
    172.16.41.43 j3
    重新启动网络服务,执行命令:
    service network restart
    1.4. 关闭防火墙
    防火墙会引起 hadoop 相关组件通讯的各种异常。 防火墙:
    service iptables stop (临时关闭)
    chkconfig iptables off (重启后生效)
    设置 SELINUX:
    setenforce 0 (临时生效)
    修改/etc/selinux/config 下的 SELINUX=disabled (重启后生效)
    1.5. SSH 无密钥验证
    所有节点均执行如下命令,遇到提示一路回车即可:
    ssh-keygen -t rsa
    cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys_hostname scp 各数据节点文件 authorized_keys 到主节点: scp ~/.ssh/authorized_keys root@j1:~/.ssh/ 合并各节点文件 authorized_keys_hostname 到文件 authorized_keys:
    cat ~/.ssh/authorized_keys_$hostname >>authorized_keys
    主机分发合并后的 authorized_keys 所有节点主机:
    scp ~/.ssh/authorized_keys root@j2:~/.ssh/
    scp ~/.ssh/authorized_keys root@j3:~/.ssh/
    然后输入密码即可,以后再到其他机器就不需要密码额。
    1.6. 安装 NTP 服务
    所有节点安装相关组件:ntp 与 ntpdate。按顺序安装即可,完成后,配置开机启动:
    yum install ntp
    chkconfig ntpd on
    检查是否设置成功:
    chkconfig --list ntpd
    1.7. 安装 Mysql 数据库
    检查安装环境
    查找以前是否装有 mysql,命令:
    rpm -qa|grep -i mysql
    可以看到 mysql 的两个包:
    mysql-4.1.12-3.RHEL4.1
    mysqlclient10-3.23.58-4.RHEL4.1
    删除 mysql
    删除命令:rpm -e --nodeps 包名
    ( rpm -ev mysql-4.1.12-3.RHEL4.1 )
    删除老版本 mysql 的开发头文件和库
    rm -fr /usr/lib/mysql
    rm -fr /usr/include/mysql
    注意:卸载后/var/lib/mysql 中的数据及/etc/my.cnf 不会删除,如果确定没用后就手工删除
    rm -f /etc/my.cnf
    rm -fr /var/lib/mysql
    安装 mysql
    使用 yum 源安装,执行安装命令:
    yum install mysql-server
    yum install mysql-delvel
    1.8. 配置 mysql 数据库
    启动 mysql 数据库
    service mysqld start
    修改初始密码:
    修改 MySQL 数据库 root 用户的初始密码,先查下初始密码
    cat /root/.mysql_secret
    使用初始密码登陆 mysql 数据库,登陆命令为:
    mysql –uroot –p
    执行如下命令修改数据库 root 用户密码:
    set password=password('root');
    刷新权限表:
    flush privileges;
    将 mysql 设置成开机启动,测试使用新密码进行登陆。
    chkconfig mysqld on
    本次安装需要创建如下数据库
    --hive 数据库
    create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci
    --集群监控数据库
    create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci
    --hue 数据库
    create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci
  2. 安装 CM
    2.1. 下载安装包
    下载地址 http://archive-primary.cloudera.com/cm5/cm/5/,根据自己的系统选择相应的
    版本,本次安装选用的是 cloudera-manager-el6-cm5.4.3_x86_64.tar.gz。下载完成后只
    上传到 j1 节点即可。然后解压到/opt 目录下,不能解压到其他地方,因为 cdh5 的源会默
    认在/opt/cloudera/parcel-repo 寻找,怎么制作 cdh5 的本地源文件会在之后介绍。
    2.2. 安装 CM
    给所有节点添加 cloudera-scm 用户:
    useradd --system --home=/opt/cm-5.4.3/run/cloudera-scm-server/ --no-create-home
    --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
    修改/opt/cm-5.4.3/etc/cloudera-scm-agent/config.ini 下面的 server_host

Hostname of the CM server.

server_host=j1
上传 mysql 驱动包 mysql-connector-java-5.1.26-bin.jar 到/opt/cm-5.4.3/share/cmf/lib/目录:
cp /root/data/mysql-connector-java-5.1.22-bin.jar /opt/cm-5.4.3/share/cmf/lib/
为 Cloudera Manager 5 建立数据库:
/opt/cm-5.4.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot
-proot --scm-host localhost scm scm scm
格式是 :scm_prepare_database.sh 数据库类型 数据库 服务器 用户名 密码 –
scm-host Cloudera_Manager_Server 所在的机器,后面那三个不知道代表什么,直接照
抄官网的了。
开启 Cloudera Manager 5 Server 端:
/opt/cm-5.4.3/etc/init.d/cloudera-scm-server start
注意 server 首次启动不要立即关闭或重启,因为首次启动会自动创建相关表以及数据,如
果因为特殊原因中途退出,请先删除所有表以及数据之后再次启动,否则将会出现启动不成
功的情况。
开启 Cloudera Manager 5 Agents 端:
先 scp /opt/cm-5.4.1 到所有 datanode 节点上,然后在每台机器上开启 Agents 端:
scp -r /opt/cm-5.4.3 root@j2:/opt
scp -r /opt/cm-5.4.3 root@j3:/opt
等待拷贝成功,在所有 datanode 节点上启动:(注意必须以管理员权限启动)
/opt/cm-5.4.3/etc/init.d/cloudera-scm-agent start
浏览器启动 Cloudera Manager 5 控制台(172.16.41.41:7180),启动成功就会看到登陆页
面。

  1. 安装 CDH
    3.1. 下载 CDH 版本
    下载 CDH 版本到本地 http://archive-primary.cloudera.com/cdh5/parcels/5.0.0/,需要下载
    三样东西: 1、与操作系统版本相对应的 parcel 包 2、 manifest.json 文件。
    3、 CDH-5.4.4-1.cdh5.4.3.p0.4-el6.parcel.sha1 文件。
    3.2. 安装 CDH
    本地源制作
    下载完成后将这三个文件放到 master 节点的/opt/cloudera/parcel-repo 下(目录在安装
    Cloudera Manager 5 时已经生成),并将 CDH-5.4.4-1.cdh5.4.4.p0.4-el6.parcel.sha1
    重命名为 CDH-5.4.4-1.cdh5.4.4.p0.4-el6.parcel.sha。
    CDH 安装
    打开 http:// 172.16.41.41:7180,登陆控制台,默认账户和密码都是 admin,安装时选择
    免费版,之后由于 cm5 对中文的支持很强大,按照提示安装即可,如果系统配置有什么问题
    在安装过程中会有提示,根据提示选择 impala 组件安装就可以了。
    安装完成后,在控制台可以看到所装的组件和各组件的运作状态:
    主节点 j1 的角色分配如下所示:
    j 2、j3 节点的角色分配如下:

  2. 常见问题处理
    1、 安装 hive、Impala 组件时,需要 mysql 源数据支持,需要新建数据库并进行赋权操作,
    然后重启数据库。详细操作如下:
    grant all on . to root@"%" Identified by "root";
    service mysqld restart
    然后重启数据库
    在安装 hive 时无法继续,查看日志发现如下报错信息:
    ERROR 1044 (42000): Access denied for user ''@'localhost' to database 'mysql':
    解决办法:修改密码后重启。
    mysql -u root mysql
    mysql> UPDATE user SET Password=PASSWORD('newpassword') where USER='root';
    mysql> FLUSH PRIVILEGES;//记得要这句话,否则如果关闭先前的终端,又会出现原来的错
    误。2、 详细操作安装 Hive 时,遇到安装失败的问题,查看一下日志发现时安装 Hive 时需要安
    装 JDBC 驱 动 , 所 以 同 样 我 们 将 Mysql 的 驱 动 包 拷 贝 到
    /opt/cloudera/parcels/CDH-5.4.3-1.cdh5.0.0.p0.47/lib/hive/lib/目录下,之后再继续安装就
    不会遇到问题了。 3、 使用用 yum 安装时,无法连接网络。
    解决办法:在/etc/resolv.conf 中添加 nameserver 8.8.8.8。

  3. 参考文献
    博客 1:http://www.tuicool.com/articles/ENjmeaY
    博客 2:http://m.blog.csdn.net/blog/hjckevin/38873345
    社区:http://www.aboutyun.com/thread-8921-1-1.html
    impala 官网:
    http://www.cloudera.com/content/cloudera/en/documentation/cloudera-impala/latest/topics/impala_install.html

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 196,698评论 5 463
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,711评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,795评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,699评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,567评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,423评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,822评论 3 387
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,467评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,755评论 1 293
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,789评论 2 314
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,577评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,418评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,837评论 3 300
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,054评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,355评论 1 254
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,820评论 2 343
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,027评论 2 338

推荐阅读更多精彩内容