CDH安装4-具体安装

service cloudera-scm-server status

/opt/cloudera/cm/lib 下添加mysql驱动

CDH 添加监控

http://cdh-dev1:7180/cmf/home

选择添加 Cloudera Management Service

JAVA环境变量配置好，但是CDH无法识别，报错NO JDK

find / -name cloudera-config.sh

配置在这里： cat /opt/cm-5.13.2/lib64/cmf/service/common/cloudera-config.sh

其中可以看到：

local JAVA8_HOME_CANDIDATES=(

'/usr/java/jdk1.8'

'/usr/java/jre1.8'

'/usr/lib/jvm/j2sdk1.8-oracle'

'/usr/lib/jvm/j2sdk1.8-oracle/jre'

'/usr/lib/jvm/java-8-oracle'

)

于是，建立一个已经有的JAVA_HOME 链接到 /usr/java/jdk1.8 就好了！ jdk实际安装在/usr/local/java/jdk1.8.0_111/下

ln -s /usr/java/jdk1.8/ /usr/local/java/jdk1.8.0_111/

安装中遇到的问题1：CDH5.13.0的hue的load balance红色警报，无法启动

查看日志根本没有生成

解决方案：

yum install httpd

yum install mod_ssl

安装中遇到的问题1：安装hue时报错

查看cm-server的log信息，报错如下

django.core.exceptions.ImproperlyConfigured: Error loading MySQLdb

module: libmysqlclient.so.18: cannot open shared object file: No such

file or directory

解决方案：

因为centos7自带mariaDB，需要删除，在删除mariaDB的时候，只需要在一台机器上删除即可。

从未删除mariaDB的机器上的 /usr/lib64/mysql文件夹下拷贝libmysqlclient.so.18到安装了mysql的机器上的

/usr/lib64/mysql文件夹下，然后做软连接

ln -s /usr/lib64/mysql/libmysqlclient.so.18.0.0 /usr/lib64/libmysqlclient.so.18

一、前期准备

安装环境

系统配置：

系统：centos 7 最小安装版 64位

内存：10G 10G 10G 8G

四台机器组成小集群（物理机）

CDH-DEV1 CDH-DEV2 CDH-DEV3 CDH-DEV4

需要下载的安装包

cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz

CDH相关

注意下载相应系统的安装包

CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel

CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1

manifest.json

jdk-8u144-linux-x64.tar.gz

mysql-5.7.20-1.el7.x86_64.rpm-bundle.tar

mysql-connector-java-5.1.44-bin.jar

Installing Cloudera Manager and CDH

二、环境配置

注意所有操作都需要使用root权限操作

基本配置（所有节点）

修改 /etc/hostname

CDH-DEV1

修改 /etc/hosts，此处一定要注意，不要按照网上有的说明，将127.0.0.1那一行里的localhost.localdomain改成主机名称，在安装Cloudera Agent的时候会识别不出名称和IP

修改 /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=CDH-DEV1

Java环境（所有节点）

下载jdk-8u144-linux-x64.tar.gz

解压到/usr/java(可根据个人习惯创建目录）

tar xzvf jdk-8u144-linux-x64.tar.gz

配置环境变量

[root@CDH-DEV1 .ssh]# vim /etc/profile #在文件末尾添加下面三行

export JAVA_HOME=/usr/java/jdk1.8.0_144

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

[root@CDH-DEV1 .ssh]# source /etc/profile #使生效

SSH无密码登录(集群内节点能够互相无密码访问)

思路：第一台机器配置authorized_keys，scp到第二台机器，将第二台机器的公钥添加到authorized_keys，然后将其scp到第三台，以此类推，直到配置到最后一台机器，将最后一台机器的authorized_keys scp到所有节点，如下

1）在主节点（CDH-DEV1）执行免密登录步骤错误待改

[root@CDH-DEV1 .ssh]# ssh-keygen -t rsa

[root@CDH-DEV1 .ssh]# cat id_rsa.pub >> authorized_keys

[root@CDH-DEV1 .ssh]# chmod 600 authorized_keys

[root@CDH-DEV1 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh

2）在CDH-DEV2执行

[root@CDH-DEV2 .ssh]# ssh-keygen -t rsa

[root@CDH-DEV2 .ssh]# cat id_rsa.pub >> authorized_keys

[root@CDH-DEV2 .ssh]# chmod 600 authorized_keys

[root@CDH-DEV2 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh

3）在CDH-DEV3执行

[root@CDH-DEV3 .ssh]# ssh-keygen -t rsa

[root@CDH-DEV3 .ssh]# cat id_rsa.pub >> authorized_keys

[root@CDH-DEV3 .ssh]# chmod 600 authorized_keys

[root@CDH-DEV3 .ssh]# scp authorized_keys root@CDH-DEV4:~/.ssh

4）在CDH-DEV4执行

[root@CDH-DEV4 .ssh]# ssh-keygen -t rsa

[root@CDH-DEV4 .ssh]# cat id_rsa.pub >> authorized_keys

[root@CDH-DEV4 .ssh]# chmod 600 authorized_keys

[root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV1:~/.ssh

[root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV2:~/.ssh

[root@CDH-DEV4 .ssh]# scp authorized_keys root@CDH-DEV3:~/.ssh

安装MySQL（主节点安装即可）

安装步骤：

（1）此处需要注意的是centos 7 默认安装的是mariadb，如果不卸载直接安装的话会报错，报错信息mariadb-libs is obsoleted by mysql-community-libs-5.7.9-1.el7.x86_64

rpm -qa | grep mariadb #查看安装信息

rpm -e mariadb-libs* --nodeps #根据查找到的软件包信息卸载

（2）安装MySQL（必须按以下顺序安装）按照此法无法安装

rpm -ivh mysql-community-common-5.7.20-1.el7.x86_64.rpm

rpm -ivh mysql-community-libs-5.7.9-1.el7.x86_64.rpm

rpm -ivh mysql-community-client-5.7.9-1.el7.x86_64.rpm

rpm -ivh mysql-community-server-5.7.9-1.el7.x86_64.rpm

（3）基本设置

service mysqld start #启动服务

vim /var/log/mysqld.log #查看初始密码

mysql -uroot -p #登录

set password = password('test01.') #设置密码密码要

#授权用户root使用密码passwd从任意主机连接到mysql服务器

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'passwd' WITH GRANT OPTION;

flush privileges;

MYSQL 5.7 密码要复杂

GRANT ALL PRIVILEGES ON *.* TO 'scm'@'%' IDENTIFIED BY 'passwd' WITH GRANT OPTION;

GRANT ALL PRIVILEGES ON *.* TO 'scm'@'localhost' IDENTIFIED BY 'passwd' WITH GRANT OPTION;

flush privileges;

（4）建数据库（用于后边组件安装）

create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

关闭防火墙（所有节点）

centos 7 默认使用的是firewall，不是iptables

systemctl stop firewalld.service

systemctl stop firewalld.service #停止firewall

systemctl disable firewalld.service #禁止firewall开机启动

systemctl mask firewalld.service #

关闭SELinux（所有节点）

[root@CDH-DEV1 .ssh]# vim /etc/selinux/config

设置SELINUX=disabled

配置NTP服务（所有节点）

安装

[root@CDH-DEV1 .ssh]# yum install ntp

设置开机启动

[root@CDH-DEV1 .ssh]# chkconfig ntpd on

同步时间

ntpdate pool.ntp.org

服务启动

[root@CDH-DEV1 .ssh]# service ntpd start

查看时间同步状态

ntpstat

所有节点上创建用户

useradd --system --home=/opt/cm-5.13.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

三、安装

安装Cloudera Manager Server 和Agent

（1）将下载好的cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz解压到主节点的/opt/,解压出来的文件夹为cloudera与cm-4.13.0

（2）为Cloudera Manager建立数据库，此处需要前边下载好的mysql-connector-java-5.1.44-bin.jar

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

（3）配置Agent

vim opt/cm-5.1.3/etc/cloudera-scm-agent/config.ini

server_host=CDH-DEV1

#拷贝到其他节点

[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev2:/opt/

[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev3:/opt/

[root@CDH-DEV1 parcel-repo]# scp -r /opt/cm-5.13.0/ root@cdh-dev4:/opt/

（4）准备parcels，将CDH相关文件拷贝到主节点/opt/cloudera/parcel-repo/

#相关文件

CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel

CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1

manifest.json

#操作

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/opt/cm-5.13.0/share/cmf/lib/

scp mysql-connector-java-5.1.44-bin.jar root@CDH-DEV1:/usr/share/java/

需要将CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1改成CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha，否则安装时会重新下载，很重要！！

[root@CDH-DEV1 parcel-repo]# mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1 CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha

（5）启动

#主节点

/opt/cm-5.13.0/etc/init.d/cloudera-scm-server start

#主节点及其他节点

/opt/cm-5.13.0/etc/init.d/cloudera-scm-agent start

启动需要点时间，可以查看数据库scm中的hosts表，如果里面出现节点信息表示server启动完成

2. 开始安装Hadoop集群

登录界面,默认登录用户名和密码都是admin

选择安装版本

为CDH群集安装指定主机

此处是在当前管理的主机里选择机器，不要在新主机里查找，另外这个地方显示的主机信息一定要对，我开始的时候因为主机名配置出问题，导致无法识别主机名称和IP，虽然agent的uuid是分配到了四台机器上，但是后边的安装无法进行。

群集安装

群集安装--安装指定parcel

分配时间受带宽影响，我的是千兆交换机组成的局域网，速度还可以，应该不到十分钟

检查主机正确性

第一个警告直接在所有节点上执行echo 10 > /proc/sys/vm/swappiness

第二个警告按照上面的说明，在所有节点上执行这两条命令

echo never > /sys/kernel/mm/transparent_hugepage/defrag >> /etc/rc.local

echo never > /sys/kernel/mm/transparent_hugepage/enabled >> /etc/rc.local

群集设置--选择安装服务--按需选择

群集设置--自定义角色--默认即可

群集设置--数据库设置

此处hue老出问题，一直解决不了，为了整条线走下去，而且目测hue基本用不到，所以选择了放弃安装hue.

贴一下网上找的几个解决方法，我都试了，没有解决，不知道什么问题，以后研究研究

缺少mysql-community-libs-compat-5.7.20-1.el7.x86_64.rpm

缺少python-lxml，yum install python-lxml

群集设置--审查--默认即可

群集设置--首次设置--默认即可

开始安装服务

此处hive ，oozie会安装失败，失败信息如下。因为我们使用了MySQL作为hive元数据存储，需要将mysql驱动拷贝到hive和oozie目录下

解决方法（需要在所有节点上执行）

cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /opt/cloudera/parcels/CDH-5.13.0-1.cdh5.13.0.p0.29/lib/hive/lib/

cp /opt/cm-5.13.0/share/cmf/lib/mysql-connector-java-5.1.44-bin.jar /var/lib/oozie/

安装完成

四、踩过的坑

数据库配置

问题描述：开始给Cloudera Manager配置数据库的时候，找的是网上的命令，/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -p --scm-host localhost scm scm scm，一直报错，不知道什么问题，报错信息java.sql.SQLException: Your password does not satisfy the current policy requirements，各种改密码复杂度及降低数据库密码复杂度要求都不行，怀疑是CDH版本更新命令参数发生了变化

解决方法，去掉部分参数，

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -uroot -p scm scm

cloudera-scm-server启动,cm-5.13.0/etc/init.d/cloudera-scm-server:行109: pstree: 未找到命令,centos最小安装版缺少软件包，安装即可，yum install psmisc

中途安装失败，重新安装

关闭所有服务

#主节点

[root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-server stop

#主节点及其他节点

[root@CDH-DEV1 opt]# /opt/cm-5.13.0/etc/init.d/cloudera-scm-agent stop

删除agent uuid

rm -rf /opt/cm-5.13.0/lib/cloudera-scm-agent/*

删除数据库scm

重新配置数据库

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql -hlocalhost -uroot -p scm scm

启动Cloudera server和agent，按照之前步骤安装即可

五、参考网站

Installing Cloudera Manager and CDH

Cloudera Manager 5和CDH5离线安装,CDH-5.7.1

离线安装Cloudera Manager 5和CDH5(最新版5.1.3) 完全教程

最后编辑于：2018.08.06 21:35:30

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 206,311评论 6赞 481
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 88,339评论 2赞 382
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 152,671评论 0赞 342
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 55,252评论 1赞 279
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 64,253评论 5赞 371
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 49,031评论 1赞 285
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 38,340评论 3赞 399
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,973评论 0赞 259
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 43,466评论 1赞 300
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,937评论 2赞 323
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 38,039评论 1赞 333
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,701评论 4赞 323
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 39,254评论 3赞 307
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 30,259评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,485评论 1赞 262
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 45,497评论 2赞 354
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,786评论 2赞 345