数据仓库Hive安装部署与测试练习

环境说明

10.176.2.101(10.176.2.121) master
10.176.2.103 zjx03
10.176.2.105 zjx05

cent-os6.5
zookeeper cdh 3.4.5
hadoop apache 2.7.7
jdk 1.8.191
mysql 5.17
sqoop 1.4.7
hbase 1.2.7
hive apache 2.3.4

安装部署
wget https://mirrors.tuna.tsinghua.edu.cn/apache/hive/hive-2.3.4/apache-hive-2.3.4-bin.tar.gz -c /opt/softwares
或者
wget http://apache.mirrors.hoobly.com/hive/hive-2.3.4/apache-hive-2.3.4-bin.tar.gz -c /opt/softwares
cd /opt/softwares
tar -zxvf apache-hive-2.3.4-bin.tar.gz -c /opt/softwares
rm -rf apache-hive-2.3.4-bin.tar.gz
# 找到mysql-connector-java驱动jar包,在安装sqoop时有使用该jar包,或者下载一个驱动包
cd /opt/softwares/sqoop-1.4.7.bin__hadoop-2.6.0/lib
cp mysql-connector-java-5.1.33.jar $HIVE_HOME/lib
# 配置环境变量
vim /etc/profile

export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HIVE_HOME=/opt/softwares/apache-hive-2.3.4-bin
export PATH=$HIVE_HOME/bin:$PATH
source /etc/profile

配置hive-site.xml

操作前,由于该文件较大,内容多,使用vim编辑器的常用功能,如查找修改
:/word 在文件中查找内容为word的字符串(向下查找)
:?word 在文件中查找内容为word的字符串(向上查找)
[n] 表示重复查找动作,即查找下一个
[N] 反向查找下一个
:u 撤消上一个操作
:. 这是小数点键,重复上一个操作
vim编辑器常用操作总结参考:
https://www.cnblogs.com/jiayongji/p/5771444.html

cd /opt/softwares/apache-hive-2.3.4-bin/conf
cp hive-default.xml.template hive-site.xml
vim hive-site.xml
#修改以下内容(其中mysql数据库在zjx03节点上,创建数据库名为hive)
<!-- 如果 mysql 和 hive 在同一个服务器节点,那么请更改 zjx03为 localhost -->
<property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://zjx03:3306/hive?characterEncoding=UTF8&amp;useSSL=false&amp;createDatabaseIfNotExist=true</value>
</property>
<property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
        <description>Driver class name for a JDBC metastore</description>
</property>
<property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
</property>
<property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>root</value>
    </property>
# 该文件最开始加上如下内容
<property>
    <name>system:java.io.tmpdir</name>
    <value>/tmp/hive/java</value>
</property>
<property>
    <name>system:user.name</name>
    <value>${user.name}</value>
</property>

验证hive安装
hive --help

运行hive客户端
hive
或者
hive --service cli

初始化DB(初始化的操作一般只最开始执行一次,后续无需执行)
schematool -initSchema -dbType mysql

查看成功后的元数据

可以看到对应数据库hive中,有了各种初始的表,使用navicat连接可以清楚看到。

启动master,node节点

单机启动

hive

集群启动

[root@master conf]# hive -hiveconf hbase.zookeeper.quorum=master,zjx03,zjx05
hive>

界面查看

http://master:50070

image
创建数据库

创建后再查看web页面会发现多了文件夹,可以点进去查看到myhive.db,同时在mysql数据库(hive)的DBS表可以看到数据库信息

hive> create database myhive;
# 查看数据库
hive> show databases;
OK
default
myhive
# 使用数据库
hive> use myhive;
# 创建表(创建表后在web界面可以在mysql数据库的hive数据库TBLS、COLUMNS_V2表中看到表的元数据)
create table student(id int, name string, sex string, age int, department string) row format delimited fields terminated by "," lines terminated by "\n";
# 重新打开一个session
[root@master ~]# mkdir -p /opt/softwares/apache-hive-2.3.4-bin/data
[root@master ~]# cd /opt/softwares/apache-hive-2.3.4-bin/data
[root@master data]# vim student.txt
# 内容如下
95002,刘晨,女,19,IS
95017,王风娟,女,18,IS
95018,王一,女,19,IS
95013,冯伟,男,21,CS
95014,王小丽,女,19,CS
95019,邢小丽,女,19,IS
95020,赵钱,男,21,IS
95003,王敏,女,22,MA
95004,张立,男,19,IS
95012,孙花,女,20,CS
95010,孔小涛,男,19,CS
95005,刘刚,男,18,MA
95006,孙庆,男,23,CS
95007,易思玲,女,19,MA
95008,李娜,女,18,CS
95021,周二,男,17,MA
# 再回到原hive session中,往其往创建好的student表中插入一份数据文件
hive> load data local inpath "/opt/softwares/apache-hive-2.3.4-bin/data/student.txt" into table student;
Loading data to table myhive.student
OK
Time taken: 4.357 seconds
hive> select * from student;
OK
95002   刘晨  女   19  IS
95017   王风娟 女   18  IS
95018   王一  女   19  IS
95013   冯伟  男   21  CS
95014   王小丽 女   19  CS
95019   邢小丽 女   19  IS
95020   赵钱  男   21  IS
95003   王敏  女   22  MA
95004   张立  男   19  IS
95012   孙花  女   20  CS
95010   孔小涛 男   19  CS
95005   刘刚  男   18  MA
95006   孙庆  男   23  CS
95007   易思玲 女   19  MA
95008   李娜  女   18  CS
95021   周二  男   17  MA
Time taken: 4.718 seconds, Fetched: 16 row(s)

退出hive
hive> exit;
或者
hive> quit;

部署参考:
https://blog.csdn.net/JENREY/article/details/79807418
https://blog.csdn.net/lsttoy/article/details/53406710
https://blog.csdn.net/vpqtxzmzezeqjj9977/article/details/80483019

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 225,226评论 6 524
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 96,509评论 3 405
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 172,523评论 0 370
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 61,181评论 1 302
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 70,189评论 6 401
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 53,642评论 1 316
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,993评论 3 431
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 40,977评论 0 280
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 47,527评论 1 326
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 39,547评论 3 347
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 41,661评论 1 355
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 37,250评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,991评论 3 340
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 33,422评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 34,571评论 1 277
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 50,241评论 3 382
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 46,737评论 2 366

推荐阅读更多精彩内容