4、DDL数据定义

创建数据库

  1. 创建一个数据库,数据库在HDFS上的默认存储路径是/user/hive/warehouse/*.db。
    hive (default)> create database mydatabase;


    创建数据库.png
  2. 避免要创建的数据库已经存在错误,增加if not exists判断。
    hive (default)> create database if not exists mydatabase1;


    添加if not exists关键字.png
  3. 创建一个数据库,指定数据库在HDFS上存放的位置
    hive (default)> create database if not exists mydatabase2 location '/mydatabase.db'


    指定位置的存储.png

查询数据库

显示数据库

  1. 显示数据库
    hive (default)> show databases;
  2. 过滤显示查询的数据库
    hive (default)> show databases like 'myda*';

查看数据库详情

  1. 显示数据库信息
    hive (default)> desc database extended mydatabase;
  2. 显示数据库详细信息,extended
    hive (default)> desc database extended mydatabase;

切换当前数据库

hive (default)> use mydatabase;

修改数据库

用户可以使用ALTER DATABASE命令为某个数据库的DBPROPERTIES设置键-值对属性值,来描述这个数据库的属性信息。数据库的其他元数据信息都是不可更改的,包括数据库名和数据库所在的目录位置。修改当前正在使用的数据库,要先退出使用
hive (default)> alter database mydatabase set dbproperties('createtime'='20180930');
在hive中查看修改结果
hive (default)> desc database extended mydatabase;


hive修改表的结果.png

删除数据库

  1. 删除空数据库
    hive (default)> drop database mydatabase1;
  2. 如果删除的数据库不存在,最好采用 if exists判断数据库是否存在
    hive (default)> drop database mydatabase1;


    删除表加if exists关键字.png
  3. 如果数据库不为空,可以采用cascade命令,强制删除
    hive (default)> drop database mydatabase cascade;


    cascade强制删除.png

创建表

建表语法
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], ...)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
[CLUSTERED BY (col_name, col_name, ...)
[SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]

字段相关解释说明

  1. CREATE TABLE 创建一个指定名字的表。如果相同名字的表已经存在,则抛出异常;可以用 IF NOT EXISTS 选项来忽略这个异常
  2. EXTERNAL关键字可以让用户创建一个外部表,在建表的同时指定一个指向实际数据的路径(LOCATION关键字指定),Hive创建内部表时,会将数据移动到数据仓库指向的路径;若创建外部表,仅记录数据所在的路径,不对数据的位置做任何改变。在删除表的时候,内部表的元数据和数据会被一起删除,而外部表只删除元数据,不删除数据
  3. COMMENT:为表和列添加注释
  4. PARTITIONED BY创建分区表
  5. CLUSTERED BY创建分桶表
  6. SORTED BY不常用
  7. ROW FORMAT
    DELIMITED [FIELDS TERMINATED BY char] [COLLECTION ITEMS TERMINATED BY char] [MAP KEYS TERMINATED BY char] [LINES TERMINATED BY char]
  8. STORED AS
    指定存储文件类型
    常用的存储文件类型:SEQUENCEFILE(二进制序列文件)、TEXTFILE(文本)、RCFILE(列式存储格式文件)
    如果文件数据是纯文本,可以使用STORED AS TEXTFILE。如果数据需要压缩,使用 STORED AS SEQUENCEFILE
  9. LOCATION 指定表在HDFS上的存储位置、
  10. LIKE允许用户复制现有的表结构,但是不复制数据

管理表

默认创建的表都是所谓的管理表,有时也被称为内部表。因为这种表,Hive会(或多或少地)控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下,当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据

具体操作

  1. 创建管理表
create table if not exists student1(
id int, name string
)
row format delimited fields terminated by '\t'
stored as textfile;
  1. 插入数据
insert into student1 values(1, "Z");
  1. 根据查询结果创建表
create table if not exists student2 as select * from student1;
  1. 根据已经存在的表结构创建表
 create table if not exists student3 like student1;

外部表

因为表是外部表,所以Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据,不过描述表的元数据信息会被删除掉
每天将收集到的网站日志定期流入HDFS文本文件。在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表

具体操作

  1. 创建部门表和员工表
create external table if not exists default.dept(
deptno int,
dname string,
loc int
)
row format delimited fields terminated by '\t';

create external table if not exists default.emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
row format delimited fields terminated by '\t';
  1. 导入数据
load data local inpath '/opt/module/datas/dept.txt' into table default.dept;
load data local inpath '/opt/module/datas/emp.txt' into table default.emp;
  1. 查看表格式化数据
desc formatted dept;

管理表与外部表的互相转换

只能用单引号,严格区分大小写,如果不是完全符合,那么只会添加kv 而不生效

  1. 修改内部表student2为外部表
alter table student2 set tblproperties('EXTERNAL'='TRUE');
  1. 修改外部表student2为内部表
alter table student2 set tblproperties('EXTERNAL'='FALSE');

注意:('EXTERNAL'='TRUE')和('EXTERNAL'='FALSE')为固定写法,区分大小写

分区表

分区表实际上就是对应一个HDFS文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录,把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区,这样的查询效率会提高很多。

分区表基本操作

  1. 创建表
create table if not exists dept_partition(
deptno int,
deptname string,
deptloc string
)
partitioned by (month string)
row format delimited fields terminated by '\t';
  1. 加载数据到分区表中
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201808');
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201809');
load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201810');
  1. 查询
-- 单分区查询
select * from dept_partition where month = '201808';
-- 多分区联合查询 union(排序) in or 三种方式
select * from dept_partition where month = '201808' 
union 
select * from dept_partition where month = '201809';
select * from dept_partition where month in ('201808', '201809');
select * from dept_partition where month='201808' or month='201809';
  1. 增加分区
    创建单个分区
alter table dept_partition add partition(month='201811');

创建多个分区,用空格分开

alter table dept_partition add partition(month='201812') partition(month='201901');
  1. 删除分区
    删除单个分区
alter table dept_partition drop partition(month='201811');

删除多个分区,用逗号分开

alter table dept_partition drop partition(month='201812'),partition(month='201901');
  1. 查看分区表有多少分区
show partitions dept_partition;

二级分区表

  1. 创建二级分区
create table if not exists dept_partition2(
deptno int,
deptname string,
demploc string
)
partitioned by(month string, day string)
row format delimited fields terminated by '\t';
  1. 上传数据
load data local inpath '/opt/module/datas/dept.txt' into table
 default.dept_partition2 partition(month='201810', day='13');
  1. 查询数据
select * from dept_partition2 where month='201810' and day = '13';

分区表与数据关联的三种方式

  1. 创建目录,上传数据后修复
-- 创建目录
dfs -mkdir -p
 /user/hive/warehouse/dept_partition2/month=201810/day=12;
-- 上传数据
dfs -put /opt/module/datas/dept.txt  /user/hive/warehouse/dept_partition2/month=201810/day=12;
-- 执行修复命令
msck repair table dept_partition2;
  1. 创建目录,上传数据后添加分区
-- 创建目录
dfs -mkdir -p
 /user/hive/warehouse/dept_partition2/month=201810/day=14;
-- 上传数据
dfs -put /opt/module/datas/dept.txt  /user/hive/warehouse/dept_partition2/month=201810/day=14;
-- 添加分区
alter table dept_partition2 add partition(month='201810',
 day='14');
  1. 创建目录,load数据到分区
-- 创建目录
dfs -mkdir -p
 /user/hive/warehouse/dept_partition2/month=201810/day=15;
-- load 数据到分区
load data local inpath '/opt/module/datas/dept.txt' into table
 dept_partition2 partition(month='201810',day='15');

修改表

重命名表

  1. 语法
    ALTER TABLE table_name RENAME TO new_table_name
  2. 案例
    alter table student rename to student4;

增加、修改和删除表分区

前面已描述

增加、修改、替换列信息

  1. 语法
    更新列语法
    ALTER TABLE table_name CHANGE [COLUMN] col_old_name col_new_name column_type [COMMENT col_comment] [FIRST|AFTER column_name]
    增加和替换列
    ALTER TABLE table_name ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
    注意,ADD是代表新增一字段,字段位置在所有列后面(partition列前),REPLACE则是表示替换表中所有字段
  2. 案例
-- 添加列
alter table dept_partition add columns(deptdesc string);
-- 更新列
alter table dept_partition change column deptdesc desc int;
-- 替换列·
alter table dept_partition replace columns(deptno string, dname
 string, loc string);

删除表

drop table dept_partition;
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,332评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,508评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,812评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,607评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,728评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,919评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,071评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,802评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,256评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,576评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,712评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,389评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,032评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,798评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,026评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,473评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,606评论 2 350

推荐阅读更多精彩内容