189 8069 5689
create databases mydb #创建数据库
show databases #查看所有的库
use mydb #切换数据库
create table t_user(id int ,name string,age int) #创建表
create table t_user(id int ,name string,age int) row format delimited fields terminated by '分隔符' #指定分隔符的建表语句
insert into table t_user values(值1,值1,值1) #插入数据
select * from t_table #查询语句
load data inpath 'HDFS path' into table t_name #在hdfs中导入数据
load data local inpath 'linux path' into table t_name #导入Linux数据到hive建库
创新互联-专业网站定制、快速模板网站建设、高性价比嘉荫网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式嘉荫网站制作公司更省心,省钱,快速模板网站建设找我们，业务覆盖嘉荫地区。费用合理售后完善，十年实体公司更值得信赖。
create database if not exists myhive #如果不存在则创建该数据库
create database if not exists myhive2 localtion 'hdfs path' #指定该库的位置查看库：
show databases; #查看hive中所有的数据库
desc databases dbname ; #显示数据库的详细信息
select current_database(); #查看正在使用的数据库
show create database db_name ; #查看建库语句删除库：
drop databases db_name restrict;
drop database if exists dbname;
#注意：默认情况下，hive不允许删除包含表的库，有两种办法：
1. 手动删除所有的表，然后在删除库
2. 使用cascade 关键字：drop database myhive cascade ;建表：
语法分析：
CREATE [EXTERNAL] TABLE [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment], ...)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)]
[CLUSTERED BY (col_name, col_name, ...) [SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS]
[ROW FORMAT row_format]
[STORED AS file_format]
[LOCATION hdfs_path]
[EXTERNAL] TABLE # 表示创建的是内部表还是外部表
[IF NOT EXISTS] table_name # 防止报错
[(col_name data_type [COMMENT col_comment], ...)] #表的字段
[COMMENT table_comment] #表的描述信息
[PARTITIONED BY (col_name data_type [COMMENT col_comment], ...)] #指定分区表
[CLUSTERED BY (col_name, col_name, ...) [SORTED BY (col_name [ASC|DESC], ...)] INTO num_buckets BUCKETS] #指定分桶，排序规则，以及分桶个数
[ROW FORMAT row_format] #指定分隔符
fields terminated by ‘’ #指定列分割符
lines terminated by ‘’ #指定行分隔符
[STORED AS file_format] #指定数据存储格式
[LOCATION hdfs_path] #指定数据存储目录 （在创建外部表时使用）建表举例：
#内部表
create table if not exists student(id int ,name string) row format delimited fields terminated by ','
#外部表
create external table if not exists student (id int ,name string) row format delimited fields terminated by ',' location '/hive/data/';
#分区表
create table if not exists student (id int ,name string) partitioned by (age int conmment 'partitioned comment') row format delimited fields terminated by ',' ; #分区字段的字段名称，不能是表中的任意一个字段
#创建分桶表
create table if not exists student (id int ,name string,age int ) clustered by (age) sort by (age desc) into 10 buckets row format delimited fields terminated by ',' ; #分桶字段一定要是表中的属性字段
#like 方式
create table student like t_student ; #复制一个表结构，分区表和分桶表也同样可以复制（分区表只能复制在创建表的时候的信息，之后添加的信息不能复制）
#CTAS
create table student as select * from t_student #创建表并复制修改表属性
alter table old_name rename to new_name ; #修改表名
alter table t_name set tb_properties (property_name=roperty_val) #修改表的属性
alter table t_name set serdeproperties('field.delim'='-'); #修改列的分隔符
alter table t_name add cloumns(f_name type) #增加一个字段
alter table t_name drop #hive本身不支持
alter table t_name replace columns(id int ,name string ) #替换所有的列
alter table t_name change old_field_name new_field_name type [first|after field] #修改字段的名称、类型以及位置
#接下来是对分区表操作：
alter table t_name add partition(分区字段=‘value’) #添加一个分区
alter table t_name add partition(分区字段=‘value’) partition (分区字段=‘value’) #添加多个分区
alter table t_name drop partition(分区字段='value') #删除分区
alter table t_name partition(分区字段=‘value’) set location 'hdfs path' #修改分区路径
alter table t_name partition(分区字段=‘value’) enable no_drop ; #防止分区被删除
alter table t_name partition(分区字段=‘value’) enable offline #防止分区被查询删除表：
drop tab;e if exists t_name ; #删除表
注意：
1. 内部表删除：元数据和数据都删
2. 内部表删除：元数据和数据都删
3. 分区表（内部表）：所有的分区都会被删除，元数据和数据都删
4. 分桶表的删除和普通表的删除没有任何区别
truncate table t_name ; #清空表的内容对表的常见操作：
show tables ; #查看库下的所有表
show partitions t_name; # 查看表的分区
show partitions 表名 partition(分区字段=‘value’) #查看某个分区
desc t_name ; #查看表的详细信息
desc extended 表名 #查看表的详细信息
desc formatted 表名 #查看表的详细信息load data local inpath 'linux path' into table t_name ; #本地导入
local data inpath 'hdfs path' into table t_name #从hdfs中导入
#注意：如果是内部表的话，在hdfs导入，那么原本的数据会被移动到相应的表的目录下
load data local inpath 'linux path ' overwrite into table 表名； #覆盖导入注意：
insert into //表示追加操作
insert overwrite //表示覆盖插入操作insert into table t_name(fields1,fields2,fields3) values(value1,value2,value3) #插入一条数据
insert into table t_name select * from tt_name; #利用查询，将结果导入表中
#分区表的多重插入
insert into talbe student_ptn partition(department=’SC’) select id ,name,age ,sex from student where dept=’ SC’;
insert into talbe student_ptn partition(department=’AC’) select id ,name,age ,sex from student where dept=’ AC’;
insert into talbe student_ptn partition(department=’ES’) select id ,name,age ,sex from student where dept=’ ES’;
上面的方法是使用单个sql去查询表，但是这里每执行一个sql就需要对student表中的所有数据进行扫描，效率太低！
转换：
from student
insert into table student_ptn partition(department=’SC’) select id ,name,age ,sex where dept=’ SC’;
insert into talbe student_ptn partition(department=’AC’) select id ,name,age ,sex where dept=’ AC’;
insert into talbe student_ptn partition(department=’ES’) select id ,name,age ,sex where dept=’ ES’;
这种方式进行数据的处理，只需要扫描表一次，整个MR程序就是一个输入多个输出，如果指定的分区不存在，在执行这条语句时会自动创建。
# 分桶表的数据插入，这里分桶表只能使用insert进行数据插入
insert into table stu_bck select * from 表名 #和普通的插入一样
**分桶的原则：分桶字段的hashcode值%分桶个数= 相同的值分在一组动态分区插入和静态分区插入：
静态分区插入：要进行数据插入的数据的定义是手动指定的（分区在插入之前指定）
动态分区插入：用来解决静态分区插入的缺点。按照某个分区字段的值进行判断，每遇到一个不同的值，当前的程序自行进行判断来创建对应的分区
举例：
#静态分区插入：
load data local inpath “路径” into table 表名 partition(dpt=’’)
insert into talbe student_ptn partition(department=’SC’) select id ,name,age ,sex where dept=’ SC’;
#动态分区插入：
insert into table t_name partition(字段名) select * from tt_name #这里查询的表的最后一个字段需要是分区字段。
#多分区动态插入：
insert into table stu_ptn01 partition(sex,department) select id,name,age,sex,department from student_manager; #只要查询字段的最后几个字段是分区字段即可，顺序不能颠倒注意：如果想使用动态分区插入需要在hive中开启几个参数：
set hive.exec.dynamic.partiton=true; #打开动态分区开关
set hive.exec.dynamic.partition.mode=nonstrict ; #关闭动态分区插入的不合法约束。静态分区插入和动态分区插入的区别：
- 静态分区插入数据后，需要指定分区的名字，而动态分区不需要
- 静态分区中可能会存在某一个分区没有数据，分区的目录是一个空目录，动态分区的时候根据实际的数据生成分区，每一个分区至少有一条数据
- 3） 动态分区的时候，每一个分区都会对应配置文件中设置的reducetask的个数，
set reducetask=3
#单重导出
insert overwrite local directory 'linux path' select * from t_name;
#多重导出
from t_name insert overwrite local directory 'linux path' select * where ...
insert overwrite local directory 'linux path' select * where...查询语句的书写顺序：select fields ... from [join] where group by having order by limit
查询语句的执行顺序：from ----join ----group by ---having ---select ---ordey by -----limit
特点：
- Hive中连接，只支持等值连接不支持不等值连接
- Hive中and连接，不支持or
- Hive支持多表关联，但是hive中进行关联的时候尽量避免笛卡尔积
- Hive支持in 和 exists 但是效率特别低
举例：
#内连接
select a.id aid,a.name name,b.id bid,b.score score from test_a a inner join test_b b on a.id=b.id; (交集)
#左外链接：以join左侧的表为基础表 左侧的表的所有数据都会显示 右侧可以关联上的就会补全 关联不上 null补充
select a.id aid,a.name name,b.id bid,b.score score from test_a a left join test_b b on a.id=b.id;
#右外链接：以join右侧的表为基础
select a.id aid,a.name name,b.id bid,b.score score from test_a a right join test_b b on a.id=b.id;
#全外链接：取两个表的并集
select a.id aid,a.name name,b.id bid,b.score score from test_a a full join test_b b on a.id=b.id;
#半连接，相当于内连接 取左半表的数据，左表中在右表中出现关联上的数据
select * from test_a a left semi join test_b b on a.id=b.id;关于 left semi join 的特点：
left semi join 是对hive中的exists/in的一个更高级额的操作。
- left semi join 的限制是， JOIN 子句中右边的表只能在 ON 子句中设置过滤条件，在 WHERE 子句、SELECT 子句或其他地方过滤都不行。
- left semi join 是只传递表的 join key 给 map 阶段，因此left semi join 中最后 select 的结果只许出现左表。
- 因为 left semi join 是 in(keySet) 的关系，遇到右表重复记录，左表会跳过，而 join 则会一直遍历。这就导致右表有重复值得情况下 left semi join 只产生一条，join 会产生多条，也会导致 left semi join 的性能更高。
order by
特点：局排序
例：select * from 表名 order by 字段 desc; (降序排序)
sort by
特点：sort by 是一个局部排序，在每一个reduce中进行排序，当reduceTask个数为1个时，这时与全局排序相同
原理：sort by 在进行分每一个reduceTask中的数据时，时随机选择的字段进行分配
例：select * from 表名sort by 字段；
distribute by
特点：按照指定字段分桶，在每个桶中进行排序。
例1：select * from 表名 distribute by 字段 （字段.hash%分桶个数）
例2：select * from 表名 distribute by 分桶字段 sort by 排序 字段 #按照指定字段分桶，在每一个桶中进行排序
cluster by
特点：既分桶又排序
例：select * from 表名 cluster by 分桶排序字段
注意：当分桶字段和排序字段相同时：distribute by+ sort by= cluster by，否则distribute by+ sort by功能更强大一些！
union和union all：都是将查询结果进行拼接，（连接的两个表的结构必须相同）
select * from xxx union selecet * from xxx
select * from xxx union all selecet * from xxxunion：表示去重连接
union all ：表示不去重连接