zl程序教程

您现在的位置是:首页 >  数据库

当前栏目

Hive的4种排序

2023-03-31 11:04:32 时间

1、全局排序(Order by)


 

功能:全局排序,只有1个reducer(用1个Reduce Task完成全局排序,与设置的Reduce Task个数无关)

参数:ASC:升序(默认)  DESC:降序

使用:order by放在select语句的结尾

例如:

  --查询员工信息按工资降序排列

  select * from emp order by sal DESC;

 

2、每个MapReduce内部排序(Sort by)


 

功能:很多情况下不需要全局排序,此时可以使用sort by。sort by为每个reducer产生一个排序文件,每个reducer内部进行排序,不对全局结果集进行排序

参数:设置reduce个数:set mapreduce.job.reduces=3;

例如:  

  --根据部门编号降序查看员工信息

  select * from emp sort by deptno desc;  

 

3、分区排序(Distribute by)


 

功能:类似mr中的自定义分区

使用:结合sort by使用,写在sort by语句之前

分区规则:根据分区字段的Hash码与reduce的个数进行模除后,余数相同的分到一个区

例如:

  --先按照部门编号分区,再按照员工编号降序排序。

   select * from emp distribute by deptno sort by empno desc;

 

4、Cluster by


 

功能:当distribute by和sorts by字段相同时,可以使用cluster by方式

使用:cluster by除了具有distribute by的功能外还兼具sort by的功能。但是排序只能是升序排序,不能指定排序规则为ASC或者DESC

例如:

  --以下两种写法等价

  select * from emp cluster by deptno;

  select * from emp distribute by deptno sort by deptno;