Hive学习之路 (二十)Hive 执行过程实例分析详解大数据
(1) Hive 将 HQL 转换成一组操作符(Operator),比如 GroupByOperator, JoinOperator 等
(2)操作符 Operator 是 Hive 的最小处理单元
(3)每个操作符代表一个 HDFS 操作或者 MapReduce 作业
(4)Hive 通过 ExecMapper 和 ExecReducer 执行 MapReduce 程序,执行模式有本地模式和分 布式两种模式
(1)Parser:将 HQL 语句转换成抽象语法树(AST:Abstract Syntax Tree)
(2)Semantic Analyzer:将抽象语法树转换成查询块
(3)Logic Plan Generator:将查询块转换成逻辑查询计划
(4)Logic Optimizer:重写逻辑查询计划,优化逻辑执行计划
(5)Physical Plan Gernerator:将逻辑计划转化成物理计划(MapReduce Jobs)
(6)Physical Optimizer:选择最佳的 Join 策略,优化物理执行计划
4、优化器类型上表中带①符号的,优化目的都是尽量将任务合并到一个 Job 中,以减少 Job 数量,带②的 优化目的是尽量减少 shuffle 数据量
二、join 1、对于 join 操作SELECT pv.pageid, u.age FROM page_view pv JOIN user u ON pv.userid = u.userid;
2、实现过程
Map:
1、以 JOIN ON 条件中的列作为 Key,如果有多个列,则 Key 是这些列的组合
2、以 JOIN 之后所关心的列作为 Value,当有多个列时,Value 是这些列的组合。在 Value 中还会包含表的 Tag 信息,用于标明此 Value 对应于哪个表
3、按照 Key 进行排序
Shuffle:
1、根据 Key 的值进行 Hash,并将 Key/Value 对按照 Hash 值推至不同对 Reduce 中
Reduce:
1、 Reducer 根据 Key 值进行 Join 操作,并且通过 Tag 来识别不同的表中的数据
3、具体实现过程SELECT pageid, age, count(1) FROM pv_users GROUP BY pageid, age;2、实现过程
按照 age 分组,然后统计每个分组里面的不重复的 pageid 有多少个
SELECT age, count(distinct pageid) FROM pv_users GROUP BY age;2、实现过程
该 SQL 语句会按照 age 和 pageid 预先分组,进行 distinct 操作。然后会再按 照 age 进行分组,再进行一次 distinct 操作
原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/8985.html
分布式文件系统,分布式数据库区块链并行处理(MPP)数据库,数据挖掘开源大数据平台数据中台数据分析数据开发数据治理数据湖数据采集相关文章
- CloudSim 学习实例1
- [IEEE Trans Med Imaging | 论文简读] 用于全视野数字病理切片分类的多实例强化对比学习
- Python编程学习,高效求解素数程序实例详解编程语言
- CSS学习摘要-定位实例详解编程语言
- Oracle实例暂时不可用(oracle实例不可用)
- MySQL中的临时表使用实例(mysqlin临时表)
- Linux脚本语言:从实例学习编程(linux脚本语言实例)
- Linux防火墙iptables学习笔记(五)linux+iptables构筑防火墙实例
- Oracle表空间与实例:学习新知识的演练(oracle表空间与实例)
- 学习SQL Server存储过程:实例演示带你熟悉(sqlserver存储过程实例)
- 深入学习Linux软中断:掌握实用实例方法(linux软中断实例)
- MySQL登录教程从实例中学习(c mysql登录列子)
- JqueryAjax学习实例4向WebService发出请求,返回实体对象的异步调用
- jquery中dom操作和事件的实例学习下拉框应用
- SQLJoin的一些总结(实例)
- jqueryajaxjsonp跨域调用实例代码
- php定时计划任务与fsockopen持续进程实例
- PythonORM框架SQLAlchemy学习笔记之关系映射实例
- JavaScript中实现PHP的打乱数组函数shuffle实例
- MySQL创建和删除表操作命令实例讲解
- jQuery+ajax中getJSON()用法实例
- android中WebView和javascript实现数据交互实例
- Oracle分区索引介绍和实例演示
- Lua中的动态链接实例