第46课:Spark中的新解析引擎Catalyst源码初探 SQLContext、Catalog、SqlParser 、analyzer、optimizer、QueryExecution、RDD
2023-09-27 14:26:47 时间
第46课:Spark中的新解析引擎Catalyst源码初探
1、入口
val sc =new SparkContext(conf)
val sqlcontext =new SQLContext(sc) //sql子框架基于spark context。处理结构化数据的入口。
sqlcontext.scala
2、Catalog初步的处理,例如查询一个表,表中的列开始是不知道的,从unrecognized Logic Plan 到 Logic Plan 中间有一个Catalog的过程。
@transient
protected[sql] lazy val catalog: Catalog = new SimpleCatalog(conf)
相关文章
- 转: WebRTC音视频引擎研究(1)--整体架构分析
- 开源规则引擎 Drools 学习笔记 之 -- 1 cannot be cast to org.drools.compiler.kie.builder.impl.InternalKieModule
- 加速化工行业数字腾飞,S2B2C电商供应链系统成企业新增长引擎
- 2022-09-26 mysql列存储引擎-多表JOIN查询慢-问题定位
- 2022-09-13 mysql列存储引擎-POC-查询数据错误追踪
- 开源工作流引擎
- Spark-构建基于Spark的推荐引擎
- 第51课:Spark中的新解析引擎Catalyst源码SQL最终转化为RDD具体实现
- 第51课: Spark中的新解析引擎Catalyst源码SQL最终转化为RDD具体实现
- 大数据Spark “蘑菇云”行动第102课:Hive性能调优之底层Hadoop引擎调优剖析和最佳实践
- MVC系列——MVC源码学习:打造自己的MVC框架(四:了解神奇的视图引擎)
- 2D物理引擎 Box2D Physics Engine 介绍
- 客快物流大数据项目(九十一):ClickHouse的数据库引擎