Spark on K8S 的几种模式
2023-09-14 09:01:51 时间
Spark on K8S 的几种模式
Standalone
:在 K8S 启动一个长期运行的集群,所有 Job 都通过 spark-submit 向这个集群提交
Kubernetes Native
:通过 spark-submit 直接向 K8S 的 API Server 提交,申请到资源后启动 Pod 做为 Driver 和 Executor 执行 Job,参考 http://spark.apache.org/docs/2.4.6/running-on-kubernetes.html
Spark Operator
:安装 Spark Operator,然后定义 spark-app.yaml,再执行 kubectl apply -f spark-app.yaml,这种申明式 API 和调用方式是 K8S 的典型应用方式,参考 https://github.com/GoogleCloudPlatform/spark-on-k8s-operator
相关文章
- 【运维工具】因为K8s,运维人员遇到职业危机....
- 【k8s】run VMs on Kubernetes
- 带你畅游k8s调度器!
- k8s系列(1)-腾讯云CVM手动部署K8S_Dashboard安装1
- k8s安装helm
- 部署k8s集群(k8s集群搭建详细实践版)
- 你能给大家解释一下k8s里面五花八门的各种port吗?
- 图解K8s源码 - kubelet 下的 QoS 控制机制及 k8s Cgroups v2 简介
- 集度汽车 Flink on native k8s 的应用与实践
- mac 上学习k8s系列(47)分布式追踪jaeger+es
- k8sailor - 用 go 写一个 k8s 后台(第一季完结)
- 14 张图详解 Zookeeper + Kafka on K8S 环境部署
- ORA-54036: cannot define referential constraint with ON DELETE SET NULL clause on virtual column ORACLE 报错 故障修复 远程处理
- k8s部署redis cluster集群的实现
- MySQL on k8s 云原生环境部署
- MySQL连接查询:活学活用ON条件(mysql连接查询on)
- k8s通过service访问pod(五)
- delete cascadeMySQL:探索ON DELETE CASCADE功能(mysql支持on)
- 深入理解MySQL中的ON用法(mysql 中on用法)
- K8S上简易部署Oracle数据库(k8s上部署oracle)
- delete cascadeOracle 中 ON DELETE CASCADE 的使用(oracle中的on)
- 使用Oracle On关键字实现数据库连接(oracle on关键字)