何为Spring Batch?怎么玩?
目录
何为批处理?
何为批处理,大白话讲就是将数据分批次进行处理的过程。比如:银行对账,跨系统数据同步等。这些处理逻辑一般来说都不需要人工参与就能够自动高效地进行复杂的数据处理与分析。
典型批处理特点:
-
自动执行,根据系统设定的工作步骤自动完成
-
数据量大,少则百万,多则上千万甚至上亿。(如果是10亿,100亿那只能上大数据了)
-
定时执行,比如:每天,每周,每月执行。
批处理操作步骤:系统A从数据库中导出数据到文件,系统B读取文件数据并写入到数据库
Spring Batch
官网介绍:Spring Batch Introduction
这里挑重点讲下:
-
Sping Batch 是一个轻量级的、完善的的批处理框架,旨在帮助企业建立健壮、高效的批处理应用。
-
Spring Batch 是Spring的一个子项目,基于Spring框架为基础的开发的框架
-
Spring Batch 提供大量可重用的组件,比如:日志,追踪,事务,任务作业统计,任务重启,跳过,重复,资源管理等
-
Spring Batch 是一个批处理应用框架,不提供调度框架,如果需要定时处理需要额外引入-调度框架,比如: Quartz
典型应用场景
典型的批处理应用通常从数据库、文件或队列中读取数据,之后使用一些方法处理数据(比如:抽取,分析,处理,过滤等)。最终按照约定的格式讲数据写回目标系统。典型业务场景有:
-
定期提交批处理任务
-
并行批处理,即并行处理任务
-
企业消息驱动处理
-
大规模的并行处理
-
手动或定时启动
-
按顺序处理依赖任务
-
部分处理,比如回滚
-
完整执行批处理事务
Spring Batch 架构
Spring Batch 核心架构分三层:应用层,核心层,基础架构层。
Application:应用层,包含所有的批处理作业,程序员自定义代码实现逻辑。
Batch Core:核心层,包含Spring Batch启动和控制所需要的核心类,比如:JobLauncher, Job,Step等。
Batch Infrastructure:基础架构层,提供通用的读,写与服务处理。
三层体系使得Spring Batch 架构可以在不同层面进行扩展,避免影响,实现高内聚低耦合设计。
Spring Batch 优势
Spring Batch 框架通过提供丰富的开箱即用的组件和高可靠性、高扩展性的能力,使得开发批处理应用的人员专注于业务处理,提高处理应用的开发能力。下面就是使用Spring Batch后能获取到优势:
-
丰富的开箱即用组件
-
面向Chunk的处理
-
事务管理能力
-
元数据管理
-
易监控的批处理应用
-
丰富的流程定义
-
健壮的批处理应用
-
易扩展的批处理应用
-
复用企业现有的IT代码
好了,到这,本篇就结束了~
转视频版
看文字不过瘾可以切换视频版:Spring Batch高效批处理框架实战
相关文章
- Spring Boot 2.X系列教程:七天从无到有掌握Spring Boot-持续更新
- 《Spring 5 官方文档》18. Web MVC 框架(十)
- 使用 Spring Cloud Stream 构建消息驱动微服务
- Spring注入bean的常用的六种方式
- Spring源码分析refresh()第二篇
- 我做了个违背程序员的决定,开源了这份 SPRING 全家桶神级手册
- Spring 的 Controller 是单例还是多例?怎么保证并发的安全
- Spring 的 Controller 是单例还是多例?怎么保证并发的安全
- Spring Cloud Gateway核心概念和工作原理
- Java中的Spring MVC简介笔记
- 漏洞复现----41、Spring Data Rest 远程命令执行漏洞(CVE-2017-8046)
- Sring源码解析(一)Spring是怎么读取配置Xml文件的
- Spring源码分析(九)lazy-init 在Spring中是怎么控制加载的
- Spring源码分析(二)Spring怎么扩展解析xml接口的
- Spring Boot 2.x基础教程:使用国产数据库连接池Druid
- spring 容器技术入门
- 《Servlet、JSP和Spring MVC初学指南》——2.5 小结
- Spring Cloud Alibaba 微服务组件 Nacos 注册中心(三)
- Spring 新手教程(三) 注入和自己主动装配
- 曹工说Spring Boot源码(6)-- Spring怎么从xml文件里解析bean的
- 面试题:应用中很多jar包,比如spring、mybatis、redis等等,各自用的日志系统各异,怎么用slf4j统一输出?(上)
- spring boot 配置HTTPS