詳解SpringBoot和SpringBatch 使用

2024-07-14 08:41:52

字體：大中小

供稿：網(wǎng)友

什么是Spring Batch

Spring Batch 是一個(gè)輕量級(jí)的、完善的批處理框架,旨在幫助企業(yè)建立健壯、高效的批處理應(yīng)用。Spring Batch是Spring的一個(gè)子項(xiàng)目,使用Java語(yǔ)言并基于Spring框架為基礎(chǔ)開發(fā),使的已經(jīng)使用 Spring 框架的開發(fā)者或者企業(yè)更容易訪問和利用企業(yè)服務(wù)。

Spring Batch 提供了大量可重用的組件,包括了日志、追蹤、事務(wù)、任務(wù)作業(yè)統(tǒng)計(jì)、任務(wù)重啟、跳過、重復(fù)、資源管理。對(duì)于大數(shù)據(jù)量和高性能的批處理任務(wù),Spring Batch 同樣提供了高級(jí)功能和特性來(lái)支持,比如分區(qū)功能、遠(yuǎn)程功能。總之,通過 Spring Batch 能夠支持簡(jiǎn)單的、復(fù)雜的和大數(shù)據(jù)量的批處理作業(yè)。

Spring Batch 使用

我們首先配置Spring Batch 在Spring Boot 中的使用,數(shù)據(jù)庫(kù)用的是mysql，pom文件如下，因?yàn)镾pring Boot 中的Spring Batch 包含 hsqsldb 所以我們將其去除

<dependency>      <groupId>org.springframework.boot</groupId>      <artifactId>spring-boot-starter-batch</artifactId>      <exclusions> <!-- 注意這里-->        <exclusion>          <groupId>org.hsqldb</groupId>          <artifactId>hsqldb</artifactId>        </exclusion>      </exclusions>    </dependency>    <dependency>      <groupId>org.springframework.boot</groupId>      <artifactId>spring-boot-starter-jdbc</artifactId>    </dependency>    <dependency>      <groupId>org.springframework.boot</groupId>      <artifactId>spring-boot-starter-web</artifactId>    </dependency><dependency>    <groupId>org.hibernate</groupId>    <artifactId>hibernate-validator</artifactId>  </dependency>  <dependency>    <groupId>mysql</groupId>    <artifactId>mysql-connector-java</artifactId>    <version>5.1.21</version>  </dependency>  <dependency>    <groupId>org.springframework.boot</groupId>    <artifactId>spring-boot-starter-test</artifactId>    <scope>test</scope>  </dependency>

配置好我們需要的實(shí)體類。頁(yè)面就不展示了。

如果有數(shù)據(jù)校驗(yàn)添加的話那么我們需要配置自定義的檢驗(yàn)器。若果沒有課略過該步驟

public class CsvBeanValidator<T> implements Validator<T>,InitializingBean {  private javax.validation.Validator  validator;  @Override  public void validate(T value) throws ValidationException {    Set<ConstraintViolation<T >> constraintViolations=validator.validate(value);    if(constraintViolations.size()>0){      StringBuilder message=new StringBuilder();      for(ConstraintViolation<T> constraintViolation:constraintViolations){        message.append(constraintViolation.getMessage() +"/n");      }      throw new ValidationException(message.toString());    }  }  //在這里我們使用的是JSR-303校驗(yàn)數(shù)據(jù)，在此進(jìn)行初始化  @Override  public void afterPropertiesSet() throws Exception {     ValidatorFactory validatorFactory= Validation.buildDefaultValidatorFactory();    validator=validatorFactory.usingContext().getValidator();  }}public class CsvItemProcessor extends ValidatingItemProcessor<Person> {  @Override  public Person process(Person item) throws ValidationException {     super.process(item); // 在這里啟動(dòng) 然后才會(huì)調(diào)用我們自定義的校驗(yàn)器，否則不能通過 。     if (item.getNation().equals("漢族")){       item.setName("01");     }else{       item.setNation("02");     }     return item;  }}

進(jìn)行job任務(wù)監(jiān)聽自定義類實(shí)現(xiàn)JobExecutionListener 即可

long startTime; long endTime; @Override public void beforeJob(JobExecution jobExecution) {   startTime = System.currentTimeMillis();   System.out.println("任務(wù)處理開始"); } @Override public void afterJob(JobExecution jobExecution) {   endTime = System.currentTimeMillis();   System.out.println("耗時(shí)多長(zhǎng)時(shí)間:" + (endTime - startTime) + "ms");   System.out.println("任務(wù)處理結(jié)束"); }

進(jìn)行Spring Batch 的注入方法有xml文件注入bean ，在這里選擇java注入

@Configuration@EnableBatchProcessing //開啟批處理public class CsvBatchConfig {  /**1 首先我們通過 FlatFileItemReader 讀取我們需要的文件 通過setResource來(lái)實(shí)現(xiàn)   * 2 設(shè)置map 在這里通過先設(shè)置解析器 setLineTokenizer 來(lái)解析我們csv文件中的數(shù)   據(jù)   * 3 setFieldSetMapper 將我們需要的數(shù)據(jù)轉(zhuǎn)化為我們的實(shí)體對(duì)象 存儲(chǔ)   * 4 如果想 跳過前面的幾行 需要使用setLinesToSkip就可以實(shí)現(xiàn)    */  @Bean public ItemReader<Person> reader() throws Exception {   FlatFileItemReader<Person> reader = new FlatFileItemReader<Person>(); //1   reader.setResource(new ClassPathResource("people.csv")); //2     reader.setLineMapper(new DefaultLineMapper<Person>() {{ //3       setLineTokenizer(new DelimitedLineTokenizer() {{         setNames(new String[] { "name","age", "nation" ,"address"});       }});       setFieldSetMapper(new BeanWrapperFieldSetMapper<Person>() {{         setTargetType(Person.class);       }});     }});       reader.setLinesToSkip(3);      return reader; } @Bean public ItemProcessor<Person, Person> processor() {   CsvItemProcessor processor = new CsvItemProcessor(); //1   processor.setValidator(csvBeanValidator()); //2   return processor; }   /**     *寫入數(shù)據(jù)到數(shù)據(jù)庫(kù)中    * 1執(zhí)行的sql 語(yǔ)句 2 設(shè)置數(shù)據(jù)源      */ @Bean public ItemWriter<Person> writer(DataSource dataSource) {//1   JdbcBatchItemWriter<Person> writer = new JdbcBatchItemWriter<Person>(); //2   writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<Person>());   String sql = "insert into person " + "(id,name,age,nation,address) "       + "values(hibernate_sequence.nextval, :name, :age, :nation,:address)";   writer.setSql(sql); //3   writer.setDataSource(dataSource);   return writer; }  // 作業(yè)的倉(cāng)庫(kù) 就是設(shè)置數(shù)據(jù)源 @Bean public JobRepository jobRepository(DataSource dataSource, PlatformTransactionManager transactionManager)     throws Exception {   JobRepositoryFactoryBean jobRepositoryFactoryBean = new JobRepositoryFactoryBean();   jobRepositoryFactoryBean.setDataSource(dataSource);   jobRepositoryFactoryBean.setTransactionManager(transactionManager);   jobRepositoryFactoryBean.setDatabaseType("mysql");   return jobRepositoryFactoryBean.getObject(); }   //調(diào)度器 使用它來(lái)執(zhí)行 我們的批處理 @Bean public SimpleJobLauncher jobLauncher(DataSource dataSource, PlatformTransactionManager transactionManager)     throws Exception {   SimpleJobLauncher jobLauncher = new SimpleJobLauncher();   jobLauncher.setJobRepository(jobRepository(dataSource, transactionManager));   return jobLauncher; }   //將監(jiān)聽器加入到j(luò)ob中 @Bean public Job importJob(JobBuilderFactory jobs, Step s1) {   return jobs.get("importJob")       .incrementer(new RunIdIncrementer())       .flow(s1) //1       .end()       .listener(csvJobListener()) //2       .build(); }   //步驟綁定 reader 與writer 一次性處理65000條記錄 @Bean public Step step1(StepBuilderFactory stepBuilderFactory, ItemReader<Person> reader, ItemWriter<Person> writer,     ItemProcessor<Person,Person> processor) {   return stepBuilderFactory       .get("step1")       .<Person, Person>chunk(65000) //1       .reader(reader) //2       .processor(processor) //3       .writer(writer) //4       .build(); } @Bean public CsvJobListener csvJobListener() {   return new CsvJobListener(); } @Bean public Validator<Person> csvBeanValidator() {   return new CsvBeanValidator<Person>(); }}

在配置文件中啟動(dòng)自動(dòng)執(zhí)行批處理

spring.batch.job.names = job1,job2 #啟動(dòng)時(shí)要執(zhí)行的Job，默認(rèn)執(zhí)行全部Job

spring.batch.job.enabled=true #是否自動(dòng)執(zhí)行定義的Job，默認(rèn)是

spring.batch.initializer.enabled=true #是否初始化Spring Batch的數(shù)據(jù)庫(kù)，默認(rèn)為是

spring.batch.schema=

spring.batch.table-prefix= #設(shè)置SpringBatch的數(shù)據(jù)庫(kù)表的前綴

項(xiàng)目匯總

從項(xiàng)目中我們可以看到總的步驟就是首先讀取我們需要實(shí)現(xiàn)的文件進(jìn)行解析，然后轉(zhuǎn)換成需要的實(shí)體類并且綁定到reader中，二實(shí)現(xiàn)我們需要的writer 并且?guī)偷降綌?shù)據(jù)庫(kù)上，三實(shí)現(xiàn)job監(jiān)聽器將其綁定到步驟中。最后開啟批處理自動(dòng)執(zhí)行入庫(kù)即可。這個(gè)簡(jiǎn)單步驟主要是配置中用到的理解流程自己也可以方便實(shí)現(xiàn) 批處理的流程。

總結(jié)

以上所述是小編給大家介紹的SpringBoot和SpringBatch 使用，希望對(duì)大家有所幫助，如果大家有任何疑問請(qǐng)給我留言，小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)VeVb武林網(wǎng)網(wǎng)站的支持！

注：相關(guān)教程知識(shí)閱讀請(qǐng)移步到JAVA教程頻道。

上一篇：詳解Java同步—線程鎖和條件對(duì)象

下一篇：詳解Mybatis中的select方法