권남

사용자 도구

사이트 도구

추적:
springframework:batch

차이

문서의 선택한 두 판 사이의 차이를 보여줍니다.

차이 보기로 링크

양쪽 이전 판 이전 판
다음 판 		이전 판
springframework:batch [2019/06/19 10:05]
kwon37xi 		springframework:batch [2023/12/08 13:43] (현재)
kwon37xi [Java Config Spring Bean 설정시 리턴 타입을 인터페이스가 아닌 구현 클래스로 지정할 것.]
줄 1: 줄 1:
 ====== Spring Framework Batch ====== ====== Spring Framework Batch ======
   * [[springframework:springboot:batch|SpringBoot와 SpringBatch]]   * [[springframework:springboot:batch|SpringBoot와 SpringBatch]]
-  * [[http://www.javaworld.com/article/2458888/spring-framework/open-source-java-projects-spring-batch.html|Open source Java projects: Spring Batch]] : SpringBatch 2.x의 기본 적인 Tasklet, chunk, reader/writer/processor, retry 등의 개념 들을 예제와 함께 설명하고 있음. 
-  * [[https://www.javacodegeeks.com/2015/03/spring-batch-tutorial.html|Spring Batch Tutorial – The ULTIMATE Guide]] 
-  * [[http://www.mkyong.com/tutorials/spring-batch-tutorial/|Spring Batch Tutorial]] : 매우 상세한 튜토리얼 
-  * [[https://www.tutorialspoint.com/spring_batch/spring_batch_environment.htm|Spring Batch Environment]] 
-  * Spring Batch 2.2 JavaConfig 
-    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-1-a-comparison-to-xml/|Spring Batch 2.2 - JavaConfig Part 1: A comparison to XML]] 
-    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-2-jobparameters-executioncontext-and-stepscope/|Spring Batch 2.2 - JavaConfig Part 2: JobParameters, ExecutionContext and StepScope]] 
-    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-3-profiles-and-environments/|Spring Batch 2.2 - JavaConfig Part 3: Profiles and environments]] 
-    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-4-job-inheritance/|Spring Batch 2.2 - JavaConfig Part 4: Job inheritance]] 
-    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-5-modular-configurations/|Spring Batch 2.2 - JavaConfig Part 5: Modular configurations]] 
-    * [[https://blog.codecentric.de/en/2013/07/spring-batch-2-2-javaconfig-part-6-partitioning-and-multi-threaded-step/|Spring Batch 2.2 - JavaConfig Part 6: Partitioning and Multi-threaded Step]] 
-  * Spring Batch Transaction 
-    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-1-the-basics/|Transactions in Spring Batch - Part 1: The Basics]] 
-    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-2-restart-cursor-based-reading-and-listeners/|Transactions in Spring Batch - Part 2: Restart, cursor based reading and listeners]] 
-    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-3-skip-and-retry/|Transactions in Spring Batch - Part 3: Skip and retry]] 
-  * [[http://spring.io/blog/2015/02/23/springone2gx-replay-spring-batch-performance-tuning|SpringOne2GX Replay: Spring Batch Performance Tuning]] 
-  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-tasklet-example/|Spring Batch Tasklet Example]] 
-  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-job-example/|Spring Batch Job Example]] 
-  * [[http://examples.javacodegeeks.com/enterprise-java/spring-batch-scheduler-example/|Spring Batch Scheduler Example]] 
-  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-jobrepository-example/|Spring Batch JobRepository Example]] 
-  * [[http://examples.javacodegeeks.com/core-java/spring-batch-partitioning-example/|Spring Batch Partitioning Example]] 
-  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-admin-tutorial/|Spring Batch Admin Tutorial]] 
-  * [[http://www.petrikainulainen.net/programming/spring-framework/spring-batch-tutorial-introduction/|petrikainulainen Spring Batch Tutorial - introduction]] 
-  * [[http://www.baeldung.com/spring-batch-partitioner|Spring Batch using Partitioner]] 
-  * [[https://www.javacodegeeks.com/2018/05/java-batch-tutorial.html|Java Batch Tutorial | Java Code Geeks - 2018]] 
-  * [[https://examples.javacodegeeks.com/enterprise-java/java-batch-tutorial/|Java Batch Tutorial | Examples Java Code Geeks - 2018]] 
-  * [[http://opennote46.tistory.com/76|Spring Batch - 작업실행]] 
-  * [[https://grokonez.com/spring-framework/spring-batch/use-spring-batch-late-binding-step-scope-job-scope|How to use Spring Batch Late Binding - Step Scope & Job Scope - grokonez]] 
-  * [[https://grokonez.com/spring-framework-tutorial/spring-batch|Spring Batch - grokonez]] 
-  * [[https://www.mkyong.com/spring-batch/spring-batch-example-mysql-database-to-xml/|Spring Batch Example – MySQL Database To XML – Mkyong.com]] 
-  * [[https://examples.javacodegeeks.com/enterprise-java/spring/batch/spring-batch-exception-handling-example/|Spring Batch Exception Handling Example | Examples Java Code Geeks - 2018]] 
-  * [[http://www.egovframe.go.kr/wiki/doku.php?id=egovframework:rte2:brte:batch_core:parallel_process|egovframework:rte2:brte:batch_core:parallel_process [eGovFrame]]] 
- 
  
 ===== @EnableBatchProcessing ===== ===== @EnableBatchProcessing =====
줄 62: 줄 29:
   * ''dataSource'' 자체를 null로 지정하면 ''MapJobRepository''로 DB없이 작동하게 만들어진다.   * ''dataSource'' 자체를 null로 지정하면 ''MapJobRepository''로 DB없이 작동하게 만들어진다.
   * SpringBoot 에서 ''DefaultBatchConfigurer'' 사용시 TransactionManager 오작동 문제가 발생한다. [[springframework:springboot:batch|SpringBoot와 SpringBatch]] 참고   * SpringBoot 에서 ''DefaultBatchConfigurer'' 사용시 TransactionManager 오작동 문제가 발생한다. [[springframework:springboot:batch|SpringBoot와 SpringBatch]] 참고
 +
 ===== JobRepository ===== ===== JobRepository =====
   * ''org.springframework.batch.core.repository.support.JobRepositoryFactoryBean''로 ''SimpleJobRepository'' 생성   * ''org.springframework.batch.core.repository.support.JobRepositoryFactoryBean''로 ''SimpleJobRepository'' 생성
줄 69: 줄 37:
     * ''text'' -> ''longtext''     * ''text'' -> ''longtext''
     * ''datetime'' -> ''datetime(6)''로 변경해서 실행할 것.     * ''datetime'' -> ''datetime(6)''로 변경해서 실행할 것.
 +    * 테이블 생성시 명백하게 대문자로 테이블명을 생성해줘야한다.
 +    * 만약 [[database:mysql|MySQL]]을 사용하면서 소문자로 테이블을 생성해버렸다면 다음과 같은 설정을 추가해줘야한다.
 +      * see [[database:mysql:config|MySQL 설정]] 대소문자 테이블명 부분의 ''lower_case_table_names=1''
  
 ===== Migration ===== ===== Migration =====
줄 76: 줄 47:
  
 ===== Transaction 설정 ===== ===== Transaction 설정 =====
-===== 트랜잭션 매니저를 지정하지 않으면 =====+==== Connection Pool 설정 ==== 
 +  * batch job 이 job 단위로 단독 프로세스로 실행되는 경우 
 +  * batch job 은 실제로 Parallel 로 실행되는게 아니면 DB 커넥션이 1~2개 정도 밖에 필요하지 않다. 
 +  * parallel, async 실행에 대비해서 maximum connection 갯수는 충분한 숫자로 하되, 
 +  * minimum 갯수를 5개 혹은 그 이하로 지정해야 Batch job 이 실행 될 때마다 커넥션을 과도하게 맺느라 들어가는 실행시간 지연 문제를 해소하고, 불필요하게 DB connection 을 점유하여 DB 자체의 한계에 봉착하는 문제를 피할 수 있다. 
 + 
 +==== 트랜잭션 매니저를 지정하지 않으면 ====
 TransactionManager를 지정하지 않으면 다음과 같은 오류가 발생한다. TransactionManager를 지정하지 않으면 다음과 같은 오류가 발생한다.
  
줄 110: 줄 87:
 </code> </code>
  
 +==== Chunk 사이즈가 크고 Transaction 이 긴데, 외부에 write 대상건을 알려주는 경우 DB Lock 발생할 수 있음 ====
 +  * batch 에 트랜잭션 매니저를 설정하고, writer 부분에서 데이터를 insert/update 할 때마다 그 사실을 MQ 등으로 외부에 알려주면,
 +  * 외부에서 그 데이터를 사용할 수 있게 하고자 했다면,
 +  * 절대로 Step 에 트랜잭션 매니저를 지정하지 말고, ''ResourcelessTransactionManager'' 를 사용하거나 CHUNK 를 작게 가져가야 한다.
 +  * ''ResourcelessTransactionManager'' 로 Batch Job 을 지정하면, Batch job 의 chunk 가 아닌, 각각의 ''Service''/''Repository'' 등의 메소드에 설정된 ''@Transactional''을 기준으로 트랜잭션이 작동하게 된다.
 +  * 안그러면 CHUNK size 만큼의 처리가 모두 끝날때까지 DB lock 이 잡혀있어서 외부에서 이벤트를 받아서 처리하는 측에서 lock 획득에 실패해서 오류가 발생하게 된다.
 +  * 이게 아니더라도, **트랜잭션은 항상 짧게 가져가야 한다.**
 ===== JobInstanceAlreadyCompleteException: A job instance already exists and is complete for parameters 오류 발생 ===== ===== JobInstanceAlreadyCompleteException: A job instance already exists and is complete for parameters 오류 발생 =====
   * Job은 Job + Job Parameter 로 Job Key 가 결정되는데 동일한 Job Key 일 경우 실행이 안된다.   * Job은 Job + Job Parameter 로 Job Key 가 결정되는데 동일한 Job Key 일 경우 실행이 안된다.
줄 124: 줄 108:
  
 ===== RunIdIncrementer 사용시 기존 파라미터가 현재 파라미터 지정한 것을 덮어씀  ===== ===== RunIdIncrementer 사용시 기존 파라미터가 현재 파라미터 지정한 것을 덮어씀  =====
-  * ''RunIdIncrementer''를 사용하게 되면 항상 기존 실행됐던 Job의 파라미터가 현재 파라미터를 덮어쓰는 현상이 발생한다.+  * ''RunIdIncrementer''를 사용하게 되면 기존 job이 실패했을 경우 기존 실패 Job의 파라미터가 현재 파라미터를 덮어쓰는 현상이 발생한다.
   * 이유는 ''RunIdIncrementer''가 동일 파라미터로 Job을 실행하려고 사용하는 것이라서 인 듯 하다.   * 이유는 ''RunIdIncrementer''가 동일 파라미터로 Job을 실행하려고 사용하는 것이라서 인 듯 하다.
-  * 따라서 ''RunIdIncrementer''를 사용하면서도 파라미터를 유지하려면 다른 방식을 써야 한다.+  * 따라서 ''RunIdIncrementer''를 사용하면서도 파라미터 값을 유지하려면 다른 방식을 써야 한다. 
 +  * [[https://jojoldu.tistory.com/487|Spring Batch의 유니크 Job Parameter 활용하기]]
   * [[https://github.com/codecentric/spring-boot-starter-batch-web/issues/38|optional/omitted jobParameters are reloaded from previous jobs · Issue #38 · codecentric/spring-boot-starter-batch-web]]   * [[https://github.com/codecentric/spring-boot-starter-batch-web/issues/38|optional/omitted jobParameters are reloaded from previous jobs · Issue #38 · codecentric/spring-boot-starter-batch-web]]
  
줄 155: 줄 140:
  
 > o.s.b.c.l.AbstractListenerFactoryBean    : org.springframework.batch.item.ItemReader is an interface.  The implementing class will not be queried for annotation based listener configurations.  If using @StepScope on a @Bean method, be sure to return the implementing class so listner annotations can be used. > o.s.b.c.l.AbstractListenerFactoryBean    : org.springframework.batch.item.ItemReader is an interface.  The implementing class will not be queried for annotation based listener configurations.  If using @StepScope on a @Bean method, be sure to return the implementing class so listner annotations can be used.
 +> org.springframework.batch.item.ItemReader는 인터페이스입니다. 구현 클래스는 어노테이션 기반 listener 구성에 대해 실행되지 않습니다. @Bean 메소드에서 @StepScope를 사용하는 경우 listner 어노테이션을 사용할 수 있도록 구현 클래스를 리턴해야합니다.
 +
 +
  
  
줄 170: 줄 158:
   * [[https://dzone.com/articles/spring-batch-with-quartz|Run a Spring Batch Job With Quartz]]   * [[https://dzone.com/articles/spring-batch-with-quartz|Run a Spring Batch Job With Quartz]]
   * [[https://www.youtube.com/watch?v=CYTj5YT7CZU&feature=youtu.be|Spring Batch (Michael Minella) - YouTube]]   * [[https://www.youtube.com/watch?v=CYTj5YT7CZU&feature=youtu.be|Spring Batch (Michael Minella) - YouTube]]
 +  * [[https://www.baeldung.com/spring-batch-skip-logic|Configuring Skip Logic in Spring Batch | Baeldung]]
 +  * [[http://www.javaworld.com/article/2458888/spring-framework/open-source-java-projects-spring-batch.html|Open source Java projects: Spring Batch]] : SpringBatch 2.x의 기본 적인 Tasklet, chunk, reader/writer/processor, retry 등의 개념 들을 예제와 함께 설명하고 있음.
 +  * [[https://www.javacodegeeks.com/2015/03/spring-batch-tutorial.html|Spring Batch Tutorial – The ULTIMATE Guide]]
 +  * [[http://www.mkyong.com/tutorials/spring-batch-tutorial/|Spring Batch Tutorial]] : 매우 상세한 튜토리얼
 +  * [[https://www.tutorialspoint.com/spring_batch/spring_batch_environment.htm|Spring Batch Environment]]
 +  * Spring Batch 2.2 JavaConfig
 +    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-1-a-comparison-to-xml/|Spring Batch 2.2 - JavaConfig Part 1: A comparison to XML]]
 +    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-2-jobparameters-executioncontext-and-stepscope/|Spring Batch 2.2 - JavaConfig Part 2: JobParameters, ExecutionContext and StepScope]]
 +    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-3-profiles-and-environments/|Spring Batch 2.2 - JavaConfig Part 3: Profiles and environments]]
 +    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-4-job-inheritance/|Spring Batch 2.2 - JavaConfig Part 4: Job inheritance]]
 +    * [[https://blog.codecentric.de/en/2013/06/spring-batch-2-2-javaconfig-part-5-modular-configurations/|Spring Batch 2.2 - JavaConfig Part 5: Modular configurations]]
 +    * [[https://blog.codecentric.de/en/2013/07/spring-batch-2-2-javaconfig-part-6-partitioning-and-multi-threaded-step/|Spring Batch 2.2 - JavaConfig Part 6: Partitioning and Multi-threaded Step]]
 +  * Spring Batch Transaction
 +    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-1-the-basics/|Transactions in Spring Batch - Part 1: The Basics]]
 +    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-2-restart-cursor-based-reading-and-listeners/|Transactions in Spring Batch - Part 2: Restart, cursor based reading and listeners]]
 +    * [[https://blog.codecentric.de/en/2012/03/transactions-in-spring-batch-part-3-skip-and-retry/|Transactions in Spring Batch - Part 3: Skip and retry]]
 +  * [[http://spring.io/blog/2015/02/23/springone2gx-replay-spring-batch-performance-tuning|SpringOne2GX Replay: Spring Batch Performance Tuning]]
 +  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-tasklet-example/|Spring Batch Tasklet Example]]
 +  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-job-example/|Spring Batch Job Example]]
 +  * [[http://examples.javacodegeeks.com/enterprise-java/spring-batch-scheduler-example/|Spring Batch Scheduler Example]]
 +  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-jobrepository-example/|Spring Batch JobRepository Example]]
 +  * [[http://examples.javacodegeeks.com/core-java/spring-batch-partitioning-example/|Spring Batch Partitioning Example]]
 +  * [[http://examples.javacodegeeks.com/enterprise-java/spring/spring-batch-admin-tutorial/|Spring Batch Admin Tutorial]]
 +  * [[http://www.petrikainulainen.net/programming/spring-framework/spring-batch-tutorial-introduction/|petrikainulainen Spring Batch Tutorial - introduction]]
 +  * [[http://www.baeldung.com/spring-batch-partitioner|Spring Batch using Partitioner]]
 +  * [[https://www.javacodegeeks.com/2018/05/java-batch-tutorial.html|Java Batch Tutorial | Java Code Geeks - 2018]]
 +  * [[https://examples.javacodegeeks.com/enterprise-java/java-batch-tutorial/|Java Batch Tutorial | Examples Java Code Geeks - 2018]]
 +  * [[http://opennote46.tistory.com/76|Spring Batch - 작업실행]]
 +  * [[https://grokonez.com/spring-framework/spring-batch/use-spring-batch-late-binding-step-scope-job-scope|How to use Spring Batch Late Binding - Step Scope & Job Scope - grokonez]]
 +  * [[https://grokonez.com/spring-framework-tutorial/spring-batch|Spring Batch - grokonez]]
 +  * [[https://www.mkyong.com/spring-batch/spring-batch-example-mysql-database-to-xml/|Spring Batch Example – MySQL Database To XML – Mkyong.com]]
 +  * [[https://examples.javacodegeeks.com/enterprise-java/spring/batch/spring-batch-exception-handling-example/|Spring Batch Exception Handling Example | Examples Java Code Geeks - 2018]]
 +  * [[http://www.egovframe.go.kr/wiki/doku.php?id=egovframework:rte2:brte:batch_core:parallel_process|egovframework:rte2:brte:batch_core:parallel_process [eGovFrame]]]
 +  * [[https://www.baeldung.com/spring-batch-conditional-flow|Conditional Flow in Spring Batch | Baeldung]]
springframework/batch.1560906336.txt.gz · 마지막으로 수정됨: 2019/06/19 10:05 저자 kwon37xi

문서 도구

별도로 명시하지 않을 경우, 이 위키의 내용은 다음 라이선스에 따라 사용할 수 있습니다: CC Attribution-Share Alike 4.0 International
CC Attribution-Share Alike 4.0 International Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki