빅데이터(BigData)/Airflow

dag에 있는 특정 task만 실행하기

leebaro 2020. 10. 7.
728x90

airflow를 이용해서 data pipeline을 관리하고 있다면 신규로 추가 되는 작업에 대해서 테스트가 필요하다.

 

이 때 dag를 기준으로 테스트를 하면 이전에 처리되는 task들을 모두 실행해야하기 때문에 시간과 리소스에 낭비가 발생한다.

 

이럴 때는 특정 task만 실행하는 방법을 사용하면된다.

 

#airflow dag명 task명 execution_date
airflow dag task 2020-01-11

 

참고

airflow.apache.org/docs/stable/tutorial.html

728x90