Airflow Task failed Alert Mail 폭탄 회피하기

이 게시물은 Airflow에서 발생하는 과도한 Task 실패 알림 메일 문제를 해결하는 방법을 다룹니다.

주요 내용

• Airflow Task 실패 시 발생하는 다수의 알림 메일로 인한 노이즈 문제 설명
• 동일 DAG 내 여러 Task 실패 시 알림 메일을 하나로 통합하는 방법 제안
• email_on_failure 속성 조작과 Alert Task 추가로 알림 메일 발송 제어
• 실패한 Task의 로그를 Alert 메일 본문에 포함하여 문제 파악 용이성 향상

구현 세부 사항

• DAG의 모든 Task email_on_failure를 False로 설정 후 Alert Task만 True로 설정
• Alert Task는 모든 Task 완료 후 실행되도록 trigger_rule을 all_done으로 설정
• Alert Task에서 실패한 Task 목록과 로그를 수집해 하나의 메일로 발송

결과 및 효과

• 복수의 실패 알림 메일을 하나로 통합하여 노이즈 감소
• 메일 내에서 로그 확인 가능하도록 하여 대응 효율성 향상