Day 1 - 파이프라인 모니터링: CloudWatch 지표·로그·알람

데이터 파이프라인은 "돌아가게 만드는 것"보다 "계속 돌아가는지 확인하는 것"이 더 어렵습니다. 오늘은 CloudWatch를 중심으로 Glue, EMR, Kinesis 같은 데이터 서비스를 어떻게 관측(observability)하고 지연을 추적하는지 다룹니다.

관측성의 세 기둥과 CloudWatch

운영 가시성은 보통 지표(metrics), 로그(logs), 추적(traces) 세 기둥으로 설명합니다. AWS에서는 이 셋이 각각 CloudWatch Metrics, CloudWatch Logs, AWS X-Ray로 매핑됩니다. 데이터 파이프라인 모니터링의 출발점은 거의 항상 CloudWatch입니다. 대부분의 AWS 서비스가 운영 지표를 별도 설정 없이 CloudWatch 네임스페이스로 자동 게시하기 때문입니다.

• CloudWatch Metrics: 시계열 수치(잡 실행 수, 처리 레코드 수, 지연 등). 네임스페이스/차원으로 구분.
• CloudWatch Logs: 텍스트 로그 스트림(잡 stdout, 드라이버/익스큐터 로그, Lambda 출력).
• CloudWatch Alarms: 지표가 임계값을 넘으면 SNS로 알림하거나 자동 액션 실행.

💡 관련 이론: CloudWatch 지표에는 표준 해상도(1분)와 고해상도(1초)가 있습니다. 빠르게 변하는 스트리밍 지연을 잡으려면 고해상도 커스텀 지표를, 일반 배치 잡은 표준 해상도를 사용합니다.