Day 4 - Operations & Cost: Cost Optimization, Logging/Audit, Disaster Recovery

📌 핵심 정리

• 운영은 비용·감사·복원력 세 기둥이다. ML 워크플로는 데이터 파이프라인·학습 GPU·상시 엔드포인트에서 계속 돈이 나간다.
• 학습과 추론의 경제학은 정반대다. 학습은 **중단 감내(Spot)**로 깎고, 추론은 유휴 비용 제거로 깎는다.
• Managed Spot Training은 최대 90% 절감이지만 체크포인트 저장이 사실상 필수다.
• "왜 실패했나·얼마나 느린가"는 CloudWatch, "누가 언제 무엇을 했나"는 CloudTrail이다.
• DR은 데이터 → 모델 → 엔드포인트 세 자산을 각각 계획한다. 엔드포인트는 코드(IaC) + Model Registry로 재생성 가능해야 한다.

비용 최적화: 학습과 추론은 경제학이 다르다