Day 5 - Week 10 Review: ML Implementation & Operations 1 — Deployment & Inference

📌 핵심 정리

• Week 10은 "학습된 모델을 어떻게 프로덕션에 내보내는가"를 다뤘다. Day 1~4는 따로 노는 주제가 아니라 하나의 결정 흐름이다.
• 흐름은 어떤 추론 방식 → 어떤 엔드포인트 구성 → 무엇을 최적화 → 어떻게 안전하게 배포의 4단계다.
• 추론 방식은 지연 요구·트래픽 패턴·페이로드 크기·유휴 비용 네 축으로 갈린다(Real-time / Serverless / Asynchronous / Batch).
• 최적화는 **모델을 바꾼다(양자화·프루닝·증류·Neo) / 하드웨어를 바꾼다(Inferentia·EI·인스턴스) / 구조를 바꾼다(파이프라인·배치)**로 나뉜다.
• 배포 전략은 사용자 노출 정도로 갈린다: 섀도(0%) → 카나리(소량→확대) → A/B(분할 비교) → 블루/그린(전량 전환).

Week 10 결정 흐름 한 장