- 오프라인 평가를 통과한 모델이 프로덕션에서도 이긴다는 보장은 없다. 배포란 위험을 조금씩만 노출하고, 측정하고, 필요하면 빠르게 되돌리는 절차다.
- 모든 전략의 공통 기반은 하나다 — 한 엔드포인트에 여러 ProductionVariant를 두고 트래픽 가중치를 조정하는 메커니즘.
- A/B는 비즈니스 KPI 비교, 블루/그린은 전면 전환 + 즉시 롤백, 카나리는 소량→점진 확대, 섀도는 사용자 노출 0의 검증이다.
- 전략의 차이는 결국 두 레버로 환원된다: 새 모델을 몇 %의 사용자가 보는가, 얼마나 빨리 되돌릴 수 있는가.
- 배포 가드레일은 All-at-once / Canary / Linear 트래픽 시프팅에 CloudWatch 알람 기반 자동 롤백과 베이크 타임을 결합한다.
새 모델이 실제 데이터 분포 변화, 지연 증가, 특정 세그먼트 실패로 무너지는 일은 흔하다. 그래서 배포는 "띄우거나 실패하거나"가 아니라 다중 Variant + 가중치라는 한 개의 레버 위에서 설계된다.
from sagemaker.session import production_variant