새 모델이 오프라인 평가에서 더 좋아 보여도, 실제 트래픽에서 더 나으리란 보장은 없다. 데이터 분포가 바뀌었거나, 지연이 늘었거나, 특정 세그먼트에서만 성능이 나빠질 수 있다. 그래서 모델 배포는 "전부 한 번에 교체"가 아니라, 위험을 통제하며 점진적으로 옮기고 문제 시 빠르게 되돌리는 전략의 문제다. 오늘은 SageMaker가 지원하는 배포 전략 — A/B 테스트, 블루/그린, 카나리, 섀도, 롤백 — 을 정리한다.
이틀 전 본 ProductionVariant의 트래픽 가중치가 모든 배포 전략의 토대다. 하나의 엔드포인트에 여러 Variant를 두고 가중치로 트래픽을 나눈다.
from sagemaker.session import production_variant