- SageMaker는 배포 방식이 하나가 아니다. 트래픽 패턴 · 페이로드 크기 · 지연 요구 · 비용 구조로 네 옵션 중 하나를 고른다.
- Real-time: 지속적 트래픽 + 밀리초 지연. 페이로드 6MB, 응답 60초. 트래픽이 없어도 상시 과금된다.
- Serverless: 간헐적·예측 불가 트래픽. 유휴 비용 0원이지만 콜드 스타트가 있고 페이로드 4MB, GPU 미지원.
- Asynchronous: 큰 페이로드(최대 1GB) + 긴 처리(최대 1시간). S3 큐잉 + SNS 알림, 0으로 스케일 가능.
- Batch Transform: 실시간 응답이 필요 없는 대량 오프라인 일괄 추론. 엔드포인트 없이 잡 실행 시간만 과금.
MLS-C01에서 자주 나오는 "어떤 추론 방식을 골라야 하는가" 유형은, 사실 이 네 줄의 선택 기준을 외우는 문제다.