모델을 잘 학습시켰다 해도 그 자체로는 가치가 없다. 사용자 요청에 응답하거나, 쌓인 데이터를 일괄 처리하거나, 다른 시스템이 호출할 수 있는 형태로 **배포(deployment)**되어야 비로소 비즈니스 가치를 만든다. SageMaker는 추론(inference) 워크로드의 성격에 따라 4가지 배포 방식을 제공하고, MLA-C01 시험은 "이 시나리오에 어떤 방식을 골라야 하는가"를 끊임없이 묻는다.
핵심은 알고리즘이 아니라 요청 패턴이다. 요청이 실시간으로 오는가 일괄로 오는가, 트래픽이 꾸준한가 띄엄띄엄한가, 응답이 즉시 필요한가 분 단위 지연을 견디는가, 페이로드가 작은가 거대한가. 이 4개 축으로 끊으면 거의 모든 시험 문제가 풀린다. 오늘은 4가지 옵션을 한눈에 비교하고 선택 기준을 정리한다.
SageMaker가 제공하는 추론 방식은 다음과 같다.