- 추론 옵션은 알고리즘이 아니라 요청 패턴이 정한다 — 즉시성·트래픽·페이로드·처리시간 4축.
- 실시간: 동기 즉시 응답(ms~초), 꾸준한 트래픽. 최소 1대가 항상 켜져 always-on 비용이 든다.
- 서버리스: 동기 응답이지만 트래픽이 0이면 비용도 0. 대신 콜드 스타트 지연을 감수해야 한다.
- 비동기: 큐 기반. 큰 페이로드(최대 1GB)·긴 처리(최대 60분)를 받고 0까지 스케일 다운된다.
- 배치 변환: 엔드포인트 없이 전체 데이터셋을 일괄 처리. 즉시성은 없지만 대량 처리 비용이 가장 싸다.
모델은 사용자 요청에 응답하거나 쌓인 데이터를 일괄 처리하는 형태로 **배포(deployment)**되어야 비로소 비즈니스 가치를 만든다. SageMaker는 추론(inference) 워크로드의 성격에 따라 4가지 방식을 제공하고, MLA-C01은 "이 시나리오에 어떤 방식인가"를 끊임없이 묻는다.