기준: AIF-C01 시험 가이드오류 제보

AIF-C01· AssociateWeek 4 · Day 2읽기 약 14분

핵심 정리

Amazon SageMaker AI(옛 이름 Amazon SageMaker)는 데이터 준비부터 학습·배포·모니터링까지 ML 수명주기 전체를 돕는 완전관리형 ML 플랫폼이다.
인프라는 서비스가 관리하지만 데이터·알고리즘·배포 방식은 내가 정한다. Bedrock 은 FM 을 빌려 쓰는 것, SageMaker 는 모델을 직접 만들고 통제하는 것이다.
JumpStart 는 사전학습 모델과 솔루션 템플릿의 카탈로그다. 골라서 바로 배포하거나 내 데이터로 파인튜닝한다.
추론 방식은 넷이다. 즉시 응답은 실시간, 간헐적 트래픽은 서버리스, 큰 입력·긴 처리는 비동기, 쌓인 데이터 일괄 처리는 배치 변환이다.
비용은 학습 중인 인스턴스 시간과 떠 있는 엔드포인트 시간에서 나온다. 실시간 엔드포인트는 요청이 없어도 과금된다.

Day 2 - Amazon SageMaker: 직접 ML 모델을 학습하고 배포하는 플랫폼

SageMaker는 ML 수명주기 전체를 다룬다

어제 본 Bedrock 은 "남이 만든 거대 모델을 빌려 쓰는" 서비스였다. 오늘 볼 SageMaker 는 정반대 성격으로, 내가 직접 머신러닝 모델을 만들고, 학습시키고, 배포하는 플랫폼이다. AIF-C01 시험은 SageMaker 의 깊은 기술을 묻지 않는다. 대신 "언제 Bedrock 이고 언제 SageMaker 인가", 그리고 SageMaker 가 ML 수명주기 전체를 어떻게 도와주는지를 큰 그림으로 묻는다.

이름부터 정리한다. 현재 공식 이름은 Amazon SageMaker AI 이고 시험 가이드도 이 이름을 쓴다. 문제나 자료에 "Amazon SageMaker"라고만 적혀 있어도 같은 ML 플랫폼을 가리킨다고 보면 된다.

전통 ML 프로젝트는 데이터 준비 → 학습 → 평가 → 배포 → 모니터링이라는 긴 여정을 거친다. SageMaker 는 이 각 단계마다 도구를 제공한다.

ML 단계	SageMaker 도구(예)	하는 일
데이터 준비	Data Wrangler, Ground Truth	데이터 정제, 레이블링
개발 환경	SageMaker Studio	노트북 기반 통합 개발 환경
모델 학습	Training Jobs	관리형 인프라에서 학습 실행
자동화	Autopilot	자동 ML(AutoML)로 모델 자동 생성
배포	Endpoints	실시간·배치 추론 호스팅
운영	Model Monitor	배포 후 모델 품질·드리프트 감시

핵심은 SageMaker 가 "인프라는 관리해주되, 모델 자체는 내가 통제한다" 는 점이다. 학습에 쓸 알고리즘, 하이퍼파라미터, 데이터를 내가 정한다.

시험 가이드가 이름을 직접 드는 도구가 몇 개 더 있다. 이름과 한 줄 역할만 짝지어 두면 된다.

도구	한 줄 역할	떠올릴 단서
Feature Store	학습과 추론이 같은 특성을 쓰도록 특성을 저장·공유	"특성 재사용", "학습과 서빙의 일관성"
Clarify	데이터·모델의 편향 측정, 예측 이유 설명	"공정성", "설명가능성"
Model Cards	모델의 용도·한계·평가 결과를 문서로 기록	"투명성", "모델 문서화", "거버넌스"
Model Monitor	운영 중 데이터·품질의 변화(드리프트) 감시	"배포 후 성능 저하 감지"
Canvas	코드 없이 화면에서 모델을 만드는 노코드 도구	"ML 전문가가 아닌 분석가"

💡 관련 이론: SageMaker 는 "관리형(managed)"이지 "서버리스 추상화"가 아니다. Bedrock 은 모델 내부를 전혀 몰라도 API 만 호출하면 되지만, SageMaker 는 ML 작업 흐름(데이터, 학습, 평가)을 내가 직접 설계한다. 대신 GPU 클러스터 프로비저닝, 분산 학습 설정, 스케일링 같은 "지겨운 인프라 작업"을 SageMaker 가 대신해준다. 이 차이가 시험에서 두 서비스를 가르는 기준이 된다.

비유하면 Bedrock 은 완성된 요리를 주문하는 식당이고, SageMaker 는 화구와 조리 도구가 다 갖춰진 공유 주방이다. 주방은 설비를 관리해 주지만 재료(데이터)와 레시피(알고리즘)는 내가 가져가고, 그만큼 내 입맛대로 만들 수 있다.

SageMaker JumpStart: 시작점 제공

처음부터 모델을 만드는 건 부담스럽다. SageMaker JumpStart 는 사전학습된 모델과 솔루션 템플릿을 카탈로그로 제공해 빠르게 시작하게 해준다.

JumpStart 로 할 수 있는 것:

공개된 사전학습 모델(이미지 분류, 텍스트 생성 등)을 몇 번의 클릭으로 배포
파운데이션 모델을 가져와 내 데이터로 파인튜닝
일반적 ML 솔루션의 예제 템플릿 활용

JumpStart 는 "Bedrock 과 SageMaker 의 중간 다리"처럼 느껴질 수 있다. FM 을 다루지만, SageMaker 환경에서 내가 직접 호스팅하고 파인튜닝하며 더 깊이 통제한다는 점이 다르다.

구분	Bedrock 에서 FM 쓰기	JumpStart 로 FM 쓰기
모델이 도는 곳	AWS 가 운영하는 공용 서비스	내 계정의 SageMaker 엔드포인트(내가 고른 인스턴스)
과금	주로 토큰 사용량	엔드포인트가 떠 있는 인스턴스 시간
운영 부담	거의 없음	인스턴스 종류·수·스케일링을 내가 결정
고르는 이유	빠른 시작, 관리 최소	공개(오픈소스) 모델 활용, 인프라·튜닝의 깊은 통제

모델마다 파인튜닝·평가 가능 여부가 다르고, 서드파티 모델은 라이선스 조건을 사용자가 확인해야 한다.
시험 가이드는 FM 을 쓰는 방법을 "관리형 API 서비스"와 "직접 호스팅하는 API"로 나눈다. 앞쪽이 Bedrock, 뒤쪽이 JumpStart·SageMaker 엔드포인트다.

가상의 사례로, 한 제조 기업은 불량품 이미지 분류 모델이 필요했다. 처음부터 신경망을 설계하는 대신 JumpStart 의 사전학습 이미지 분류 모델을 가져와 자사 불량 이미지 수천 장으로 파인튜닝했다. 며칠이면 충분했고, 자체 데이터·모델을 회사 내부에 두고 통제할 수 있었다. "FM 을 쓰되 내 통제 아래 두고 싶다"는 요구에 JumpStart 가 답이 된 사례다.

학습과 배포: Training Jobs와 Endpoints

SageMaker 의 두 기둥은 학습(Training) 과 추론(Inference) 이다.

Training Jobs: 학습용 인스턴스를 자동으로 띄워 모델을 학습하고, 끝나면 인스턴스를 정리한다. 학습 중에만 비용이 든다.
Endpoints(추론): 학습된 모델을 호스팅해 예측 요청을 받는다. 추론 방식은 작업 성격에 따라 고른다.

추론 방식	특징	적합한 경우
실시간(Real-time)	항상 떠 있는 엔드포인트, 낮은 지연	즉시 응답 필요(추천, 사기탐지)
서버리스(Serverless)	트래픽 없을 때 비용 0	간헐적·불규칙 트래픽
배치(Batch Transform)	대량 데이터를 한 번에 처리	야간 일괄 예측
비동기(Asynchronous)	큰 입력·긴 처리 시간 허용	대용량 파일 처리

실시간 엔드포인트는 "항상 켜져 있으므로" 트래픽이 없어도 비용이 든다. 그래서 트래픽이 들쭉날쭉하면 서버리스 추론이, 매일 정해진 시각에 쌓인 데이터를 한꺼번에 처리하면 배치 변환이 비용 효율적이다. 시험에서 "간헐적 트래픽", "야간 대량 처리" 같은 단서가 나오면 어떤 추론 방식인지 묻는 것이다.

네 방식은 최신 시험 가이드가 "추론의 종류"로 직접 드는 항목이다(배치, 실시간, 비동기, 서버리스). 숫자를 외울 필요는 없지만 한도의 크기 순서를 보면 왜 그렇게 나뉘는지가 보인다.

방식	응답 받는 방법	요청 하나의 크기·시간 한도	요청이 없을 때
실시간	호출하면 바로 응답	페이로드 25MB, 처리 60초 수준	인스턴스가 계속 떠 있어 과금
서버리스	호출하면 바로 응답	페이로드 4MB, 처리 60초	유휴 시간 과금 없음
비동기	요청을 큐에 넣고 결과는 나중에 받음	페이로드 1GB, 처리 최대 1시간	인스턴스를 0 까지 줄일 수 있음
배치 변환	작업을 돌리고 결과 파일을 받음	GB 단위 데이터셋, 며칠짜리 처리도 가능	상시 엔드포인트 자체가 없음

두 번만 물으면 하나가 남는다.

① 지금 바로 답이 필요한가?
   ├─ 예 ─► ② 트래픽이 꾸준한가?
   │          ├─ 꾸준하다 / 지연이 아주 중요 ──► 실시간
   │          └─ 가끔, 불규칙 ────────────────► 서버리스
   └─ 아니오 ─► ② 데이터가 이미 다 쌓여 있는가?
              ├─ 쌓여 있다(파일 묶음) ────────► 배치 변환
              └─ 요청이 하나씩 오는데 크고 오래 걸림 ─► 비동기

서버리스와 비동기를 가르는 단서는 크기와 시간이다. "간헐적"만 있으면 서버리스, "대용량 파일"·"처리에 수십 분"이 붙으면 비동기다.
서버리스는 쉬다가 첫 요청을 받을 때 준비 시간(콜드 스타트)이 생길 수 있다. 지연에 아주 민감하면 실시간이 맞다.
비동기와 배치 변환을 가르는 단서는 요청이 오는 모양이다. 사용자가 하나씩 올리면 비동기, 창고에 쌓인 것을 한꺼번에 돌리면 배치다.

그래서 언제 Bedrock이고 언제 SageMaker인가

이 구분이 오늘의 핵심이다.

기준	Amazon Bedrock	Amazon SageMaker
성격	FM 을 API 로 빌려 씀	직접 ML 모델 구축·운영
인프라	완전 추상화(서버리스)	관리형이나 내가 설계
통제 수준	낮음(프롬프트·설정만)	높음(데이터·알고리즘·배포)
필요 전문성	낮음	상대적으로 높음(데이터 과학)
대표 작업	챗봇, 요약, 콘텐츠 생성	커스텀 예측 모델, 특화 모델 학습

판단 기준은 단순하다. "이미 있는 거대 모델로 충분한가(Bedrock)" vs "내 데이터로 내 모델을 직접 만들고 통제해야 하는가(SageMaker)". 빠르게 생성형 AI 기능을 붙이고 싶으면 Bedrock, 도메인 특화 예측 모델을 세밀하게 통제하며 운영해야 하면 SageMaker 다.

💡 관련 이론: 둘은 경쟁이 아니라 보완 관계다. 많은 기업이 생성형 기능은 Bedrock 으로, 매출 예측·이상 탐지 같은 전통 ML 은 SageMaker 로 함께 운영한다. 시험에서 "여러 FM 을 관리 없이"면 Bedrock, "자체 데이터로 학습한 커스텀 모델을 배포·모니터링"이면 SageMaker 로 가르면 대체로 맞다.

흔한 오해.

"SageMaker 는 전통 ML 전용이라 생성형 AI 와 무관하다" → 아니다. JumpStart 로 파운데이션 모델을 배포하고 파인튜닝한다.
"Bedrock 에서는 모델을 전혀 바꿀 수 없다" → 아니다. Bedrock 에도 파인튜닝·증류가 있다. 차이는 얼마나 깊이 통제하느냐다. 학습 코드, 알고리즘, 인스턴스까지 직접 정해야 하면 SageMaker 다.
"관리형이니 비용도 알아서 최소화된다" → 아니다. 켜 둔 엔드포인트와 노트북은 쓰지 않아도 과금된다.
"표 형식 데이터의 수치 예측도 요즘은 FM 이 낫다" → 시험은 반대로 묻는다. 규제·설명가능성·운영 제약이 걸린 예측은 전통 ML 모델이 적합할 수 있고, 그 무대가 SageMaker 다.

비용이 드는 지점

항목	언제 과금되나	줄이는 법
학습(Training Jobs)	학습 인스턴스가 도는 동안	작업이 끝나면 자동 정리된다. 필요 이상 큰 인스턴스를 고르지 않는다
실시간 엔드포인트	떠 있는 시간 전체(요청 0건이어도)	간헐적이면 서버리스, 일괄이면 배치로 바꾼다
서버리스 추론	요청을 처리한 만큼	지연 요구가 엄격하지 않은 간헐 트래픽에 쓴다
비동기 추론	처리 중인 인스턴스 시간	요청이 없을 때 0 으로 축소되게 설정한다
배치 변환	작업이 도는 동안	상시 엔드포인트가 필요 없다
노트북·Studio	켜져 있는 동안	쓰지 않을 때 중지한다
저장	데이터·모델 아티팩트를 둔 S3 용량	불필요한 산출물을 정리한다

시나리오 → 정답 판별표

지문 단서	정답	탈락하는 보기와 이유
"자체 데이터로 커스텀 예측 모델을 학습·배포·모니터링"	SageMaker	Bedrock — FM 을 빌려 쓰는 데 초점
"사전학습 모델을 카탈로그에서 골라 빠르게 배포·파인튜닝"	JumpStart	Model Monitor — 배포 후 감시 도구
"배포한 모델의 성능이 시간이 지나며 떨어지는지 감지"	Model Monitor	Clarify — 편향·설명 도구
"대출 모델이 특정 집단에 불리한지 확인하고 이유를 설명"	Clarify	Model Monitor — 드리프트 감시
"모델의 용도와 한계를 감사용 문서로 남긴다"	Model Cards	JumpStart — 모델 카탈로그
"매일 밤 쌓인 대량 데이터를 한 번에 예측"	배치 변환	실시간 엔드포인트 — 유휴 시간에도 과금
"트래픽이 불규칙하고 없을 때는 비용을 내고 싶지 않다"	서버리스 추론	배치 변환 — 즉시 응답이 아니다
"수백 MB 영상 파일을 하나씩 올려 수십 분 뒤 결과를 받는다"	비동기 추론	서버리스 — 크기·시간 한도를 넘는다
"코드를 못 쓰는 분석가가 예측 모델을 만들고 싶다"	Canvas	Training Jobs 직접 구성 — 전문성이 필요

내일부터는 모델을 만들 필요 없이 API 한 번으로 이미지·문서·텍스트·음성을 처리하는 관리형 AI 서비스들(Rekognition, Textract, Comprehend, Transcribe, Polly, Translate)을 본다.

📖 용어

ML 수명주기 : 데이터 준비, 학습, 평가, 배포, 모니터링으로 이어지는 모델의 한 바퀴.
Training Job : 학습용 인스턴스를 띄워 모델을 학습하고 끝나면 정리하는 SageMaker 의 작업 단위.
엔드포인트 : 학습된 모델을 올려 두고 예측 요청을 받는 주소.
JumpStart : 사전학습 모델과 솔루션 템플릿을 골라 배포·파인튜닝하는 카탈로그.
AutoML : 알고리즘 선택과 튜닝을 자동으로 해 주는 방식. SageMaker 에서는 Autopilot 이 맡는다.
드리프트 : 운영 중 들어오는 데이터나 모델 품질이 학습 당시와 달라지는 현상.
배치 변환 : 상시 엔드포인트 없이 쌓인 데이터를 한꺼번에 예측하는 방식.
콜드 스타트 : 쉬고 있던 서버리스 자원이 첫 요청을 받아 준비되는 동안 생기는 지연.
페이로드 : 요청 한 건에 실어 보내는 데이터.
MLOps : 모델의 실험·배포·모니터링·재학습을 반복 가능한 절차로 운영하는 방법.

📝 연습 문제

선택지를 클릭하면 정답·해설이 펼쳐집니다.

문제 1

한 팀이 자사가 수집한 고유 데이터로 커스텀 예측 모델을 직접 학습하고, 배포 후 모델 품질을 지속 모니터링하려 한다. 가장 적합한 서비스는?

문제 2

다음 중 Bedrock과 SageMaker의 차이를 가장 정확히 설명한 것은?

문제 3

사전학습된 모델과 솔루션 템플릿을 카탈로그에서 골라 빠르게 배포하거나 자사 데이터로 파인튜닝하고 싶다. SageMaker의 어떤 기능인가?

문제 4

매일 밤 정해진 시각에 그날 쌓인 대량의 데이터를 한꺼번에 예측 처리하려 한다. 가장 비용 효율적인 추론 방식은?

문제 5

트래픽이 불규칙하고 간헐적이어서, 요청이 없을 때는 비용을 0에 가깝게 만들고 싶은 추론 시나리오에 적합한 방식은?

참고 공식 자료