기준: MLS-C01 시험 가이드오류 제보

MLS-C01· AssociateWeek 12 · Day 2읽기 약 16분

핵심 정리

도메인 3(모델링)은 시험 비중 36%로 최대다. 문제 정의 → 알고리즘 선택 → 학습·튜닝 → 평가·디버깅 전 과정을 묻는다.
알고리즘 선택의 첫 단서는 언제나 데이터 형태다. 표=XGBoost/Linear Learner, 이미지=CNN, 시퀀스=DeepAR/RNN, 텍스트=BlazingText.
출력층 활성화는 문제 유형의 직역이다. 이진=Sigmoid, 다중=Softmax, 회귀=활성화 없음(선형).
과적합(검증만 낮음)과 과소적합(둘 다 낮음)은 증상 → 진단 → 대응이 정해져 있다. 증상 문장만 보고 즉시 분기한다.
지표는 비즈니스 비용의 번역이다. FP가 비싸면 Precision, FN이 비싸면 Recall, 극단 불균형이면 PR-AUC.

Day 2 - 도메인 3 통합 복습: 모델링(알고리즘·딥러닝·튜닝·평가)

흐름 지도: 문제 정의에서 평가까지

시험 한 문제 걸러 한 문제가 도메인 3에서 나온다. 알고리즘 선택 → 딥러닝 → 튜닝 → 평가의 네 축을 한 흐름으로 엮어 둔다.

[비즈니스 문제]
   │
   ├─ 1) ML 문제 유형 매핑
   │     라벨 있음 → 지도학습 (분류/회귀)
   │     라벨 없음 → 비지도 (군집/이상탐지/차원축소)
   │     보상 신호  → 강화학습
   │
   ├─ 2) 알고리즘 선택
   │     정형 표 데이터 → XGBoost, Linear Learner
   │     이미지        → CNN (Image Classification)
   │     시퀀스/시계열  → RNN/LSTM, DeepAR
   │     텍스트        → BlazingText, Transformer
   │
   ├─ 3) 학습/튜닝
   │     하이퍼파라미터 = 학습 전 사람이 정함
   │     AMT(베이지안)로 탐색, 과적합 ↔ 과소적합 조절
   │
   └─ 4) 평가/디버깅
         분류=정밀도/재현율/F1/AUC, 회귀=RMSE/MAE/R²
         Debugger(과정) / Clarify(편향·설명)

알고리즘 선택: 데이터 형태로 갈린다

알고리즘 (빌트인)	문제 유형	입력 데이터 형태	대표 단서 단어
XGBoost	분류·회귀·랭킹	정형 표(CSV·libsvm)	"표 형태", "결측·혼합 타입"
Linear Learner	분류·회귀	정형 표(protobuf·CSV)	"선형", "고차원 희소"
KNN	분류·회귀	수치 벡터	"유사한 샘플로 판정"
Factorization Machines	분류·회귀(추천)	매우 희소한 벡터	"추천", "클릭률"
Image Classification	이미지 분류	이미지	"사진 한 장에 라벨 하나"
Object Detection	위치+클래스	이미지 + 바운딩 박스	"몇 개가 어디에"
Semantic Segmentation	픽셀 단위 분류	이미지 + 마스크	"픽셀 단위", "영역 경계"
DeepAR	시계열 예측	다수 시계열(JSON Lines)	"매장·SKU별 수요 예측"
BlazingText	텍스트 분류·임베딩	텍스트	"감성 분류", "Word2Vec"
Object2Vec	객체 쌍 임베딩	쌍(문장-문장, 유저-아이템)	"두 대상의 관계"
Seq2Seq	시퀀스→시퀀스	토큰 시퀀스 쌍	"번역", "요약"
LDA / NTM	토픽 모델링	문서-단어 빈도	"주제 N개로 묶기"
K-Means	군집화	수치 벡터	"세그먼트", "라벨 없음"
PCA	차원 축소	수치 벡터	"특성이 너무 많다"
Random Cut Forest	이상 탐지	수치·스트리밍	"비정상 급등", "이상치"
IP Insights	이상 관계 탐지	(엔터티, IPv4) 쌍	"비정상 로그인 IP"

"정형 표 데이터에서 일단 XGBoost"는 실무·시험 양쪽의 강한 기본값이다. 그래디언트 부스팅은 결측치·혼합 타입·비선형 상호작용을 잘 다루고 튜닝 여지가 크다. 반대로 데이터 형태가 이미지·시퀀스·텍스트로 명시되면 각각 CNN·RNN/DeepAR·BlazingText로 분기한다. 알고리즘 문제의 첫 단서는 거의 항상 "데이터가 어떤 모양인가(표/이미지/시퀀스/텍스트)"다.

딥러닝: 구조와 용도

구조	적합 데이터	핵심
CNN	이미지, 공간 패턴	합성곱으로 지역 특징 추출
RNN/LSTM	시퀀스, 시계열, 텍스트	순서·문맥 기억
Transformer	텍스트, 장거리 의존	어텐션, 병렬 처리
Autoencoder	차원축소, 이상탐지	재구성 오차

활성화 함수	용도
ReLU	은닉층 기본(기울기 소실 완화)
Sigmoid	이진 분류 출력
Softmax	다중 분류 출력
Tanh	중심 0, RNN 게이트

출력층 · 손실 함수 매칭

문제 유형	출력 뉴런	출력 활성화	손실 함수
이진 분류	1개	Sigmoid	이진 교차 엔트로피
다중 클래스(배타적)	클래스 수	Softmax	범주형 교차 엔트로피
다중 라벨(중복 허용)	라벨 수	라벨마다 Sigmoid	라벨별 이진 교차 엔트로피
회귀	1개	없음(선형)	MSE(이상치 민감) / MAE(강건)

출력층 활성화는 문제 유형의 직접 번역이다. 이진 분류는 Sigmoid(0~1 확률 하나), 다중 분류는 Softmax(합이 1인 확률 벡터), 회귀는 활성화 없음(선형)이다. 은닉층은 기울기 소실을 줄이는 ReLU가 사실상 기본값이다. "다중 클래스 출력에 Sigmoid"나 "회귀 출력에 Softmax" 같은 보기는 함정이다.

⚠️ 함정: "각 이미지에 여러 태그가 동시에 붙을 수 있다"는 다중 라벨 문제다. 배타적 다중 클래스가 아니므로 Softmax가 아니라 라벨마다 Sigmoid가 맞다.

하이퍼파라미터 튜닝

개념	내용
파라미터 vs 하이퍼파라미터	학습으로 얻음 vs 학습 전 사람이 정함
learning rate	너무 크면 발산, 너무 작으면 느림
epochs/early stopping	과적합 전 중단
regularization (L1/L2, dropout)	과적합 억제
AMT 탐색 전략	Bayesian(기본, 효율) > Random > Grid

탐색 전략	동작	강점·약점
Bayesian	이전 시도 결과로 다음 후보 추론	적은 잡으로 좋은 해(AMT 기본) / 순차성
Random	탐색 공간에서 무작위 샘플링	병렬화 쉬움 / 이력 미활용
Grid	지정 값의 모든 조합 전수	완전 탐색 / 차원 늘면 조합 폭발
Hyperband	나쁜 잡을 조기 중단·자원 재배분	반복 학습형에 효율적 / 에폭 평가 가능해야

목적 지표 방향: 오차(RMSE·log loss)는 Minimize, 성능(F1·AUC)은 Maximize
동시 실행 잡 수를 너무 크게 잡으면 베이지안이 참고할 이력이 줄어 이점이 사라진다

SageMaker Automatic Model Tuning의 기본 전략은 베이지안 최적화다. 그리드/랜덤 서치가 탐색 이력을 무시하고 무작정 시도하는 반면, 베이지안은 이전 시도 결과로 다음 후보를 똑똑하게 고른다. 그래서 같은 잡 예산으로 더 나은 하이퍼파라미터를 찾을 확률이 높다. "효율적/적은 시도로 최적"이라는 단서가 보이면 베이지안이다. 또 목적 지표 방향은 오차(RMSE)는 Minimize, 성능(F1/AUC)은 Maximize다.

과적합 · 과소적합: 증상 → 진단 → 대응

증상	진단	대응
학습 정확도 높고 검증 낮음	과적합	정규화↑, 데이터↑, 모델 단순화, early stopping
학습·검증 모두 낮음	과소적합	모델 복잡도↑, 피처↑, 학습 더
손실이 발산/진동	learning rate 과대	learning rate↓
학습 손실이 거의 안 줄어듦	learning rate 과소·용량 부족	learning rate↑, 층·트리 수↑
검증 손실만 다시 상승	과적합 시작점 통과	early stopping, 드롭아웃, 데이터 증강
폴드마다 점수가 크게 요동	데이터 부족·분할 불안정	교차검증, 층화 분할
학습은 좋은데 운영에서만 나쁨	데이터 누수·분포 차이	누수 특성 제거, 시간 기반 분할
소수 클래스만 계속 틀림	클래스 불균형	클래스 가중치, 리샘플링, 임계값 조정

정규화를 올리면 편향↑·분산↓ → 과적합 대응 / 모델 용량을 올리면 편향↓·분산↑ → 과소적합 대응

평가: 지표는 비즈니스 비용의 번역

            예측: 양성        예측: 음성
실제 양성 │  TP (맞힌 양성) │  FN (놓친 양성) │  ← 재현율의 분모
실제 음성 │  FP (헛경보)    │  TN (맞힌 음성) │
             ↑ 정밀도의 분모(TP+FP)
 
Precision = TP / (TP + FP)      "양성이라 한 것 중 진짜"
Recall    = TP / (TP + FN)      "진짜 양성 중 찾아낸 것"
F1        = 2 · P · R / (P + R) "정밀도·재현율의 조화 평균"
Accuracy  = (TP + TN) / 전체    "불균형이면 신뢰 금지"
FPR       = FP / (FP + TN)      ROC 곡선의 x축

지표	언제
Accuracy	균형 데이터만
Precision	FP 비용 클 때(스팸)
Recall	FN 비용 클 때(질병/사기)
F1	불균형, FP·FN 균형
ROC-AUC	임계값 무관 모델 비교
PR-AUC	극단 불균형
RMSE / MAE	큰 오차 민감 / 이상치 강건(회귀)

모델 선택과 임계값 결정은 분리된 두 단계다. AUC 같은 임계값-무관 지표로 "잘 순위 매기는 모델"을 먼저 고르고, 그 위에서 FP/FN 비용에 맞는 운영 임계값을 사후에 정한다. 비용 구조가 바뀌어도 재학습 없이 임계값만 조정하면 된다. 디버깅은 SageMaker Debugger(학습 과정의 텐서·기울기·과적합), 편향·설명은 Clarify(집단 공정성·SHAP)로 갈린다.

⚠️ 함정: 임계값을 낮추면 재현율↑·정밀도↓, 올리면 정밀도↑·재현율↓로 항상 맞교환이다. "둘 다 동시에 올린다"는 임계값 조정만으로는 불가능하다.

시험 단서 키워드 → 정답 번역표

데이터 형태 단서

지문 단서	고를 답
"행과 열로 된 고객 테이블", "결측·범주 혼합"	XGBoost
"고차원 희소 벡터", "선형 베이스라인"	Linear Learner
"사진마다 라벨 하나"	Image Classification(CNN)
"이미지 안에서 위치까지"	Object Detection
"수백 개 매장의 주간 판매량 예측"	DeepAR
"리뷰 텍스트 감성 분류", "단어 벡터"	BlazingText
"사용자-아이템 쌍의 관계 임베딩"	Object2Vec
"라벨 없이 문서를 주제로 묶기"	LDA / NTM
"라벨 없이 고객을 그룹으로"	K-Means
"라벨 없이 비정상 급등 탐지"	Random Cut Forest
"특성이 너무 많아 학습이 느리다"	PCA

증상·요구 단서

지문 단서	고를 답
"학습 정확도만 높고 검증이 낮다"	과적합 → 규제·드롭아웃·early stopping
"학습·검증 모두 낮다"	과소적합 → 복잡도·특성·학습량 증가
"손실이 NaN이 되거나 진동한다"	learning rate 과대 → 축소
"특성 수를 자동으로 줄이고 싶다"	L1 정규화
"상관된 특성이 많아 계수가 불안정"	L2 정규화
"적은 학습 잡으로 좋은 조합"	베이지안 최적화(AMT 기본)
"나쁜 학습 잡을 일찍 죽이고 싶다"	Hyperband 전략
"학습 중 기울기 소실·과적합 자동 탐지"	SageMaker Debugger
"집단 간 공정성·특성 기여도 설명"	SageMaker Clarify(SHAP)
"데이터가 적어 사전학습 모델을 쓴다"	전이 학습(fine-tuning)

지표 단서

지문 단서	고를 답
"정상 메일을 스팸으로 막으면 치명적"	Precision
"암·사기를 놓치면 치명적"	Recall
"양성이 0.3%뿐"	PR-AUC(+ Recall)
"임계값과 무관하게 모델끼리 비교"	ROC-AUC
"큰 오차에 더 큰 벌점"	RMSE
"이상치가 많아 오차 지표가 왜곡"	MAE
"정확도 99%인데 쓸모없다"	불균형 → F1/PR-AUC로 전환

헷갈리는 짝 대조표

비교	핵심 차이
지도 vs 비지도	라벨 있음 vs 없음
분류 vs 회귀	범주 출력 vs 연속값 출력
XGBoost vs Linear Learner	비선형 부스팅 트리·결측 자체 처리 vs 선형 모델·스케일링 필요, 고차원 희소에 강함
XGBoost vs 딥러닝	정형 표 데이터 vs 이미지/시퀀스/텍스트
BlazingText vs Object2Vec	단어·문서 수준 분류/임베딩 vs 임의 객체 쌍의 관계 임베딩
LDA vs NTM	확률적 생성 모델(비신경망) vs 신경망 기반 토픽 모델(GPU 활용 가능)
K-Means vs KNN	비지도 군집(라벨 없음) vs 지도 분류·회귀(이웃 라벨로 판정)
RCF vs 오토인코더 이상탐지	트리 기반 이상 점수·스트리밍 vs 재구성 오차·정상 데이터 학습 필요
CNN vs RNN vs Transformer	공간 지역 패턴 vs 순차 문맥 vs 어텐션으로 장거리 의존·병렬 학습
Sigmoid vs Softmax	독립 확률 하나(이진·다중 라벨) vs 합이 1인 벡터(배타적 다중 클래스)
과적합 vs 과소적합	검증만 낮음(분산 큼) vs 둘 다 낮음(편향 큼)
L1 vs L2	계수를 0으로(희소·특성 선택) vs 계수를 축소(상관 특성에 분산)
Bayesian vs Random vs Grid	이력 활용 효율 vs 무작위 병렬 vs 전수 탐색(조합 폭발)
Precision vs Recall	헛경보(FP) 억제 vs 놓침(FN) 억제
ROC-AUC vs PR-AUC	균형~중간 불균형 비교 vs 극단 불균형에서 더 정직
RMSE vs MAE	제곱이라 큰 오차에 민감 vs 절댓값이라 이상치에 강건
Debugger vs Clarify	학습 과정(텐서·기울기·수렴) vs 편향·설명(공정성·SHAP)

도메인 3의 대표 문항 형태

문항 형태	지문의 생김새	푸는 법
알고리즘 선택형	데이터 형태 + 예측 대상	데이터 형태 → 문제 유형 → 빌트인 순으로 좁힌다
활성화·손실 매칭형	신경망 출력층 설계	클래스 수와 배타성 여부부터 확인
과적합 진단형	학습/검증 점수 두 숫자	격차 있으면 과적합, 둘 다 낮으면 과소적합
지표 선택형	FP·FN 중 어느 비용이 큰지	비용 큰 쪽을 줄이는 지표를 고른다
튜닝 전략형	예산·잡 수·효율 언급	효율=베이지안, 조기 중단=Hyperband
디버깅·설명 요구형	"왜 이렇게 예측했나", "공정한가"	학습 과정=Debugger, 편향·기여도=Clarify

자가 점검 질문

라벨이 없고 고객을 자연 그룹으로 묶으려면? → K-Means(비지도 군집)
정형 표 데이터 분류의 강한 기본값은? → XGBoost
시계열 수요 예측 빌트인 알고리즘은? → DeepAR
다중 클래스 분류의 출력 활성화는? → Softmax
학습 정확도 99%, 검증 70%면? → 과적합 → 정규화·데이터 증강·조기 종료
AMT의 효율적 기본 탐색 전략은? → 베이지안 최적화
회귀 튜닝 목적 지표의 방향은? → Minimize(RMSE 등)
학습 중 기울기 소실을 자동 탐지하는 서비스는? → SageMaker Debugger
한 이미지에 태그가 여러 개 동시에 붙으면 출력층은? → 라벨마다 Sigmoid
특성 수를 자동으로 줄이는 규제는? → L1(Lasso)
양성 비율이 0.3%인 분류의 주요 지표는? → Recall + PR-AUC
이상치가 많은 회귀에서 RMSE 대신 볼 지표는? → MAE
임계값을 낮추면 정밀도·재현율은? → 재현율↑, 정밀도↓ (항상 맞교환)

다음 글에서는 마지막 도메인인 ML 구현 및 운영(도메인 4)과 네 도메인을 가로지르는 엔드투엔드 시나리오를 정리한다.

📖 용어

하이퍼파라미터 : 학습 전에 사람이 정하는 설정값. 학습으로 얻어지는 가중치(파라미터)와 구분된다.
과적합 / 과소적합 : 학습 데이터만 잘 맞히고 새 데이터엔 약한 상태 / 학습 데이터조차 못 맞히는 상태.
편향-분산 트레이드오프 : 모델을 단순하게 하면 편향이 커지고 복잡하게 하면 분산이 커지는 맞교환 관계.
정규화(regularization) : 가중치가 커지지 못하게 벌점을 줘 과적합을 막는 기법. L1은 0으로 밀고, L2는 전반적으로 줄인다.
조기 종료(early stopping) : 검증 손실이 더 나아지지 않으면 학습을 중단해 과적합과 낭비를 동시에 막는 것.
베이지안 최적화 : 지금까지의 시도 결과를 근거로 다음에 시험할 하이퍼파라미터를 추론해 고르는 탐색 방식.
혼동 행렬(confusion matrix) : 실제/예측을 2×2로 교차한 표. TP·FP·FN·TN에서 대부분의 분류 지표가 유도된다.
PR-AUC : 정밀도-재현율 곡선 아래 면적. 양성이 극히 드물 때 ROC-AUC보다 성능 차이를 정직하게 보여준다.
전이 학습(transfer learning) : 대규모 데이터로 미리 학습된 모델을 가져와 소량 데이터로 미세조정하는 방법.
SageMaker Debugger / Clarify : 학습 과정의 텐서·기울기 이상을 잡는 도구 / 데이터·모델의 편향과 예측 기여도를 설명하는 도구.

📝 연습 문제

선택지를 클릭하면 정답·해설이 펼쳐집니다.

문제 1

정형 표 형태의 고객 데이터(수치·범주 혼합, 일부 결측)로 이탈 여부를 예측하려 한다. 가장 먼저 시도할 SageMaker 빌트인 알고리즘으로 가장 적절한 것은?

문제 2

3개 클래스(저/중/고 위험)로 분류하는 신경망의 출력층을 설계한다. 올바른 활성화 함수는?

문제 3

모델의 학습 데이터 정확도는 98%인데 검증 데이터 정확도는 72%로 큰 격차가 있다. 가장 우선해야 할 대응은?

문제 4

SageMaker Automatic Model Tuning에서 적은 학습 잡 예산으로 효율적으로 좋은 하이퍼파라미터를 찾고 싶다. 권장되는 탐색 전략과 그 이유로 옳은 것은?

문제 5

사기 거래 탐지 모델에서 양성(사기)은 전체의 0.3%이며 사기를 놓치는 비용이 매우 크다. 가장 중점적으로 봐야 할 평가 지표 조합은?

참고 공식 자료