모델 구조를 정했어도 "어떻게 학습시키는가"가 성능을 좌우한다. 오늘은 딥러닝 학습의 엔진인 손실 함수·옵티마이저·학습률과, 적은 데이터로 큰 성과를 내는 전이학습·파인튜닝, 그리고 시험에 등장하는 프레임워크(TensorFlow/PyTorch)와 SageMaker 통합을 다룬다. MLS-C01은 이 영역에서 "학습이 안 될 때/느릴 때/과적합일 때 무엇을 바꿀까"를 자주 묻는다.
모델 예측과 정답의 차이를 수치화한다. 문제 유형에 맞춰 선택해야 한다.
| 문제 유형 | 손실 함수 |
|---|---|
| 회귀 | MSE(평균제곱오차), MAE |
| 이진 분류 | 이진 교차 엔트로피(BCE) |
| 다중 분류 | 범주형 교차 엔트로피 |
| 불균형/탐지 | Focal Loss 등 변형 |
역전파로 구한 기울기를 이용해 가중치를 실제로 갱신하는 알고리즘.