Day 3 - 과적합과 과소적합: 진단과 정규화·데이터 증강

편향과 분산, 일반화 오차

일반화 오차는 편향(bias)과 분산(variance)으로 분해된다. 시험은 코드보다 이 두 축의 판별을 묻는다.

과소적합:  train error ↑  valid error ↑   (둘 다 나쁘고 격차 작음)
이상적:    train error ↓  valid error ↓   (둘 다 좋음)
과적합:    train error ↓  valid error ↑   (격차가 크다)

편향-분산 트레이드오프는 모델 복잡도와 일반화 사이의 근본 긴장이다. 복잡도를 올리면 편향은 줄지만 분산이 커지고, 낮추면 그 반대다. 목표는 (편향 + 분산) 합이 최소가 되는 지점을 찾는 것이다. 정규화는 분산을 줄여 과적합을 잡고, 모델 용량·특징 추가는 편향을 줄여 과소적합을 잡는다.

학습 곡선 읽기 — 진단

[과적합 신호]
 loss │╲                    ← 검증 손실이 어느 시점 이후 다시 올라감
      │ ╲___  valid          정확도: train 99% / valid 72% (격차 큼)
      │  ╲   ╱‾‾‾            에폭이 갈수록 train loss만 계속 하락
      │   ╲_╱
      │    ╲_______ train
      └──────────────── epoch
              ↑ 여기가 조기 종료 지점
 
[과소적합 신호]
 loss │‾‾‾‾‾‾‾‾‾‾‾ valid     정확도: train 65% / valid 64% (둘 다 낮고 비슷)
      │‾‾‾‾‾‾‾‾‾‾‾ train     더 학습해도 손실이 높은 채 평탄(plateau)
      └──────────────── epoch
 
[이상적]
 loss │╲___
      │ ╲___╲______ valid    두 곡선이 함께 내려가 낮은 값에서 근접
      │  ╲_________ train
      └──────────────── epoch

진단 → 처방 매핑

⚠️ 함정: 과적합에 "에폭을 두 배로 늘린다 / 층을 더 쌓는다"로 대응하는 보기는 오답이다. 둘 다 분산을 더 키운다. 마찬가지로 "검증 세트를 학습에 합친다"는 일반화 측정 자체를 없애는 오답이다.

정규화 1: L1, L2, ElasticNet

손실 함수에 가중치 크기 페널티를 더해 분산을 줄인다.

# 예: Linear Learner의 L1/L2 강도
hyperparameters = {
    "l1": 0.01,                  # L1 강도(희소성)
    "wd": 0.001,                 # weight decay = L2
}

판별 신호:

• "특징이 너무 많다, 불필요한 것을 자동으로 버리고 희소한 모델을 원한다" → L1
• "모든 특징은 유지하되 가중치를 줄여 과적합을 잡고 싶다" → L2

정규화 2: 드롭아웃, 조기 종료

딥러닝에서 주로 쓰는 두 기법이다.

• 드롭아웃(Dropout): 스텝마다 뉴런을 무작위로 비활성화(예: rate 0.5). 특정 뉴런 의존을 막고 암묵적 앙상블 효과를 낸다. 추론 시에는 비활성화하고 가중치를 보정한다.
• 조기 종료(Early Stopping): 검증 손실이 더 나아지지 않으면 학습을 멈춘다. 과적합 지점에 도달하기 전에 끊는다.

# 예: 신경망 하이퍼파라미터
hyperparameters = {
    "dropout": 0.5,
    "early_stopping_patience": 5,   # 5에폭 개선 없으면 중단
}

드롭아웃은 매 스텝 서로 다른 하위 신경망을 학습시키고 추론 시 그것들을 평균 내는 셈이라 암묵적 앙상블로 작동한다. 조기 종료는 잡음 암기가 시작되기 직전에 학습을 멈춰 분산을 줄인다. 둘 다 "실효 모델을 더 단순하게 만든다"는 같은 목표를 서로 다른 방식으로 달성한다.

정규화 기법 선택표

⚠️ 함정: 드롭아웃과 배치 정규화는 "특징 선택" 기법이 아니다. "불필요한 특징을 모델이 스스로 0으로 만든다"는 지문의 정답은 항상 L1이다.

데이터 증강(Data Augmentation)

데이터를 더 모으기 어려울 때, 기존 데이터를 변형해 학습 분포를 넓힌다. 과적합 완화에 강력하다.

판별 신호:

• "데이터가 부족한데 과적합 / 추가 수집 비용이 매우 크다" → 데이터 증강
• "소수 클래스가 너무 드물어 모델이 다수 클래스만 학습" → SMOTE·오버샘플링(또는 클래스 가중치)

데이터 분할과 누수 방지

일반화를 정직하게 측정하려면 분할이 먼저 맞아야 한다.

• train / validation / test 3분할. 검증셋으로 하이퍼파라미터를 고르고, 테스트셋은 최종에 딱 한 번 채점한다.
• k-겹 교차검증(k-fold): 데이터가 적을 때 분할 운에 좌우되지 않도록 성능을 평균낸다.
• 누수(leakage): 미래 정보·타깃에서 파생된 특징·테스트 정보가 학습에 섞이면 검증 점수가 비현실적으로 높게 나온다.

누수 유형 표

[올바른 순서]
원시 데이터
   │
 ① 분할 (train / validation / test)   ← 여기서부터 모든 fit은 학습셋만
   │
 ② 결측 대치 · 인코딩 · 스케일링  (train에서 fit → 전체에 transform)
   │
 ③ 증강 / SMOTE  (train에만)
   │
 ④ 학습 → 검증셋으로 하이퍼파라미터 선택 (여기서 정규화 강도 조정)
   │
 ⑤ 테스트셋 1회 채점 (최종 보고용)

일반화를 무엇으로 측정하나 — 지표 해석

격차를 보려면 먼저 "무슨 숫자의 격차인가"가 맞아야 한다. 지표를 잘못 고르면 과적합·과소적합 진단 자체가 틀어진다.

불균형 데이터에서 "학습 99% / 검증 98%"라 격차가 작다고 일반화가 잘 됐다고 보면 안 된다. 두 숫자 모두 다수 클래스에 끌려간 값일 수 있다. 혼동 행렬과 소수 클래스 Recall을 함께 봐야 한다.

진단·처방 의사결정 트리

모델 성능이 기대에 못 미친다
├─ 학습 성능 자체가 낮은가?
│    ├─ 예 → 과소적합(편향↑)
│    │        ├─ 모델 복잡도↑ (층·트리 깊이·특징 추가)
│    │        ├─ 정규화 강도↓ (L1/L2/드롭아웃 완화)
│    │        └─ 더 오래 학습 (에폭↑)
│    └─ 아니오 ↓
├─ 학습은 좋은데 검증과 격차가 큰가?
│    ├─ 예 → 과적합(분산↑)
│    │        ├─ 데이터를 더 모을 수 있나?
│    │        │    ├─ 예   → 데이터 추가
│    │        │    └─ 아니오 → 데이터 증강(이미지: 회전·크롭 / 텍스트: 역번역)
│    │        ├─ 특징이 너무 많고 일부는 무관한가? → L1
│    │        ├─ 모든 특징을 남기며 눌러야 하나?   → L2
│    │        ├─ 신경망인가?                     → 드롭아웃
│    │        └─ 검증 손실이 다시 오르는가?        → 조기 종료
│    └─ 아니오 ↓
└─ 검증 점수가 비현실적으로 높은가?
     └─ 예 → 데이터 누수 의심 (전처리 fit 범위·타깃 파생 특징·중복 확인)

지문 단서 → 정답 매핑

다음 글에서는 학습 안정성 자체 — 배치 크기, 학습률 스케줄, 그래디언트 소실·폭발과 SageMaker Debugger/Profiler를 다룬다.

📖 용어

• 일반화(generalization) : 학습에 쓰지 않은 새 데이터에서도 성능이 유지되는 성질. 모델의 진짜 목표다.
• 편향(bias) / 분산(variance) : 모델이 너무 단순해서 생기는 오차 / 학습 데이터가 조금만 달라져도 결과가 크게 흔들리는 정도. 편향이 크면 과소적합, 분산이 크면 과적합이다.
• 학습 곡선(learning curve) : 에폭이나 데이터 양에 따라 학습·검증 손실이 어떻게 변하는지 그린 그래프. 과적합·과소적합 진단의 1차 도구.
• 정규화(regularization) : 손실에 페널티를 더해 모델이 지나치게 복잡해지지 않게 억제하는 기법 묶음.
• 희소성(sparsity) : 가중치 대부분이 0이 되어 실제로 쓰이는 특징이 적어지는 상태. L1이 유도한다. wd(weight decay)는 반대로 L2의 다른 이름이다.
• 드롭아웃(dropout) / 조기 종료(early stopping) : 학습 중 뉴런 일부를 무작위로 꺼 특정 뉴런 의존을 막는 기법(추론 시엔 끈다) / 검증 손실이 더 좋아지지 않을 때 학습을 멈춰 과적합 시작점을 넘지 않게 하는 기법.
• 데이터 증강(data augmentation) : 기존 데이터를 변형해 새 학습 샘플을 만드는 것. 이미지 회전, 텍스트 역번역 등.
• SMOTE : 소수 클래스 샘플들 사이를 보간해 합성 샘플을 만드는 오버샘플링 기법. 클래스 불균형 완화용.
• 데이터 누수(data leakage) : 학습 시점에 알 수 없어야 할 정보가 모델에 섞여 들어가 성능이 부풀려지는 현상. 검증 점수만 비현실적으로 좋아진다.
• k-겹 교차검증(k-fold CV) : 데이터를 k조각으로 나눠 번갈아 검증하며 성능을 평균내는 방법. 데이터가 적어 분할 운에 좌우될 때 쓴다.