Day 3 - 회귀 평가지표: RMSE·MAE·MAPE·R²와 잔차 분석

📌 핵심 정리

• 회귀 지표는 모두 **잔차 y − ŷ**를 어떻게 압축하느냐의 차이다. 제곱하는가, 절댓값인가, 비율인가.
• MAE는 이상치에 강건하고 RMSE는 큰 오차에 민감하다. 둘 다 타깃과 같은 단위이며 항상 RMSE ≥ MAE다.
• MAPE는 스케일 무관 상대 오차지만 실제값이 0 근처면 분모가 폭발해 쓸 수 없다.
• R²는 "타깃 평균으로 예측하기" 대비 설명력이다. 음수면 평균보다도 못하다는 강한 경고다.
• 지표가 좋아도 **잔차 플롯에 패턴(U자·깔때기·치우침)**이 있으면 모델 가정이 깨진 것이다.

오차에서 출발하기

분류가 "맞았나 틀렸나"를 따진다면, 회귀는 "얼마나 빗나갔나"를 잰다. 각 샘플 i에 대해 오차는 다음과 같다.

residual_i = y_i (실제값) - ŷ_i (예측값)

모든 회귀 지표는 이 오차들을 모아 하나의 점수로 압축한다. 차이는 오차를 어떻게 다루느냐 — 제곱하는가, 절댓값을 취하는가, 비율로 보는가 — 에 있다.

MAE와 RMSE

MAE  = (1/n) Σ |y_i - ŷ_i|
MSE  = (1/n) Σ (y_i - ŷ_i)²
RMSE = √[ (1/n) Σ (y_i - ŷ_i)² ]