Day 3 - 회귀 평가지표: RMSE·MAE·MAPE·R²와 잔차 분석

분류가 "맞았나 틀렸나"를 따진다면, 회귀는 "얼마나 빗나갔나"를 잰다. 예측값과 실제값의 차이인 **오차(residual)**가 모든 회귀 지표의 재료다. 오늘은 RMSE·MAE·MAPE·R²의 계산과 성격, 그리고 단일 숫자로는 잡히지 않는 모델의 결함을 드러내는 잔차 분석을 다룬다. 핵심은 "어떤 지표가 큰 오차에 민감한가"와 "지표를 어떤 단위/스케일로 해석하는가"이다.

오차에서 출발하기

각 샘플 i에 대해 오차는 다음과 같다.

residual_i = y_i (실제값) - ŷ_i (예측값)

모든 회귀 지표는 이 오차들을 모아 하나의 점수로 압축한다. 차이는 오차를 어떻게 다루느냐 — 제곱하는가, 절댓값을 취하는가, 비율로 보는가 — 에 있다.

MAE: 평균 절대 오차

MAE = (1/n) Σ |y_i - ŷ_i|

오차의 절댓값 평균이다. 성격:

• 단위가 직관적: 타깃과 같은 단위(예: 가격을 예측하면 MAE도 "달러")
• 이상치에 강건(robust): 오차를 제곱하지 않으므로 큰 오차 한두 개가 점수를 폭증시키지 않음
• 모든 오차를 동등하게 취급

이상치가 존재하지만 그것에 과민 반응하고 싶지 않을 때 MAE가 좋다.

RMSE: 평균 제곱근 오차

RMSE = √[ (1/n) Σ (y_i - ŷ_i)² ]

오차를 제곱해 평균한 뒤 제곱근을 취한다. 성격: