지표가 좋아도 모델은 학습 중에 망가지거나(기울기 소실, 과적합), 특정 집단에 불공정하거나, 설명 불가능한 블랙박스일 수 있다. AWS는 이 세 문제를 두 서비스로 다룬다. SageMaker Debugger는 학습 과정의 내부 상태를 실시간 포착해 디버깅하고, SageMaker Clarify는 데이터/모델의 편향을 측정하고 SHAP으로 예측을 설명한다. 오늘은 둘의 역할 분담과 오류 분석 흐름을 정리한다. 핵심 구분은 "Debugger=학습 과정의 건강, Clarify=편향과 설명가능성"이다.
Debugger는 학습 중 텐서(가중치, 기울기, 손실, 활성값 등)를 주기적으로 캡처해 S3에 저장하고, **규칙(Rule)**으로 이상을 자동 탐지한다. 학습이 잘못된 방향으로 갈 때 조기에 알아챈다.
from sagemaker.debugger import Rule, rule_configs, DebuggerHookConfig