기준: AIF-C01 시험 가이드오류 제보
이번 주는 책임 있는 AI 의 원칙(Day 1), 그것을 구현하는 AWS 도구(Day 2), 기술적 방어(Day 3), 조직적 관리(Day 4)를 차례로 봤다. 시험은 "이 시나리오에 맞는 원칙/도구/방어는?"으로 엮어 묻기 때문에 개념 간 연결을 잡는 것이 핵심이다.
[Day1] 원칙 (무엇을 지켜야 하나)
공정성·편향 / 투명성·설명가능성 / 견고성·프라이버시 / 안전성·HITL
│ (이 원칙들을 AWS로 어떻게?)
▼
[Day2] 책임 있는 AI 도구 (원칙 → AWS 구현)
Clarify(편향+설명) / Model Monitor(운영감시)
Guardrails(안전+PII) / AI Service Cards(투명성)
│ (신뢰의 토대엔 기술 방어가 필요)
▼
[Day3] 보안 (기술적 방어)
책임 공유 모델 / IAM 최소권한 / 암호화(저장·전송)
PII 보호(Macie·Comprehend) / PrivateLink
│ (방어 위에 조직적 관리·증명)
▼
[Day4] 거버넌스·규정 준수 (관리·추적·증명)
데이터(출처·품질) / 모델(버전·문서·승인)
감사(CloudTrail·CloudWatch·Config) / 생성형 AI 법·윤리
이 흐름 하나면 Week 5 의 80% 가 복습된다. "원칙 → 도구 → 보안 → 거버넌스"로 점점 구체화·조직화된다고 기억하면 된다.
| 용어 | 한 줄 정의 |
|---|---|
| 공정성 | 특정 집단을 차별하지 않는 결과 |
| 편향 | 데이터·모델의 편견(불공정의 원인) |
| 투명성 | 시스템의 용도·한계를 공개 |
| 설명가능성 | 특정 출력이 왜 나왔는지 설명 |
| 견고성 | 이상 입력·공격에도 안정적 |
| 프라이버시 | 개인정보(PII) 보호 |
| Human-in-the-Loop | 고위험 결정에 사람 검토 |
| SageMaker Clarify | 편향 측정 + 설명가능성 |
| Model Monitor | 배포 후 드리프트·품질 감시 |
| Bedrock Guardrails | 유해 콘텐츠·PII·주제 제한 |
| AI Service Cards | AWS AI 서비스 투명성 문서 |
| 책임 공유 모델 | AWS=인프라, 고객=데이터·접근 |
| IAM 최소 권한 | 꼭 필요한 만큼만 권한 부여 |
| KMS | 암호화 키 관리(저장 중 암호화) |
| Macie | S3 PII 자동 탐지 |
| Comprehend(PII) | 텍스트 PII 탐지·마스킹 |
| PrivateLink | 인터넷 안 거치는 프라이빗 연결 |
| 데이터 출처(lineage) | 데이터의 출처·변환 추적 |
| CloudTrail | API 호출 감사 로그 |
이 용어들은 "원칙 → 그 원칙을 지키는 AWS 수단"의 짝으로 외우면 오래 간다. 공정성/편향→Clarify, 안전·프라이버시→Guardrails, 투명성→AI Service Cards, 접근→IAM, 데이터 보호→KMS·Macie·Comprehend, 경로→PrivateLink, 증명→CloudTrail.
이번 주의 서비스는 이름이 많지만 질문 네 개로 좁혀진다. 표를 외우는 대신 이 순서를 몸에 익힌다.
① 무엇에 대한 질문인가?
├─ AI 의 "결과"가 옳고 공정한가 ───────► 책임 있는 AI (②로)
├─ 데이터·모델을 "누가 건드릴 수 있나" ─► 보안 (③으로)
└─ 한 일을 "기록하고 증명"할 수 있나 ──► 거버넌스 (④로)
② 책임 있는 AI — 어떤 모델, 어느 시점인가?
├─ 전통 ML, 편향 측정·예측 설명 ───────► SageMaker Clarify
├─ 전통 ML, 배포 후 변화 감시 ─────────► SageMaker Model Monitor
├─ 생성형 AI, 입력·출력을 걸러 냄 ─────► Bedrock Guardrails
├─ AWS 서비스의 용도·한계 확인 ────────► AI Service Cards
└─ 결과가 중대해 사람이 확인해야 함 ───► Human-in-the-Loop
③ 보안 — 무엇을 지키나?
├─ 누가 할 수 있는지 ──────────────────► IAM (최소 권한, 역할)
├─ 저장된 내용 ────────────────────────► KMS 암호화
├─ 오가는 내용 ────────────────────────► TLS
├─ 오가는 경로 ────────────────────────► PrivateLink
└─ 개인정보 ──► S3 에 있으면 Macie / 텍스트면 Comprehend / 대화면 Guardrails
④ 거버넌스 — 무엇을 증명하나?
├─ 누가 무엇을 했나 ───────────────────► CloudTrail
├─ 지금 잘 돌아가나 ───────────────────► CloudWatch
├─ 설정이 규칙에 맞나 ─────────────────► AWS Config
├─ 어떤 모델 버전이 승인됐나 ──────────► SageMaker Model Registry
└─ 이 모델·데이터의 내력은 ────────────► Model Cards / 데이터 리니지
⚠️ 함정: 특히 헷갈리는 것들. ① "편향 = 나쁜 의도"가 아니다(대개 무의도적, 데이터로 유입). ② "데이터가 많으면 편향이 사라진다"는 틀림(치우치면 그대로 학습). ③ "Model Monitor 가 모델을 자동 수정한다"는 틀림(감지·경보만). ④ "책임 공유 모델에서 데이터 접근 제어는 AWS 책임"은 틀림(고객 책임). ⑤ "투명성과 설명가능성은 같다"는 틀림.
위 다섯 쌍 외에, 나흘 동안 따로 배운 것 중 서로 섞이기 쉬운 것을 "하는 일의 동사"로 한 번 더 가른다.
| 서비스·개념 | 동사 | 하지 않는 일 |
|---|---|---|
| SageMaker Clarify | 편향을 측정하고 예측을 설명한다 | 편향을 자동으로 없애지 않는다 |
| SageMaker Model Monitor | 드리프트를 감지해 알린다 | 재학습·재배포를 하지 않는다 |
| Bedrock Guardrails | 입출력을 차단·마스킹한다 | 학습 데이터의 편향을 측정하지 않는다 |
| AI Service Cards | AWS 가 서비스의 한계를 공개한다 | 우리 모델을 문서화하지 않는다 |
| SageMaker Model Cards | 우리가 우리 모델을 문서화한다 | 버전 승인 상태를 관리하지 않는다 |
| SageMaker Model Registry | 모델 버전과 승인 상태를 관리한다 | 편향이나 성능을 측정하지 않는다 |
| Amazon Macie | S3 의 민감 데이터를 찾아 보고한다 | 찾은 데이터를 가리거나 지우지 않는다 |
| Amazon Comprehend | 텍스트의 PII 를 찾아 가린다 | S3 버킷 전체를 스스로 훑지 않는다 |
| AWS KMS | 키를 관리해 저장 데이터를 암호화한다 | 네트워크 경로를 바꾸지 않는다 |
| AWS PrivateLink | 트래픽을 비공개 경로로 보낸다 | 내용을 암호화하는 수단이 아니다 |
| AWS CloudTrail | API 활동을 기록한다 | 성능 지표를 재지 않는다 |
| Amazon CloudWatch | 지표를 재고 경보를 보낸다 | 누가 호출했는지의 감사 기록이 아니다 |
| AWS Config | 구성 상태를 평가한다 | 호출한 사람을 추적하는 주된 수단이 아니다 |
| AWS Artifact | AWS 의 준수 보고서를 내려받게 한다 | 우리 회사의 준수를 증명해 주지 않는다 |
| 필요 | AWS 서비스/기능 |
|---|---|
| 데이터·모델 편향 측정 + 결정 설명 | SageMaker Clarify |
| 배포된 모델 품질·드리프트 감시 | SageMaker Model Monitor |
| 생성형 AI 유해 콘텐츠·PII·주제 제한 | Bedrock Guardrails |
| AI 서비스 용도·한계 투명성 문서 | AI Service Cards |
| 접근 권한 최소화 관리 | IAM(최소 권한) |
| 저장 데이터 암호화 키 관리 | AWS KMS |
| S3 내 PII 자동 탐지 | Amazon Macie |
| 텍스트 PII 탐지·마스킹 | Amazon Comprehend |
| 인터넷 안 거치는 프라이빗 연결 | AWS PrivateLink |
| API 호출 감사 로그 | AWS CloudTrail |
| 모델 버전·승인 관리 | SageMaker Model Registry |
🔍 더 깊이: 시험 시나리오는 "문제 상황 → 적합한 수단"으로 묻는다. "편향 점검"→Clarify, "배포 후 성능 하락 감지"→Model Monitor, "출력에서 욕설·개인정보 차단"→Guardrails, "누가 모델을 배포했는지 감사"→CloudTrail, "데이터가 인터넷을 안 거치게"→PrivateLink. 키워드와 서비스의 짝을 외우면 변형 문제도 풀린다.
같은 프로젝트를 시간 순으로 놓고, 단계마다 세 관점이 각각 무엇을 묻는지 본다. 가로로 읽으면 "이 단계에서 빠뜨린 것"이 보인다.
| 단계 | 책임 있는 AI | 보안 | 거버넌스 |
|---|---|---|---|
| 데이터 수집 | 데이터가 다양한 집단을 고르게 담았나 | 민감 데이터가 어디 있나(Macie), 누가 접근하나(IAM) | 출처·라이선스가 기록됐나(리니지·카탈로그) |
| 데이터 준비 | 레이블이 치우치지 않았나, 학습 전 편향 측정(Clarify) | PII 를 가렸나(Comprehend), 저장 데이터 암호화(KMS) | 분류 등급을 매겼나 |
| 학습·평가 | 집단별 성능 차이 측정, 예측 설명(Clarify) | 학습 작업이 최소 권한 역할을 쓰나 | 평가 결과를 문서화했나(Model Cards) |
| 배포 | 고위험 결정에 사람 검토를 넣었나 | 엔드포인트 호출 권한, 비공개 경로(PrivateLink) | 승인된 버전만 배포했나(Model Registry) |
| 운영 | 드리프트 감시(Model Monitor), 입출력 필터(Guardrails) | 전송 암호화, 프롬프트 공격 차단 | 누가 무엇을 했나(CloudTrail), 구성 준수(Config) |
| 사후 | 사용자에게 결정 이유를 설명할 수 있나 | 사고 시 접근 경로를 좁힐 수 있나 | 감사인에게 증거를 낼 수 있나, 보존 기간이 지나면 폐기하나 |
연습 문제와 겹치지 않는 상황이다. 결정적 단서 열을 가리고 먼저 답해 본다.
| 상황 | 결정적 단서 | 정답 | 탈락하는 보기와 이유 |
|---|---|---|---|
| 채용 모델을 학습시키기 전에 지원자 데이터의 성별 비율부터 수치로 보고 싶다 | "학습시키기 전에" | SageMaker Clarify(학습 전 편향) | Model Monitor: 배포된 모델이 있어야 한다 |
| 신용 모델이 출시 1년 뒤 예전만큼 맞지 않는 것 같다 | "출시 뒤", "예전만큼" | SageMaker Model Monitor | Clarify 단독: 한 번 측정은 하지만 지속 감시가 주 역할이 아니다 |
| 사내 챗봇이 인사 평가 내용을 묻는 질문에는 답하지 않아야 한다 | "특정 주제는 답하지 않음" | Guardrails 거부 주제 | 프롬프트 지시만: 강제가 아니다 |
| 여러 팀의 S3 버킷 수백 개 중 어디에 주민번호가 들어 있는지 모른다 | "S3", "어디에" | Amazon Macie | Comprehend: 텍스트를 하나씩 넘겨야 한다 |
| 의료 기관이 Bedrock 호출을 공용 인터넷으로 내보낼 수 없다 | "공용 인터넷 불가" | AWS PrivateLink | KMS: 저장 데이터 암호화 |
| 데이터 과학자가 운영 모델을 실수로 덮어썼다. 누구였는지 알아야 한다 | "누구였는지" | AWS CloudTrail | CloudWatch: 지표·경보 |
| 규제 기관이 "이 모델의 용도와 평가 결과를 문서로 내라"고 한다 | "우리 모델", "문서" | SageMaker Model Cards | AI Service Cards: AWS 서비스에 대한 문서 |
| 감사인이 AWS 데이터센터의 보안 인증 보고서를 요구한다 | "AWS 의 인증 보고서" | AWS Artifact | CloudTrail: 우리 계정의 활동 기록 |
| 보험금 지급 거절은 반드시 담당자가 최종 확인해야 한다 | "반드시 사람이" | Human-in-the-Loop | Guardrails: 사람 검토를 대신하지 않는다 |
| 학습 데이터 버킷의 암호화가 누군가에 의해 꺼졌는지 계속 점검하고 싶다 | "설정 상태를 계속" | AWS Config | Macie: 민감 데이터 탐지가 중심 |
막히는 항목이 있으면 그 날의 글로 돌아간다. 아래는 한 줄 답이다. 먼저 스스로 답한 뒤 맞춰 본다.
| 번호 | 한 줄 답 | 돌아갈 곳 |
|---|---|---|
| 1 | 편향은 원인이고 불공정은 그 결과다 | Day 1 |
| 2 | 투명성은 시스템이 무엇인지의 공개, 설명가능성은 개별 결정의 이유 | Day 1 |
| 3 | 나쁜 의도가 있어야 생긴다, 데이터가 많으면 사라진다 | Day 1 |
| 4 | Clarify 는 측정·설명, Model Monitor 는 배포 후 지속 감시 | Day 2 |
| 5 | 데이터(분류·암호화), 접근 권한(IAM), 구성(네트워크 등) | Day 3 |
| 6 | 권한이 넓을수록 실수와 침해의 피해 범위가 커지기 때문이다 | Day 3 |
| 7 | 저장 중은 KMS 키로 암호화, 전송 중은 TLS | Day 3 |
| 8 | Macie 는 S3 에 저장된 데이터, Comprehend 는 넘겨받은 텍스트 | Day 3 |
| 9 | 트래픽이 공용 인터넷을 거치는 문제 | Day 3 |
| 10 | CloudTrail 은 누가 무엇을 했나, CloudWatch 는 어떻게 동작하나 | Day 4 |
| 11 | 저작권, 환각으로 인한 허위 정보, 딥페이크(편향·프라이버시·고지 의무도 가능) | Day 4 |
| 12 | Human-in-the-Loop | Day 1 |
가상의 사례로, 한 핀테크가 생성형 AI 대출 상담 서비스를 책임 있게 출시했다. ① 학습 데이터의 출처·품질을 점검하고 PII 를 Comprehend 로 마스킹(거버넌스+프라이버시), ② Clarify 로 특정 집단 편향을 측정·완화(공정성), ③ IAM 최소 권한과 KMS 암호화, PrivateLink 로 데이터를 보호(보안), ④ Bedrock Guardrails 로 출력에서 부적절한 투자·금융 조언과 PII 를 차단(안전), ⑤ 대출 거절 같은 고위험 결정은 사람이 검토(HITL)하고 설명을 제공(설명가능성), ⑥ 모든 작업을 CloudTrail 로 로깅하고 Model Monitor 로 운영을 감시(거버넌스·감사). Week 5 의 모든 조각이 하나의 시스템에서 맞물린 사례다.
Week 5 를 세 문장으로 줄이면 이렇다. 책임 있는 AI 는 공정성·투명성·설명가능성·프라이버시 등의 원칙을 SageMaker Clarify·Model Monitor·Bedrock Guardrails·AI Service Cards 로 구현한다. IAM·암호화·PII 보호·PrivateLink 로 기술적으로 방어한다. 데이터·모델 거버넌스와 CloudTrail 감사로 추적·증명한다.
다음 주는 마지막 주차다. 다섯 도메인을 차례로 다시 훑고 모의 문제와 시험 당일 전략으로 마무리한다.
선택지를 클릭하면 정답·해설이 펼쳐집니다.
문제 1
Week 5의 흐름을 종합할 때, 다음을 "원칙 → AWS 구현 도구"로 올바르게 연결한 것은?
문제 2
다음 중 책임 공유 모델에서 "고객의 책임"으로 보기 어려운 것은?
문제 3
한 팀이 배포된 모델의 성능이 시간이 지나며 떨어지는지 감지하고, 동시에 편향이 심해지는지(편향 드리프트)도 감시하려 한다. 가장 적절한 조합은?
문제 4
다음 함정 중 옳은(올바른) 설명은?
문제 5
한 기업이 생성형 AI 서비스를 책임 있게 출시하려 한다. 다음 중 가장 적절하지 않은 조치는?