Day 3 - 도메인 복습 3: 책임 있는 AI + 보안·거버넌스 핵심 총정리

책임 있는 AI의 핵심 원칙

기술이 강력할수록 "어떻게 안전하고 책임 있게 쓰느냐"가 중요해진다. 이 영역의 문제는 대부분 "올바른 가치 판단"을 요구하므로, 외우기보다 "왜 그렇게 해야 하는가"의 맥락을 잡는 것이 효과적이다. 책임 있는 AI 는 모델을 "정확하게"뿐 아니라 "공정하고 안전하며 투명하게" 만드는 모든 노력을 말한다.

이 원칙들은 추상적으로 보이지만, 시험에서는 구체적 상황으로 나온다. 예를 들어 "대출 심사 모델이 특정 인종에게 불리한 결정을 반복한다"는 공정성/편향 문제이고, "왜 거절됐는지 고객에게 설명해야 한다"는 설명가능성 문제다.

편향(bias)은 대개 "데이터"에서 들어온다. 과거 채용 데이터가 특정 성별에 치우쳐 있으면, 그걸 학습한 모델도 그 차별을 그대로 재생산한다. 모델은 데이터의 거울이기 때문이다. 그래서 공정성 확보는 "알고리즘을 고치는 일"이기 전에 "데이터를 점검하는 일"이다. AWS 에서는 SageMaker Clarify 가 학습 데이터와 모델의 편향을 측정하고, 예측에 대한 설명(feature 기여도)을 제공해 공정성·설명가능성을 함께 돕는다.

환각·편향·독성: 생성형 AI의 위험과 완화

생성형 AI 특유의 위험도 책임 있는 AI 의 일부다.

• 환각(Hallucination): 사실이 아닌 내용을 그럴듯하게 지어냄. 완화책은 RAG(근거 문서 제공), 출처 인용, 사람 검토(human-in-the-loop)다.
• 편향(Bias): 학습 데이터의 차별이 출력에 반영됨. 완화책은 데이터 다양화·편향 측정·필터링이다.
• 독성/유해성(Toxicity): 혐오·폭력 등 부적절한 출력. 완화책은 콘텐츠 필터링과 가드레일이다.

AWS 에서는 Guardrails for Amazon Bedrock 이 유해 주제 차단, 민감정보(PII) 마스킹, 환각 억제 등을 정책으로 적용해 이 위험들을 한 번에 다룬다. 현재 문서의 이름은 Amazon Bedrock Guardrails 이며 같은 기능이다. "생성형 AI 출력의 안전성을 정책으로 통제하고 싶다"가 나오면 가드레일이 답이다.

💡 관련 이론: 환각이 생기는 근본 이유는 LLM 이 "사실 검증기"가 아니라 "다음 토큰 확률 예측기"이기 때문이다. 모델은 "그럴듯한" 문장을 만들 뿐 진위를 따지지 않는다. 그래서 환각을 줄이는 가장 효과적인 길은 모델을 더 키우는 것이 아니라, 답의 근거가 될 실제 문서를 함께 주는 것(RAG) 이다. 근거가 프롬프트에 있으면 모델은 지어낼 필요 없이 그 안에서 답하기 때문이다.

세 위험은 원인이 다르므로 처방도 다르다. 한 처방으로 다른 위험까지 풀리지는 않는다.

도메인 4 를 과제 진술문으로 다시 보기

시험 가이드의 도메인 4 는 과제가 둘이다. 각 과제에서 "한 문장으로 말할 수 있어야 하는 것"을 뽑으면 다음과 같다.

• 오픈소스 모델·데이터·라이선스가 투명성 도구로 꼽히는 이유는, 모델의 구조와 학습 데이터, 사용 조건이 공개돼 있으면 외부에서 검증할 수 있기 때문이다.
• 절충 문제의 전형은 이렇다. "성능이 조금 더 높은 복잡한 모델과, 결정 근거를 그대로 읽을 수 있는 단순한 모델 중 무엇을 고르나." 지문에 규제·감사·설명 의무가 있으면 단순한 쪽이 답이다.

AWS 보안 기초: 책임 공유 모델과 IAM

보안 영역은 AWS 공통 기초가 그대로 적용된다. 가장 먼저 나오는 것이 책임 공유 모델(Shared Responsibility Model) 이다.

• AWS의 책임("of the cloud"): 물리 인프라, 하드웨어, 기반 서비스의 보안.
• 고객의 책임("in the cloud"): 데이터, 접근 권한(IAM), 암호화 설정, 애플리케이션 보안.

즉 "데이터 보호와 권한 설정은 결국 고객 몫"이다. 시험에서 "누가 데이터 암호화에 책임이 있나?"는 거의 항상 고객이 답이다.

접근 통제의 핵심은 IAM(Identity and Access Management) 이며, 원칙은 최소 권한(least privilege) 이다. 필요한 만큼만 권한을 주는 것이다.

💡 관련 이론: 책임 공유 모델이 중요한 이유는 "클라우드를 쓴다고 보안이 자동으로 완성되지 않는다"는 점을 명확히 하기 때문이다. AWS 가 데이터센터를 아무리 튼튼하게 지켜도, 고객이 S3 버킷을 공개로 열어두거나 권한을 과하게 주면 데이터는 새어 나간다. 그래서 시험은 "설정·데이터·권한은 고객 책임"이라는 경계를 반복해서 묻는다.

"누구 책임인가"를 묻는 문장을 한 줄씩 판정해 본다.

도메인 5 를 과제 진술문으로 다시 보기

• 5.1 과 5.2 를 가르는 감각은 이렇다. 5.1 은 "막는다·지킨다", 5.2 는 "기록한다·증명한다·규칙을 정한다"다.

데이터 거버넌스와 규정 준수

생성형 AI 에서 특히 민감한 것이 데이터의 출처·소유권·프라이버시다. 핵심 포인트를 정리한다.

• 데이터 프라이버시: 개인정보(PII)는 수집·저장·학습 전반에서 보호해야 한다. Bedrock 가드레일이나 Comprehend PII 탐지로 마스킹할 수 있다.
• 모델 학습과 데이터: Bedrock 에서 FM 에 보낸 프롬프트·데이터는 기반 모델 재학습에 쓰이지 않는다(고객 데이터 분리). 모델 제공사는 고객의 프롬프트와 응답에 접근할 수 없다. 이는 신뢰의 핵심이다.
• 거버넌스 도구: 데이터의 추적·감사를 위해 로그(CloudTrail), 데이터 카탈로그, 접근 정책을 활용한다.
• 규정 준수(Compliance): GDPR·HIPAA 등 산업·지역 규정에 맞춰 데이터 처리·보관 정책을 정해야 한다.

투명성을 위해 AWS 는 AWS AI Service Cards(서비스의 용도·한계·공정성 고려 사항을 정리한 문서)를 제공한다. "AWS AI 서비스의 의도된 용도와 한계를 어디서 확인하나?"가 나오면 AI Service Cards 다. 우리가 만든 모델의 용도와 평가 결과를 기록하는 문서는 SageMaker Model Cards 다.

데이터 거버넌스의 본질은 "데이터의 생애를 통제하는 것"이다. 어디서 왔고(출처), 누가 쓸 수 있고(접근), 얼마나 보관하며(보존), 어떻게 폐기하는지(삭제)를 정해 두는 것이다. 생성형 AI 는 학습·추론에 막대한 데이터를 쓰므로, 거버넌스가 없으면 저작권·프라이버시·규정 위반 위험이 급증한다. 그래서 "강력한 AI"일수록 "강한 거버넌스"가 짝을 이뤄야 한다.

"기록하고 증명한다" 계열 서비스 가르기

이름만 보면 모두 "감시"처럼 보이는 서비스들이다. 각자 보는 대상이 다르다.

• Bedrock 호출에서 CloudTrail 이 남기는 것은 "누가 어떤 모델을 호출했나"다. 프롬프트와 응답의 내용까지 남기려면 Bedrock 의 모델 호출 로깅을 따로 켜야 한다(기본은 꺼져 있다).

가치 판단 문제를 푸는 다섯 원칙

이 두 도메인의 문제는 서비스 이름을 몰라도 방향만으로 오답을 지울 수 있다.

• 보기에 "무조건", "항상", "모든", "자동으로 해결"이 들어가면 대개 오답이다. 책임 있는 AI 와 보안에는 한 번에 끝나는 해결책이 없다.

흔한 오해 다섯 가지

다음 글에서는 이렇게 정리한 다섯 영역을 한꺼번에 점검하는 종합 모의 문제(8문항) 를 풀며 실전 감각을 끌어올린다.

📖 용어

• 독성(toxicity) : 혐오·폭력·모욕처럼 유해한 내용이 출력에 담기는 것.
• 그라운딩(grounding) : 모델의 응답을 실제 근거 문서에 묶어 두는 것.
• 포용성(inclusivity) : 다양한 사용자 집단이 배제되지 않도록 고려하는 성질.
• 하위 그룹 분석 : 전체가 아니라 집단별로 나눠 모델의 성능과 결과를 살피는 방법.
• 해석 가능성(interpretability) : 모델의 내부 동작을 사람이 직접 읽고 이해할 수 있는 정도.
• 최소 권한 : 업무에 꼭 필요한 권한만 주는 원칙.
• 감사 추적(audit trail) : 누가 언제 무엇을 했는지 거슬러 확인할 수 있는 기록의 흐름.
• 데이터 레지던시 : 데이터가 물리적으로 저장되는 지역에 대한 요구.
• 규정 준수(Compliance) : 법·규제·내부 규칙을 지키고, 지켰음을 보여 주는 것.

📝 연습 문제

선택지를 클릭하면 정답·해설이 펼쳐집니다.

문제 1

대출 심사 ML 모델이 특정 인구 집단에 반복적으로 불리한 결정을 내린다는 사실이 발견되었다. 이는 책임 있는 AI의 어떤 원칙과 가장 관련이 깊은가?

• A공정성(Fairness)
• B가용성(Availability)
• C확장성(Scalability)
• D비용 최적화(Cost optimization)

문제 2

생성형 AI 애플리케이션에서 유해 주제 차단, PII 마스킹, 환각 억제 등을 정책으로 일괄 적용하려고 한다. 가장 적합한 AWS 기능은?

• AAmazon Polly
• BGuardrails for Amazon Bedrock
• CAWS KMS
• DAmazon Forecast

문제 3

AWS 책임 공유 모델에서 "클라우드 안의(in the cloud)" 데이터 보호와 접근 권한 설정에 대한 책임은 누구에게 있는가?

• AAWS에게만 있다
• B고객에게 있다
• C인터넷 서비스 제공자(ISP)에게 있다
• D아무도 책임지지 않는다