Day 4 - 데이터 거버넌스와 규정 준수: 데이터 출처·품질, 모델 거버넌스, 감사·로깅, 생성형 AI의 법적·윤리 고려

데이터 거버넌스: 출처와 품질부터

어제는 AI 보안의 기술적 방어(IAM, 암호화, PII, PrivateLink)를 봤다. 오늘은 그 위에 얹히는 조직적 관리다. 보안이 "벽을 세우는 일"이라면 거버넌스는 규칙을 정하고 지켰음을 증명하는 일이다. AI 는 데이터로 만들어지므로 거버넌스의 출발점도 데이터다.

• 데이터 출처(Data Lineage/Provenance): 데이터가 어디서 왔고, 어떤 변환을 거쳤는지 추적하는 것. "이 모델은 어떤 데이터로 학습됐나?"에 답할 수 있어야 한다. 출처가 불분명한 데이터는 저작권·편향·규정 위반의 씨앗이 된다.
• 데이터 품질(Data Quality): 정확성, 완전성, 일관성, 최신성. "쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)"는 ML 의 철칙이다. 품질이 낮은 데이터는 편향되고 부정확한 모델을 만든다.
• 데이터 분류(Data Classification): 민감도에 따라 데이터를 분류(공개/내부/기밀/PII)하고, 등급별로 다른 보호·접근 규칙을 적용한다.

데이터 거버넌스는 책임 있는 AI 와 직결된다. 출처를 모르는 데이터로 학습하면 편향(공정성 침해)이나 저작권 침해를 알아채지 못한다. 품질이 낮으면 모델 신뢰성이 떨어진다. 즉 좋은 거버넌스는 "나중에 문제가 생겼을 때 원인을 추적하고 책임질 수 있는 상태"를 만든다.

시험 가이드는 출처를 밝히고 데이터의 기원을 기록하는 개념으로 세 가지를 예로 든다.

• 생성형 AI 에서 출처 인용(source citation) 은 응답이 어떤 문서에 근거했는지 함께 보여주는 것이다. RAG 응답에 근거 문서를 달아 주면 사용자가 진위를 직접 확인할 수 있다.

데이터 수명주기 전략 여섯 가지

시험 가이드는 데이터 거버넌스 전략의 예로 수명주기, 로깅, 보관 위치, 모니터링, 관찰, 보존을 든다.

• 레지던시와 보존은 자주 섞인다. 레지던시는 어디에 두나, 보존은 얼마나 오래 두나다.
• 보안 측면의 데이터 엔지니어링 모범 사례로 시험 가이드는 데이터 품질 평가, 프라이버시 강화 기술 적용, 데이터 접근 통제, 데이터 무결성을 든다.

모델 거버넌스: 모델의 일생을 관리

모델 거버넌스는 모델의 전 수명주기(개발 → 검증 → 배포 → 운영 → 폐기)에 걸쳐 통제·기록·책임 체계를 두는 것이다.

• AWS 에서는 SageMaker Model Registry 로 모델 버전·승인 상태를 관리하고, SageMaker Model Cards 로 모델 정보를 문서화한다.
• Model Cards 는 Model Registry 와 통합되어 있어, 등록한 모델 버전에 감사용 정보를 덧붙일 수 있다.
• Registry 는 "어느 버전이 승인됐고 배포됐나"를, Cards 는 "이 모델이 무엇이고 어떻게 평가됐나"를 답한다.

🔍 더 깊이: 모델 거버넌스는 Day 2 에서 배운 도구들과 연결된다. Clarify 로 편향을 측정하고, Model Monitor 로 운영 중 드리프트를 감시하며, Model Registry 로 버전을 추적하는 것이 모두 거버넌스의 실천이다. "거버넌스"는 추상적 개념이 아니라 이 도구들을 절차에 엮는 일이다.

감사와 로깅: 증명할 수 있어야 규정 준수

규정 준수의 핵심은 "우리가 규칙을 지켰다는 것을 증명할 수 있는가"다. 그 토대가 감사 로그다.

• AWS CloudTrail: AWS 계정에서 일어난 모든 API 호출을 기록한다. "누가, 언제, 어떤 리소스에, 무슨 작업을 했는지"를 남긴다. 모델을 누가 배포했는지, 데이터에 누가 접근했는지 추적할 수 있다.
• Amazon CloudWatch: 지표·로그·경보 중심의 운영 모니터링. 성능 이상이나 임계치 초과를 감지해 알린다.
• AWS Config: 리소스 구성 변경을 추적하고 규정 준수 규칙에 맞는지 평가한다.

⚠️ 함정: CloudTrail 과 CloudWatch 를 혼동하기 쉽다. CloudTrail = "누가 무엇을 했나"(감사·추적), CloudWatch = "시스템이 어떻게 동작하나"(성능·지표 모니터링). 시험에서 "규정 준수 감사를 위해 API 호출 이력이 필요하다"면 CloudTrail 이 답이다.

• CloudTrail 의 기록은 두 종류로 나뉜다. 리소스를 만들고 바꾸는 관리 이벤트는 기본으로 기록되고, 리소스 안의 데이터를 다루는 대량의 데이터 이벤트는 따로 켜야 기록된다. 입문 시험에서는 "API 활동의 감사 기록 = CloudTrail"만 확실히 하면 된다.
• 규정 준수 프레임워크(GDPR, HIPAA, SOC, ISO 등)는 산업·지역에 따라 다르며, AWS 는 이를 지원하는 인증과 도구를 제공한다. AIF 수준에서는 "감사 가능성과 추적성이 규정 준수의 핵심"이라는 점을 이해하면 충분하다.

생성형 AI 호출에서 "무엇이 기록되나"

Bedrock 을 쓸 때는 기록이 두 층으로 나뉜다. 이름이 비슷해 섞이기 쉽다.

• "프롬프트와 응답 내용을 감사 목적으로 보관해야 한다"는 요구는 CloudTrail 만으로 채워지지 않는다. 모델 호출 로깅을 켜야 한다.
• 호출 로그에는 사용자가 입력한 내용이 그대로 담긴다. 그 안에 개인정보가 있을 수 있으므로 로그 저장소에도 접근 통제와 암호화를 적용해야 한다.

규정 준수를 돕는 AWS 서비스 다섯 가지

시험 가이드는 거버넌스와 규정 준수를 돕는 서비스로 AWS Config, Amazon Inspector, AWS Artifact, AWS CloudTrail, AWS Trusted Advisor 를 든다.

• AWS Artifact 는 ISO·PCI·SOC 보고서 같은 AWS 의 규정 준수 문서를 필요할 때 내려받는 곳이다. AWS 와의 계약(agreement)을 검토·수락·관리하는 기능도 있다. 문서와 계약은 무료로 제공된다.
• Artifact 가 증명하는 것은 AWS 인프라와 서비스의 준수다. 우리 회사의 준수를 증명하는 문서는 고객이 직접 만들거나 확보해야 한다. 책임 공유 모델이 규정 준수에도 그대로 적용된다.
• Config 와 CloudTrail 은 관점이 다르다. CloudTrail 은 행위("누가 버킷 설정을 바꿨다")를, Config 는 상태("지금 이 버킷은 암호화가 꺼져 있고 규칙 위반이다")를 본다.

거버넌스를 절차로 만드는 것들

도구만으로는 거버넌스가 되지 않는다. 시험 가이드는 거버넌스 규약을 따르는 절차의 예로 다음을 든다.

Generative AI Security Scoping Matrix 는 AWS 가 제시하는 분류 틀이다. 생성형 AI 를 쓰는 방식을 모델과 데이터에 대한 소유 정도에 따라 다섯 범위로 나눈다.

• 번호가 커질수록 모델과 데이터에 대한 소유와 통제가 커지고, 그만큼 고객이 져야 할 보안 책임도 커진다.
• 이 틀은 범위마다 거버넌스·규정 준수, 법률·프라이버시, 위험 관리, 통제, 복원력의 다섯 측면에서 무엇을 챙길지 생각하게 한다.

생성형 AI의 법적·윤리 고려

생성형 AI 는 기존 ML 에 없던 새로운 법적·윤리 쟁점을 만든다. 시험에서 다루는 것들이다.

• 저작권·지식재산권: 학습 데이터에 저작물이 포함됐을 수 있고, 생성된 결과물의 저작권 귀속도 불분명하다.
• 환각(Hallucination)으로 인한 허위 정보: 그럴듯한 거짓을 사실처럼 생성해 법적 책임 문제를 일으킬 수 있다.
• 편향과 차별: 생성 결과가 특정 집단에 불공정하거나 유해할 수 있다.
• 프라이버시: 학습 데이터의 개인정보가 출력에 새어 나올 수 있다.
• 딥페이크·오용: 가짜 이미지·음성·영상으로 사기·명예훼손에 악용될 수 있다.
• 투명성 의무: 사용자에게 "AI 가 생성한 콘텐츠"임을 알려야 하는 규제가 늘고 있다.

시험 가이드가 꼽는 생성형 AI 의 법적 위험과 대응을 짝지으면 다음과 같다.

• 환각을 찾아내고 줄이는 방법으로 시험 가이드는 RAG 그라운딩, 출력 검증, 신뢰도 점수(confidence scoring)를 든다. 근거 문서를 주고(RAG), 응답이 근거에 맞는지 확인하고(검증), 확신이 낮은 응답은 따로 처리한다.

가상의 사례로, 한 미디어 회사가 생성형 AI 로 기사 초안을 작성하기로 했다. 거버넌스 차원에서 ① 학습·참조 데이터의 출처를 명확히 해 저작권 위험을 점검하고, ② 환각을 막기 위해 사실은 RAG 로 사내 검증 자료에 근거하게 하고 사람이 최종 검토(HITL)하며, ③ "AI 보조로 작성됨"을 명시해 투명성을 지켰고, ④ 모든 생성·배포 작업을 CloudTrail 로 로깅해 사후 감사 가능성을 확보했다. 기술 도입과 동시에 법적·윤리·추적 체계를 함께 세운 사례다.

거버넌스·규정 준수 빠른 복습

• 데이터 거버넌스: 출처(lineage), 품질, 분류. "쓰레기 들어가면 쓰레기 나온다."
• 모델 거버넌스: 버전·문서화·승인·모니터링·접근제어. Model Registry/Cards.
• 감사·로깅: CloudTrail(누가 무엇을), CloudWatch(어떻게 동작), Config(구성 준수).
• 생성형 AI 법·윤리: 저작권, 환각, 편향, 프라이버시, 딥페이크, 투명성 고지.

내일은 Week 5 전체(책임 있는 AI 원칙, AWS 도구, 보안, 거버넌스)를 하나의 큰 그림으로 묶는 종합 복습이다.

📖 용어

• 거버넌스(Governance) : 누가 무엇을 어떤 규칙으로 다루는지 정하고, 지켰음을 증명할 수 있게 하는 관리 체계.
• 규정 준수(Compliance) : 법·규제·내부 규칙을 지키는 것, 그리고 지켰음을 보여주는 것.
• 데이터 리니지(lineage) : 데이터가 어디서 와서 어떤 변환을 거쳤는지의 이력.
• 데이터 카탈로그 : 조직이 가진 데이터의 목록과 설명을 모아 둔 것.
• 데이터 레지던시 : 데이터가 물리적으로 저장되는 지역에 대한 요구.
• 보존(retention) : 데이터를 얼마 동안 보관하고 언제 폐기할지에 대한 규칙.
• 감사 로그 : 누가 언제 무엇을 했는지 나중에 확인할 수 있도록 남긴 기록.
• 모델 호출 로깅 : Bedrock 에서 요청·응답 내용과 메타데이터를 CloudWatch Logs 나 S3 에 남기는 기능.
• 딥페이크 : AI 로 만든 가짜 이미지·음성·영상.
• Generative AI Security Scoping Matrix : 생성형 AI 사용 방식을 다섯 범위로 나눠 필요한 보안 수준을 가늠하게 하는 AWS 의 분류 틀.

📝 연습 문제

선택지를 클릭하면 정답·해설이 펼쳐집니다.

문제 1

"이 모델이 어떤 데이터로 학습됐고, 데이터가 어떤 변환을 거쳤는지" 추적할 수 있어야 한다. 이것을 가리키는 데이터 거버넌스 개념은?

• A데이터 출처(Data Lineage/Provenance)
• B데이터 압축
• C모델 배포 속도
• D네트워크 대역폭

문제 2

규정 준수 감사를 위해 "누가, 언제, 어떤 리소스에, 무슨 작업을 했는지"의 API 호출 이력을 남기려 한다. 가장 적절한 AWS 서비스는?

• AAmazon CloudWatch
• BAWS CloudTrail
• CAWS PrivateLink
• DAmazon Comprehend

문제 3

CloudTrail과 CloudWatch의 차이를 가장 잘 설명한 것은?

• ACloudTrail은 누가 무엇을 했는지(감사), CloudWatch는 시스템이 어떻게 동작하는지(성능·지표)를 다룬다
• B둘은 완전히 같은 서비스다
• CCloudTrail은 모델을 학습시키고, CloudWatch는 데이터를 암호화한다
• DCloudWatch는 API 호출 감사 전용이다

문제 4

다음 중 생성형 AI 도입 시 고려해야 할 법적·윤리 쟁점으로 보기 어려운 것은?

• A학습 데이터에 포함된 저작물의 저작권 문제
• B환각으로 인한 허위 정보 생성과 그에 따른 책임
• C딥페이크 등 생성물의 악용 가능성
• DGPU의 물리적 발열량 사양

문제 5

모델 거버넌스의 실천으로 보기 가장 어려운 것은?

• ASageMaker Model Registry로 모델 버전과 승인 상태를 관리한다
• B모델의 학습 데이터·성능·한계를 문서화(모델 카드)한다
• C배포 후 Model Monitor로 성능·편향 드리프트를 감시한다
• D모든 직원에게 모델 수정·배포 권한을 무제한 부여한다