Day 2 - 도메인 복습 2: 파운데이션 모델 응용(AWS AI 서비스) 핵심 총정리

층 1: 바로 쓰는 AI 서비스(사전학습 API)

오늘은 비중이 가장 큰 도메인 3(파운데이션 모델 응용, 28%)과, 여러 도메인에 걸쳐 나오는 서비스 고르기를 정리한다. AIF-C01 은 "이 상황에 가장 적합한 AWS 서비스는?"을 끝없이 묻는다. 서비스 이름과 "한 줄 용도"를 짝지어 빠르게 떠올리는 능력이 곧 점수다.

첫 층은 ML 지식 없이 API 호출만으로 쓰는 관리형 서비스들이다. 각각 "한 가지 일"을 잘한다.

이 서비스들의 공통점은 "AWS 가 이미 학습시켜 둔 모델을 빌려 쓴다"는 것이다. 사용자는 데이터·인프라·학습 과정을 신경 쓸 필요 없이 API 만 호출한다. 그래서 "ML 전문 인력이 없는 팀이 빠르게 기능을 붙이고 싶다"가 나오면 거의 항상 이 층의 서비스가 답이다. 반대로 "우리 데이터에 꼭 맞는 모델을 직접 만들어야 한다"면 다음 층(SageMaker)으로 넘어간다.

• 현재 시험 가이드의 범위 내 서비스 목록(기계 학습 분류)에는 Bedrock, Bedrock AgentCore, Comprehend, Lex, Nova, Personalize, Polly, Rekognition, SageMaker AI, SageMaker JumpStart, Textract, Transcribe, Translate, AWS Transform 이 적혀 있다. 목록은 "전부가 아니며 바뀔 수 있다"고 명시돼 있으므로, 목록에 없는 Forecast·Kendra 도 역할은 알아 두되 복습 시간은 목록에 있는 서비스에 더 쓴다.
• Amazon Forecast 는 AWS 문서에 신규 고객에게는 더 이상 제공되지 않고 기존 고객은 계속 쓸 수 있다고 안내돼 있다. "시계열 예측 = Forecast"라는 짝은 여전히 문제 풀이의 단서가 된다.

층 1 안에서 헷갈리는 쌍

• 서비스는 자주 이어 붙여 쓴다. 통화 녹음 → Transcribe → Comprehend(감정), 스캔 문서 → Textract → Comprehend(엔터티), 외국어 음성 → Transcribe → Translate → Polly. 보기에 조합이 나오면 화살표 순서가 데이터의 형태 변화(음성 → 글 → 분석)와 맞는지 확인한다.

층 2: 모델을 직접 만드는 SageMaker

Amazon SageMaker 는 ML 모델을 직접 구축·학습·배포하는 완전 관리형 플랫폼이다. 위의 API 서비스가 "기성품"이라면 SageMaker 는 "맞춤 제작 공방"이다. 데이터 준비부터 학습, 튜닝, 배포, 모니터링까지 ML 전체 수명주기를 다룬다. 현재 AWS 문서와 시험 가이드는 이 서비스를 Amazon SageMaker AI 라는 이름으로 적는다.

핵심 구분: "API 만 호출 = AI 서비스 층 / 모델을 직접 만들고 통제 = SageMaker"다.

SageMaker 가 책임지는 것은 "ML 수명주기의 반복 작업 자동화"다. 모델 학습에는 데이터 정제, 알고리즘 선택, 하이퍼파라미터 튜닝, GPU 인프라 관리, 배포·모니터링이 끝없이 따라온다. SageMaker 는 이 단계들을 관리형으로 묶어 데이터 과학자가 모델 자체에 집중하게 해준다. 그래서 "커스텀 모델", "직접 학습", "MLOps"라는 단어가 보이면 SageMaker 를 떠올리면 된다.

• JumpStart 는 Bedrock 과 SageMaker 사이에서 헷갈린다. 둘 다 사전학습 모델을 다루지만, JumpStart 는 SageMaker 환경에서 내가 직접 호스팅하고 파인튜닝하며 통제한다는 점이 다르다.

층 3: 생성형 AI — Bedrock과 Amazon Q

Amazon Bedrock 은 여러 회사의 파운데이션 모델을 API 하나로 호출하는 완전 관리형 서비스다. Anthropic, Meta, Amazon(Titan, Nova) 등 다양한 FM 을 인프라 관리 없이 쓰고, 자체 데이터로 커스터마이즈하거나 RAG·에이전트를 구성할 수 있다. "FM 을 호스팅·서빙"하거나 "여러 모델 중 골라 쓰고 싶다"면 Bedrock 이다.

Amazon Q 는 AWS 의 생성형 AI 비서다. 두 갈래가 있다.

Bedrock 위에서 RAG 를 직접 구성할 때 자주 함께 보이는 것이 Knowledge Bases for Bedrock(문서를 임베딩해 검색 근거로 제공)과 Agents for Bedrock(여러 단계 작업 자동 수행)이다. 현재 문서의 이름은 각각 Amazon Bedrock Knowledge Bases, Amazon Bedrock Agents 다. 안전장치도 예전 이름 "Guardrails for Amazon Bedrock"과 현재 이름 Amazon Bedrock Guardrails 가 함께 돌아다닌다. 문제에 어느 쪽으로 나오든 같은 기능이다.

💡 관련 이론: Bedrock 과 Amazon Q 의 관계는 "엔진과 완제품"에 가깝다. Bedrock 은 FM 을 가져다 직접 앱을 만드는 빌딩 블록이고, Amazon Q 는 그 위에 이미 비서 형태로 완성된 제품이다. 그래서 "개발자가 생성형 AI 앱을 직접 만든다"면 Bedrock, "바로 쓰는 사내 AI 비서가 필요하다"면 Amazon Q 가 답이 된다. 둘 다 모델을 새로 학습시키지 않고 기성 FM 을 활용한다는 점이 SageMaker 와의 결정적 차이다.

• 현재 시험 가이드는 생성형 AI 애플리케이션을 개발하는 AWS 서비스의 예로 Bedrock, SageMaker AI, SageMaker JumpStart 와 함께 Amazon Quick(조사·비즈니스 인사이트·자동화를 돕는 업무용 AI 도우미), Kiro(AI 기반 개발 환경), Strands Agents(에이전트를 만드는 오픈소스 프레임워크), Amazon Bedrock AgentCore(어떤 프레임워크·모델로 만든 에이전트든 안전하게 배포·운영하게 해 주는 플랫폼)를 든다. 입문 시험이므로 이름과 한 줄 용도를 짝지을 수 있으면 된다.

FM 을 내 용도에 맞추는 다섯 가지 방법

도메인 3 의 중심 질문은 "무엇을 써서 모델을 우리 일에 맞추나, 그리고 그 비용은"이다.

• 모델 증류(distillation) 는 방향이 다르다. 크고 비싼 모델(교사)의 응답으로 작고 싼 모델(학생)을 가르쳐, 비슷한 품질을 더 낮은 비용과 지연으로 얻으려는 방법이다. "품질은 유지하면서 추론 비용을 낮추고 싶다"가 단서다.
• 파인튜닝 데이터는 선별(curation), 거버넌스, 충분한 크기, 정확한 레이블, 대표성을 갖춰야 한다. 사람의 평가를 보상 신호로 써서 모델을 다듬는 방식(RLHF)도 시험 가이드의 용어다.
• 파인튜닝의 갈래로 지시 형식에 맞게 다듬는 지시 튜닝(instruction tuning), 특정 도메인 적응, 한 작업에서 배운 것을 다른 작업에 옮겨 쓰는 전이 학습이 있다.

RAG 를 구성하는 부품

• 흐름: 문서를 청크로 나눈다 → 임베딩 모델이 청크를 벡터로 바꾼다 → 벡터 데이터베이스에 저장한다 → 질문도 벡터로 바꿔 가까운 청크를 찾는다 → 찾은 청크를 프롬프트에 넣어 FM 이 답한다.
• 시험 가이드가 임베딩을 저장하는 벡터 데이터베이스로 드는 AWS 서비스는 Amazon OpenSearch Service, Amazon Aurora, Amazon Neptune, Amazon RDS for PostgreSQL 이다. 범위 내 서비스 목록에는 Amazon DocumentDB 도 있다.
• Amazon Bedrock Knowledge Bases 는 이 흐름(청킹, 임베딩, 저장, 검색)을 관리형으로 묶어 준다.
• RAG 는 모델을 바꾸지 않는다. 문서를 고치면 다음 질문부터 바로 반영된다. 이것이 자주 바뀌는 지식에 RAG 가 맞는 이유다.

프롬프트 엔지니어링: 기법과 위험

• 프롬프트의 구성 요소로 시험 가이드는 맥락(context), 지시(instruction), 네거티브 프롬프트를 든다. 좋은 프롬프트의 원칙은 구체적이되 간결하게, 그리고 실험으로 다듬는 것이다.

모델 고르기와 평가하기

• 선택 기준: 비용, 모달리티(텍스트·이미지 등), 지연, 다국어 지원, 모델 크기와 복잡도, 커스터마이즈 가능 여부, 입력·출력 길이, 프롬프트 캐싱.
• 추론 파라미터: temperature 와 입력·출력 길이가 응답에 미치는 영향을 묻는다(어제 정리).
• 요금 방식: 쓴 토큰만큼 내는 방식과, 처리 용량을 미리 확보하는 프로비저닝된 처리량 방식이 있다. 사용량이 들쭉날쭉하면 전자, 꾸준하고 많은 처리량이 보장돼야 하면 후자다.

• 지표가 높아도 사업 목표에 맞지 않으면 소용없다. 시험 가이드는 작업 완료율, 사용자 만족도, 상호작용당 비용을 사업 목표 정렬 지표로 든다.

빠른 선택 가이드: 상황 → 서비스

시험은 결국 "상황 → 서비스" 매핑이다. 대표적인 패턴을 압축한다.

• 스캔한 영수증/계약서에서 글자·표 추출 → Textract
• 사진 속 객체·얼굴·부적절 콘텐츠 식별 → Rekognition
• 고객 리뷰의 긍·부정 감정 분석 → Comprehend
• 콜센터 통화 녹음을 텍스트로 → Transcribe, 그 반대 → Polly
• 고객 응대 챗봇 구축 → Lex(또는 Q Business)
• 쇼핑몰 상품 추천 → Personalize
• 다국어 FM을 골라 앱에 통합 → Bedrock
• 커스텀 모델 직접 학습·배포 → SageMaker

💡 관련 이론: 같은 "텍스트"라도 작업이 다르면 서비스가 다르다. 글자를 "꺼내는" 것은 Textract(문서 OCR), 글자의 "뜻을 분석"하는 것은 Comprehend(NLU), 글자를 "만들어내는" 것은 Bedrock/LLM 이다. 시험 함정은 이 미묘한 동사 차이("추출 vs 분석 vs 생성")에 숨어 있으므로, 문제 속 동사를 먼저 잡는 습관이 정답률을 크게 올린다.

어느 층인지 정하는 세 질문

① 이미 만들어진 한 가지 기능으로 충분한가? (받아쓰기, 번역, OCR, 추천…)
   └─ 예 ─► 층 1의 AI 서비스

② 새 콘텐츠를 만들거나 자유로운 대화가 필요한가?
   ├─ 바로 쓰는 비서가 필요하다 ─► Amazon Q (업무 = Q Business, 코딩 = Q Developer)
   └─ 직접 앱을 만든다 ──────────► Amazon Bedrock

③ 우리 데이터로 모델 자체를 학습·튜닝·배포하고 통제해야 하는가?
   └─ 예 ─► Amazon SageMaker (사전학습 모델로 빨리 시작 = JumpStart)

• 운영 부담이 가장 적은 층부터 본다. ①로 되면 ①, 안 되면 ②, 그래도 안 되면 ③이다. "최소한의 ML 전문 지식으로"라는 한정어가 붙으면 ③은 거의 오답이다.

다음 글에서는 도메인 4·5 에 해당하는 책임 있는 AI 와 보안·거버넌스를 본문 위주로 정리한다. 기술만큼 "안전하게·책임 있게"가 시험에서 비중 있게 나온다.

📖 용어

• OCR : 이미지나 스캔 문서 속 글자를 텍스트로 읽어 내는 기술.
• STT / TTS : 음성을 글로 바꾸는 것 / 글을 음성으로 바꾸는 것.
• 인텐트(intent) : 챗봇이 파악해야 하는 사용자의 의도. 예: "주문 취소".
• RAG(검색 증강 생성) : 관련 문서를 검색해 프롬프트에 넣어 주고 그 근거로 답하게 하는 방식.
• 벡터 데이터베이스 : 임베딩 벡터를 저장하고 의미가 가까운 것을 찾아 주는 저장소.
• 파인튜닝 : 사전학습된 모델을 우리 데이터로 추가 학습시켜 가중치를 바꾸는 것.
• 모델 증류(distillation) : 큰 모델의 응답으로 작은 모델을 가르쳐 비용과 지연을 낮추는 방법.
• chain-of-thought : 모델이 답을 내기 전에 단계별로 추론을 풀어 쓰게 하는 프롬프트 기법.
• 프로비저닝된 처리량 : 일정한 처리 용량을 미리 확보해 두고 쓰는 요금 방식.
• LLM-as-a-judge : 한 LLM 의 응답을 다른 LLM 이 채점하게 하는 평가 방식.

📝 연습 문제

선택지를 클릭하면 정답·해설이 펼쳐집니다.

문제 1

스캔된 종이 계약서에서 텍스트와 표, 입력 양식 필드를 자동으로 추출하려고 한다. 가장 적합한 서비스는?

• AAmazon Comprehend
• BAmazon Textract
• CAmazon Polly
• DAmazon Translate

문제 2

ML 전문 인력 없이, 여러 회사의 파운데이션 모델을 단일 API로 호출해 생성형 AI 앱을 만들고 싶다. 가장 적합한 서비스는?

• AAmazon SageMaker
• BAmazon Rekognition
• CAmazon Bedrock
• DAmazon Forecast

문제 3

데이터 과학팀이 자사 고유 데이터로 커스텀 ML 모델을 직접 학습·튜닝·배포하고 운영 후 드리프트까지 모니터링하려고 한다. 가장 적합한 것은?

• AAmazon SageMaker
• BAmazon Q Business
• CAmazon Lex
• DAmazon Kendra

문제 4

고객 응대 음성봇/챗봇을 구축하려 한다. 인텐트(의도) 인식과 대화 흐름 관리에 특화된 서비스는?

• AAmazon Polly
• BAmazon Transcribe
• CAmazon Lex
• DAmazon Personalize

문제 5

Amazon Bedrock과 Amazon SageMaker의 핵심 차이로 가장 정확한 것은?

• ABedrock은 기성 파운데이션 모델을 활용하고, SageMaker는 커스텀 모델을 직접 구축·학습한다
• B둘 다 동일하며 이름만 다르다
• CBedrock은 이미지 전용, SageMaker는 텍스트 전용이다
• DSageMaker는 모델 학습이 불가능하다