Day 1 - 도메인 복습 1: AI/ML 기초 + 생성형 AI 기초 핵심 총정리

AI · ML · 딥러닝 · 생성형 AI: 포함 관계 다시 긋기

마지막 주차다. 복습 주차의 목표는 "새로 배우기"가 아니라 "헷갈리는 경계 다시 긋기"다. 오늘은 시험의 출발점인 도메인 1(AI/ML 기초, 20%)과 도메인 2(생성형 AI 기초, 24%)를 묶는다. 두 도메인을 합치면 채점 문항의 44% 이고, 나머지 도메인의 문제도 여기서 쓰는 용어 위에 세워진다.

기초 단계에서 가장 먼저 짚을 함정은 네 용어의 포함 관계다. 큰 원 안에 작은 원이 들어가는 구조다.

• "생성형 AI 는 ML 의 일종이다"는 참이고, "ML 은 모두 딥러닝이다"는 거짓이다.
• 규칙을 사람이 직접 코드로 적으면 그것은 ML 이 아니라 규칙 기반(rule-based) 시스템이다.
• 현재 시험 가이드는 여기에 에이전트형 AI(agentic AI) 를 더해 비교하게 한다. 생성형 AI 가 "요청받은 콘텐츠를 만든다"면, 에이전트형 AI 는 모델이 목표를 받아 스스로 단계를 계획하고 도구를 호출해 일을 끝낸다. 포함 관계의 새 원이라기보다 생성형 AI 모델을 "행동하는 주체"로 쓰는 방식이다.

💡 관련 이론: ML 이 전통 프로그래밍과 다른 본질은 "규칙을 사람이 짜느냐, 데이터에서 뽑아내느냐"다. 전통 프로그래밍은 입력 + 규칙 → 출력이지만, ML 은 입력 + 출력(정답) → 규칙(모델)을 거꾸로 학습한다. 그래서 ML 은 "정답이 붙은 데이터"가 충분해야 잘 작동하고, 데이터가 편향되면 모델도 편향된다. 시험에서 "스팸 규칙이 계속 바뀌어 사람이 일일이 못 따라간다" 같은 상황이 나오면 ML 이 답이 되는 이유가 이것이다.

학습 방식 3종: 지도 · 비지도 · 강화

ML 학습 방식은 "정답(레이블)이 있느냐"로 갈린다.

• 지도학습 안에서 또 갈린다. 출력이 범주(스팸/정상, 개/고양이)면 분류(classification), 출력이 연속 숫자(가격, 온도)면 회귀(regression) 다. 이 구분이 시험에서 답을 가른다.
• 숫자가 나온다고 모두 회귀는 아니다. "1~5 등급 중 하나"처럼 정해진 칸에서 고르면 분류다. 반대로 "내일 방문자 수"는 셀 수 있는 값이지만 연속된 크기를 맞히므로 회귀다.

비지도학습이 "정답 없이도 학습한다"는 말은 데이터 안의 구조(거리, 밀도, 분포)를 스스로 찾는다는 뜻이다. 예컨대 군집화는 "가까운 것끼리 묶는다"는 거리 개념만으로 그룹을 만든다. 그래서 비지도학습은 "무엇을 찾을지 미리 모르는" 탐색적 상황(이상 거래 탐지, 고객 그룹 발견)에 강하다. 반대로 "이미 무엇이 정답인지 아는" 상황이면 지도학습이 맞다.

도메인 1 에서 놓치기 쉬운 네 가지

포함 관계와 학습 방식만 보고 넘어가면 빠지는 항목이다. 시험 가이드의 도메인 1 과제에 모두 들어 있다.

① ML 을 쓰지 말아야 할 때

② 전통 ML 모델과 파운데이션 모델 중 무엇을 쓸까

• "대출 승인 여부를 판정하고 거절 사유를 설명해야 한다"는 지문에서 무조건 최신 대형 모델을 고르면 틀린다. 규제와 설명 요구가 보이면 전통 ML 쪽을 먼저 본다.

③ 추론 방식 네 가지

④ 평가 지표

• 정확도는 전체 중 맞힌 비율이다. 클래스가 심하게 불균형하면(사기 1%) 전부 "정상"이라 답해도 99% 가 나와 믿을 수 없다.
• 정밀도는 잡은 것 중 진짜의 비율(잘못 잡는 실수를 줄임), 재현율은 진짜 중 잡아낸 비율(놓치는 실수를 줄임)이다. 스팸 필터는 정밀도, 암 진단은 재현율이 우선이다.
• F1 점수는 정밀도와 재현율을 함께 보는 지표다.
• 시험 가이드는 모델 지표와 별개로 비즈니스 지표(사용자당 비용, 개발 비용, 고객 피드백, 투자 대비 수익)도 평가 기준으로 든다. 정확도가 높아도 비용이 수익을 넘으면 좋은 모델이 아니다.

생성형 AI 기초: 토큰 · 임베딩 · 파운데이션 모델

• 생성형 AI 는 단어가 아니라 토큰(token) 단위로 텍스트를 다룬다. 토큰은 단어 조각이며, 모델 비용과 컨텍스트 한도가 모두 토큰 수로 계산된다. 입력 토큰 + 출력 토큰이 곧 요금이다.
• 임베딩(embedding) 은 텍스트·이미지를 의미를 담은 숫자 벡터로 바꾼 것이다. 의미가 비슷하면 벡터도 가깝다. 검색, 추천, RAG 의 기반이 된다.
• 파운데이션 모델(FM) 은 방대한 데이터로 사전학습된 대형 범용 모델로, 하나의 모델이 요약·번역·분류 등 여러 작업에 두루 쓰인다. 그중 텍스트 중심의 거대 모델이 LLM(대규모 언어 모델) 이다.

LLM 이 글을 쓰는 원리는 "다음 토큰 확률 예측"이다. 지금까지의 토큰을 보고 다음에 올 가장 그럴듯한 토큰을 하나씩 골라 이어 붙인다. 이 확률적 특성 때문에 같은 질문에도 답이 조금씩 달라지고(비결정성), 모르는 것도 그럴듯하게 지어내는 환각(hallucination) 이 생긴다. 토큰·확률·환각은 한 뿌리에서 나온 개념이라 함께 이해해야 한다.

시험 가이드의 기초 용어 가운데 위 표에 없는 것을 한 줄씩 더한다.

토큰이 비용과 성능을 정한다

• 요금은 입력 토큰 + 출력 토큰으로 매겨진다. 프롬프트가 길어지면 입력 비용이, 답이 길어지면 출력 비용이 는다.
• 챗봇은 매 턴마다 이전 대화를 다시 입력으로 넣는다. 대화가 길어질수록 같은 질문 하나의 비용이 커지고, 컨텍스트 윈도우를 넘으면 앞부분이 잘린다.
• 처리할 토큰이 많을수록 응답도 느려진다. 비용과 지연은 대개 함께 움직인다.
• 그래서 컨텍스트에 무엇을 넣을지 고르는 일이 중요해진다. 시험 가이드는 이를 컨텍스트 엔지니어링이라 부른다. 지시문, 검색해 온 문서, 대화 기록, 도구 실행 결과 가운데 지금 필요한 것만 골라 넣어 품질을 높이고 토큰을 아낀다.
• 줄이는 수단: 출력 길이 상한(max tokens), 꼭 필요한 문서 조각만 검색해 넣기, 작업에 맞는 작은 모델 고르기.

추론 파라미터와 프롬프트 한 줄 정리

생성 결과를 조절하는 핵심 파라미터와 프롬프트 기법도 시험 범위에 든다.

• Temperature: 높을수록 다양·창의적, 낮을수록 일관·보수적. 정확성이 중요하면 낮춘다.
• Top-p / Top-k: 다음 토큰 후보 범위를 좁히는 샘플링 조절.
• Max tokens: 출력 길이 상한(비용 통제).
• Zero-shot: 예시 없이 지시만. Few-shot: 예시 몇 개로 패턴 제시(가중치 변경 없음, In-Context Learning).
• 모델 동작을 바꾸는 시도 순서는 프롬프트 엔지니어링 → RAG → 파인튜닝으로, 싸고 빠른 것부터다.

💡 관련 이론: temperature 를 0 에 가깝게 하면 모델은 매번 "가장 확률 높은 토큰"만 고르므로 거의 결정적으로 동작한다. 그래서 분류·추출처럼 정답이 하나인 작업엔 낮은 temperature 가, 브레인스토밍·카피라이팅처럼 다양성이 필요한 작업엔 높은 temperature 가 맞다. "창의성 ↔ 일관성"의 손잡이라고 기억하면 된다.

• 파라미터는 모델이 아는 것을 바꾸지 못한다. temperature 를 아무리 조절해도 모델이 모르는 정보는 생기지 않는다.

생성형 AI 의 강점과 약점, 그리고 모델 고르기

• 모델을 고를 때는 모델 유형, 성능 요구, 기능, 제약, 규정 준수, 비용, 지연, 모델 복잡도를 함께 본다. "가장 큰 모델"이 정답인 경우는 드물다. 요구를 채우는 가장 작고 싼 모델이 대개 맞는 답이다.
• 비즈니스 가치는 효율, 전환율, 사용자당 평균 매출, 정확도, 고객 생애 가치, 투자 대비 수익 같은 지표로 본다.

에이전트형 AI 기초 용어

현재 시험 가이드는 에이전트형 AI 의 기초 개념을 도메인 2 에 넣었다. 입문 시험이므로 용어를 한 줄로 말할 수 있으면 된다.

• 챗봇과 에이전트를 가르는 것은 행동이다. "환불 규정을 알려 준다"는 답변이고, "주문을 조회해 환불을 접수한다"는 에이전트의 일이다.

흔한 오해 여섯 가지

도메인 1·2 마지막 점검표

아래 문장을 소리 내어 완성할 수 있으면 그 줄은 통과다.

[도메인 1 — AI/ML 기초]
□ 네 용어의 포함 관계는? (→ AI ⊃ ML ⊃ 딥러닝 ⊃ 생성형 AI)
□ 분류와 회귀를 가르는 것은? (→ 출력이 범주인가 연속 숫자인가)
□ 레이블 없이 그룹을 찾는 작업은? (→ 비지도학습의 군집화)
□ ML 이 맞지 않는 상황 두 가지는? (→ 규칙이 명확하다, 정해진 한 가지 결과가 필요하다)
□ 놓치면 안 될 때 우선하는 지표는? (→ 재현율)
□ 밤새 대량으로 한꺼번에 예측하는 추론 방식은? (→ 배치 추론)
□ 설명이 꼭 필요한 규제 업무에 먼저 고려할 모델은? (→ 전통 ML 모델)
 
[도메인 2 — 생성형 AI 기초]
□ 비용과 한도의 단위는? (→ 토큰, 입력 + 출력)
□ 의미가 비슷하면 가까워지는 숫자 표현은? (→ 임베딩)
□ 환각이 생기는 근본 이유는? (→ 사실 검증이 아니라 다음 토큰 확률 예측)
□ 일관된 답이 필요할 때 temperature 는? (→ 낮춘다)
□ few-shot 에서 바뀌지 않는 것은? (→ 모델 가중치)
□ 모델 동작을 바꾸는 시도 순서는? (→ 프롬프트 → RAG → 파인튜닝)
□ 답변과 에이전트를 가르는 것은? (→ 도구를 써서 실제로 행동하는가)

다음 글에서는 이 기초 위에서 AWS 의 AI 서비스(파운데이션 모델 응용) 를 한 번에 정리한다. "어떤 상황엔 어떤 서비스"를 빠르게 떠올리는 연습이 핵심이다.

📖 용어

• 규칙 기반 시스템 : 사람이 조건과 규칙을 직접 코드로 적어 동작하게 만든 시스템. 데이터에서 배우지 않는다.
• 레이블(label) : 학습 데이터에 붙어 있는 정답.
• 분류 / 회귀 : 범주를 맞히는 작업 / 연속된 숫자를 맞히는 작업.
• 군집화(clustering) : 정답 없이 비슷한 것끼리 묶는 비지도학습 작업.
• 토큰(token) : 모델이 텍스트를 다루는 단위인 단어 조각. 비용과 한도의 기준이다.
• 임베딩(embedding) : 의미를 담도록 텍스트나 이미지를 바꾼 숫자 벡터.
• 파운데이션 모델(FM) : 방대한 데이터로 미리 학습해 여러 작업에 재사용하는 대형 모델.
• 환각(hallucination) : 사실이 아닌 내용을 그럴듯하게 만들어 내는 현상.
• In-Context Learning : 가중치를 바꾸지 않고 프롬프트 안의 예시만으로 패턴을 따르게 하는 것.
• 에이전트형 AI(agentic AI) : 모델이 목표를 향해 스스로 계획하고 도구를 써서 행동하는 방식의 AI.