지금까지는 데이터를 주고 처음부터 모델을 학습시키는 흐름을 봤다. 하지만 이미지 분류기나 텍스트 생성 모델을 매번 밑바닥부터 학습하는 건 데이터·시간·비용 모두 막대하다. 이미 잘 학습된 모델을 가져다 내 문제에 맞게 조금만 손보는 게 훨씬 합리적일 때가 많다. SageMaker JumpStart가 이 길을 열어준다. 오늘은 JumpStart와 전이학습, 그리고 학습 단계 전반의 비용 최적화를 묶어서 본다.
MLA-C01 시험에서 이 주제는 "사전학습 모델 빠른 배포", "전이학습으로 적은 데이터·비용으로 모델 만들기", "학습 비용을 줄이는 여러 수단" 키워드로 나온다.
JumpStart는 수백 개의 사전학습 모델과 솔루션 템플릿을 모아둔 허브다. 이미지 분류, 객체 탐지, 텍스트 분류, 요약, 텍스트 생성(LLM 포함) 등 검증된 모델을 몇 줄로 배포하거나 내 데이터로 미세조정(fine-tune)할 수 있다.
from sagemaker.jumpstart.model import JumpStartModel
# 사전학습 모델을 그대로 배포
model = JumpStartModel(model_id='huggingface-text2text-flan-t5-base')
predictor = model.deploy()
response = predictor.predict({'inputs': '이 문장을 요약해줘: ...'})