생성형 AI는 놀랍지만, 동시에 위험하다. 자신만만하게 거짓을 말하고, 학습 데이터의 편견을 그대로 답에 담고, 같은 질문에 매번 다른 답을 한다. 이걸 모르고 의료·금융·법률 같은 중요한 곳에 그냥 배포하면 사람과 회사 모두 큰 대가를 치른다.
AIF-C01 시험은 단순히 "생성형 AI가 멋지다"를 묻지 않는다. "어디에 써야 하고 어디에 쓰면 안 되는가", 그리고 **"위험을 어떻게 줄이는가"**를 끊임없이 묻는다. 오늘은 생성형 AI의 3대 위험인 환각·편향·비결정성을 이해하고, 책임 있는 AI(Responsible AI) 관점에서 적합한 사용처를 가려내는 안목을 기른다.
환각은 모델이 사실이 아닌 내용을, 마치 사실인 양 그럴듯하게 만들어내는 현상이다. 존재하지 않는 논문을 인용하거나, 가짜 통계를 대거나, 없는 법 조항을 만들어낸다.
왜 이런 일이 생길까? Day 1에서 봤듯 LLM의 본질은 **"그럴듯한 다음 토큰을 예측"**하는 것이지, "진실을 검증"하는 게 아니다. 모델은 "사실인지"가 아니라 "자연스러운지"를 기준으로 답을 만든다. 그래서 모르는 것도 모른다고 하기보다 그럴듯하게 채워 넣는 경향이 있다.
환각을 줄이는 대표 방법: